THE SHORT ANSWER
Maliyeti ve gecikmeyi önemli ölçüde artırırken, modelin komutun ortasındaki kesin bilgileri bulma yeteneğini zayıflatır.
Flashcards
Q1
'Ortada Kaybolma' (Lost in the Middle) fenomeni nedir?
LLM'ler uzun bir bağlamın başındaki ve sonundaki bilgileri kullanmakta çok başarılıdır, ancak ortadaki gerçekleri çıkarmakta zorlanırlar.
Q2
Sistem komutları (system prompts) token sınırlarını nasıl etkiler?
Sistem komutları, tüm oturum boyunca tokenları kalıcı olarak tüketir ve kullanıcı girişi ile bağlam için kullanılabilecek alanı azaltır.
Q3
Geri çağırma (RAG) neden bağlamı doldurmaktan (context stuffing) daha iyidir?
RAG yalnızca matematiksel olarak ilgili parçaları enjekte eder, böylece komutları ucuz, hızlı ve yüksek oranda odaklanmış tutar.
İlgili Kavramlar
Chaos Stack Saha Notları SSS
Chaos Stack Saha Notları nedir?
Chaos Stack Saha Notları, temel mühendislik kavramlarını hızlıca açıklayan teknik bilgi kartlarıdır.
Bunların konulardan farkı nedir?
Konular, karakterleri, bölümleri ve ortamları birbirine bağlayan geniş tematik merkezlerdir. Saha Notları ise hızlı teknik hizalanma için kısa, doğrudan Soru-Cevap kartlarıdır.
AI özeti
Bu sayfa Token Ekonomisi ve Bağlam Pencereleri konusunu teknik bir bilgi kartı olarak ele almaktadır. Açıklama: Bir LLM bağlam penceresini (context window) en üst düzeye çıkarmak neden genellikle kötü bir fikirdir?.