Context Window

Context Window (Bağlam Penceresi), büyük dil modellerinin (Large Language Models – LLM’ler) tek seferde okuyabildiği, analiz edebildiği ve dikkate alabildiği en yüksek token sayısını ifade eder. Başka bir ifadeyle bağlam penceresi, modelin bir yanıt oluştururken “hafızasında” aynı anda tutabildiği metin miktarıdır. Bu kavram, modern üretken yapay zekâ sistemlerinin performansını belirleyen en önemli teknik özelliklerden biridir.

Büyük dil modelleri, kullanıcıdan gelen metni doğrudan kelime veya cümle olarak değil, tokenlar hâlinde işler. Model, yanıt üretirken yalnızca bağlam penceresi içerisinde bulunan tokenları dikkate alabilir. Bu sınır aşıldığında en eski tokenlar bağlamdan çıkarılır veya modele gönderilmez. Dolayısıyla model, bağlam penceresinin dışında kalan bilgileri yeni yanıtlarında kullanamaz.

Örneğin bir modelin 8.000 tokenlık bağlam penceresine sahip olduğunu düşünelim. Kullanıcının gönderdiği metin ve modelin oluşturduğu yanıtların toplamı 8.000 tokenı geçtiğinde, sistem en eski bölümleri dikkate almamaya başlayacaktır. Buna karşılık 128.000 tokenlık bir bağlam penceresine sahip model, yüzlerce sayfalık bir belgeyi tek oturumda analiz edebilir ve metnin çok daha geniş bir bölümünü dikkate alarak yanıt oluşturabilir.

Bağlam penceresi yalnızca kullanıcı tarafından yazılan metni kapsamaz. Genellikle aşağıdaki bileşenlerin toplamı bağlam penceresini oluşturur:

• Sistem talimatları
• Önceki konuşmalar
• Kullanıcının mevcut istemi (prompt)
• Yüklenen belge veya dosya içerikleri
• Modelin üreteceği yanıt

Dolayısıyla uzun konuşmalarda veya büyük belgeler üzerinde çalışılırken, yalnızca kullanıcının yazdığı metin değil, modelin önceki yanıtları da bağlam penceresini tüketir.

Bağlam penceresinin büyüklüğü özellikle aşağıdaki görevlerde büyük önem taşır:

• Uzun belgelerin özetlenmesi
• Akademik makale analizi
• Kitap ve rapor incelemesi
• Yazılım kodlarının analizi
• Çok aşamalı sohbetler
• Retrieval-Augmented Generation (RAG) sistemleri

Daha geniş bağlam penceresi, modelin önceki bilgileri hatırlama kapasitesini artırır ve daha tutarlı yanıtlar üretmesine yardımcı olur. Ancak bağlam penceresinin büyümesi, hesaplama maliyetini ve bellek gereksinimini de artırmaktadır. Bu nedenle model geliştiricileri, performans ile hesaplama maliyeti arasında denge kurmaya çalışmaktadır.

Bağlam penceresi, gerçek anlamda kalıcı hafıza (memory) ile karıştırılmamalıdır. Context Window yalnızca mevcut işlem sırasında kullanılan bilgileri içerir. Oturum sona erdiğinde veya bilgi bağlam penceresinin dışına çıktığında model bu bilgileri doğal olarak hatırlamaz. Kalıcı kullanıcı tercihleri veya geçmiş bilgilerin saklanması ise ayrı bellek mekanizmalarıyla sağlanır.

Avantajları

• Uzun metinlerin tek seferde analiz edilmesini sağlar.
• Sohbet boyunca önceki bilgilerin korunmasına yardımcı olur.
• Daha tutarlı ve bağlama uygun yanıtlar üretilmesini sağlar.
• Büyük belgeler ve yazılım projeleri üzerinde çalışmayı kolaylaştırır.
• RAG ve belge tabanlı yapay zekâ uygulamalarının başarısını artırır.

Dezavantajları

• Daha büyük bağlam pencereleri daha fazla işlem gücü ve bellek gerektirir.
• Hesaplama maliyeti artabilir.
• Çok uzun bağlamlarda modelin dikkatini etkili biçimde dağıtması zorlaşabilir.
• Bağlam penceresi dolduğunda en eski bilgiler dikkate alınmayabilir.

Özet

Context Window, bir büyük dil modelinin aynı anda değerlendirebildiği maksimum token miktarını ifade eder. Bu özellik, modelin ne kadar uzun metni okuyabileceğini, önceki konuşmaları ne ölçüde dikkate alabileceğini ve karmaşık görevlerde ne kadar tutarlı yanıt verebileceğini belirleyen temel teknik özelliklerden biridir. Günümüzde büyük bağlam penceresine sahip modeller, akademik araştırmalar, belge analizi ve uzun süreli etkileşim gerektiren uygulamalarda önemli avantajlar sağlamaktadır.

İlgili Kavramlar: Token, Tokenization, Embedding, Prompt, Transformer, Large Language Model (LLM), Attention, Retrieval-Augmented Generation (RAG), Memory

Kaynakça

Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., et al. (2020). Language models are few-shot learners. Advances in Neural Information Processing Systems, 33, 1877–1901.

Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.

Jurafsky, D., & Martin, J. H. (2025). Speech and Language Processing (3rd ed., draft). Pearson.

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30, 5998–6008.