Context Window (Bağlam Penceresi), bir yapay zekâ modelinin aynı anda okuyabildiği, hatırlayabildiği ve işlem yapabildiği en büyük bilgi miktarını ifade eder. Bu bilgi; kullanıcının yazdığı istemleri (prompt), önceki sohbet mesajlarını, yüklenen belgeleri ve modelin kendi oluşturduğu yanıtları kapsar. Bağlam penceresi genellikle token cinsinden ölçülür.
Bir modelin bağlam penceresi ne kadar büyükse, o kadar uzun metinleri tek seferde analiz edebilir ve önceki konuşmaları daha iyi hatırlayarak daha tutarlı yanıtlar üretebilir. Örneğin küçük bir bağlam penceresine sahip bir model, uzun bir raporun yalnızca bir bölümünü değerlendirebilirken; daha geniş bir bağlam penceresine sahip bir model yüzlerce sayfalık belgeleri, uzun sohbet geçmişini veya birden fazla dosyayı aynı anda dikkate alabilir.
Bağlam penceresi, modelin kalıcı hafızası değildir. Model yalnızca mevcut oturumda kendisine sunulan bilgileri bu pencere içinde değerlendirebilir. Bağlam penceresi dolduğunda, eski içeriklerin bir kısmı model tarafından artık dikkate alınmayabilir. Bu nedenle çok uzun sohbetlerde veya büyük belgelerle çalışırken, önemli bilgilerin yeniden hatırlatılması gerekebilir.
Günümüzde büyük bağlam penceresine sahip yapay zekâ modelleri; akademik makalelerin incelenmesi, kapsamlı raporların özetlenmesi, yazılım projelerinin analiz edilmesi ve uzun süreli iş akışlarının yönetilmesi gibi karmaşık görevlerde önemli avantaj sağlamaktadır. Bu nedenle bağlam penceresi, bir büyük dil modelinin kullanım kapasitesini belirleyen en önemli teknik özelliklerden biri olarak kabul edilmektedir.
Yorumlar (0)