Long Context Prompting -(Uzun Bağlamlı Promptlama)

Long Context Prompting, yapay zekâ modeline tek bir görev kapsamında çok miktarda metin, belge, veri veya önceki içerik sunarak, modelden bu geniş bağlamı dikkate alarak analiz, özetleme, karşılaştırma ya da içerik üretme isteme yaklaşımıdır.

Bu yöntemde model yalnızca kısa bir soruya cevap vermez; makaleler, raporlar, kitap bölümleri, toplantı kayıtları, uzun konuşmalar veya kod dosyaları gibi geniş bir bilgi kümesini bağlam olarak kullanır.

Örneğin: “Aşağıda araştırmamın giriş, kuramsal çerçeve, yöntem, bulgular ve tartışma bölümleri bulunmaktadır. Metnin tamamını birlikte değerlendir. Hipotezlerin kuramsal çerçeveyle, bulguların hipotezlerle ve tartışmanın bulgularla tutarlı olup olmadığını kontrol et. Yalnızca verilen metne dayan; metinde bulunmayan sonuçları varsayma.”

Bu promptta yapay zekânın görevi tek bir paragrafı değil, uzun metnin bölümleri arasındaki ilişkileri dikkate almaktır.

Long Context Prompting ne işe yarar?

Uzun bağlam kullanımı özellikle bilginin tek bir yerde bulunmadığı ve doğru sonuca ulaşmak için belgenin farklı bölümlerinin birlikte değerlendirilmesi gerektiği görevlerde yararlıdır.

Başlıca kullanım alanları şunlardır:

Akademik çalışma: Uzun makale, tez ve kitap bölümlerinin incelenmesi.

Belge karşılaştırma: İki veya daha fazla raporun farklılıklarının belirlenmesi.

Literatür analizi: Çok sayıda çalışmanın ortak ve farklı bulgularının karşılaştırılması.

Hukuki veya kurumsal belgeler: Uzun sözleşme, yönetmelik ve politika belgelerinin incelenmesi.

Kod analizi: Birden fazla dosyadan oluşan kod tabanlarının değerlendirilmesi.

Toplantı ve görüşmeler: Uzun transkriptlerden karar, görev ve önemli noktaların çıkarılması.

Basit ve güçlü Long Context Prompt örneği

Basit prompt: “Bu 80 sayfalık raporu incele.”

Bu komut modelin raporda neyi araması gerektiğini yeterince tanımlamaz.

Daha güçlü prompt: “Aşağıdaki raporun tamamını incele. Özellikle araştırma amacı, kullanılan yöntem, örneklem, temel bulgular, sınırlılıklar ve önerileri belirle. Her bulgunun raporun hangi bölümüne dayandığını belirt. Raporda açıkça bulunmayan bilgileri tahmin etme. Son olarak yöntem ile sonuçlar arasında herhangi bir tutarsızlık bulunup bulunmadığını değerlendir.”

İkinci prompt, uzun bağlam içerisinde hangi bilgilerin aranacağını ve nasıl değerlendirileceğini açıkça belirtir.

Uzun bağlamı yapılandırmak

Çok uzun girdilerde farklı bölümlerin açık biçimde etiketlenmesi yararlı olabilir:

<task>
Makalenin bölümleri arasındaki bilimsel tutarlılığı değerlendir.
</task>

<introduction>
[Makalenin giriş bölümü]
</introduction>

<method>
[Yöntem bölümü]
</method>

<results>
[Bulgular bölümü]
</results>

<discussion>
[Tartışma bölümü]
</discussion>

<criteria>
1. Araştırma boşluğu açık mı?
2. Hipotezler kuramsal olarak gerekçelendirilmiş mi?
3. Bulgular hipotezlerle uyumlu mu?
4. Tartışma bulgulara dayanıyor mu?
</criteria>

Bu örnekte Long Context Prompting ile XML tarzı yapılandırma birlikte kullanılarak uzun girdinin bölümleri birbirinden ayrılmıştır.

Context Window ile ilişkisi

Long Context Prompting açısından önemli kavramlardan biri **context window (bağlam penceresi)**dir. Bağlam penceresi, modelin belirli bir işlem sırasında dikkate alabildiği girdi ve ilgili konuşma bağlamının kapasitesini ifade eder.

Modern yapay zekâ modellerinde bu kapasite oldukça büyük olabilir. Ancak bir modelin teknik olarak uzun bir metni bağlama alabilmesi, metindeki her ayrıntıyı aynı doğrulukla kullanacağı anlamına gelmez.

Bu nedenle: uzun bağlam kapasitesi ≠ kusursuz uzun belge analizi ayrımını yapmak önemlidir.

Uzun bağlamda bilgi kaybı problemi

Çok uzun promptlarda model bazı önemli bilgileri gözden kaçırabilir. Özellikle kritik bir bilgi uzun metnin ortasında bulunuyorsa dikkatten kaçma olasılığı artabilir. Uzun bağlam araştırmalarında bu durum sıklıkla “lost in the middle” problemiyle ilişkilendirilir.

Bu nedenle önemli talimatların yalnızca uzun metnin arasında bırakılması yerine, görev ve değerlendirme kriterlerinin açık biçimde belirtilmesi daha güvenlidir.

Örneğin: “Özellikle Tablo 4’teki regresyon sonuçları ile Tartışma bölümünde H1 ve H2 hakkında yapılan yorumları karşılaştır.” gibi spesifik yönlendirmeler yapılabilir.

Long Context Prompting ve Conversation Memory farkı

Kavram	Temel Odak
Long Context Prompting	Büyük miktarda içeriğin aynı görev için bağlam olarak kullanılması
Conversation Memory	Önceki konuşmalardaki ilgili bilgilerin sonraki etkileşimlerde kullanılması
Multi-turn Prompting	Görevin birden fazla konuşma turunda geliştirilmesi
Context Window	Modelin bir işlemde dikkate alabildiği bağlam kapasitesi

Örneğin kullanıcı 100 sayfalık bir tez yükleyerek: “Tezin tamamındaki araştırma soruları ile sonuç bölümünü karşılaştır.” dediğinde Long Context Prompting söz konusudur.

Aynı kullanıcı daha sonra: “Şimdi belirlediğin üçüncü tutarsızlığı düzeltelim.” dediğinde ise Multi-turn etkileşim ve konuşma bağlamı devreye girer.

Long Context Prompting mi, RAG mi?

Bu iki yaklaşım da büyük bilgi kaynaklarıyla çalışmak için kullanılabilir ancak mantıkları farklıdır.

Long Context Prompting: Büyük miktardaki içerik doğrudan modelin bağlamına verilir.

RAG (Retrieval-Augmented Generation): Önce büyük bilgi kaynağından soruyla ilgili bölümler aranıp getirilir; ardından model esas olarak seçilen ilgili parçaları kullanarak yanıt oluşturur.

Örneğin 500 sayfalık bir kitap için:

Long Context: Kitabın büyük bölümünü modele vermek.

RAG: Kullanıcının sorusuyla ilgili sayfa ve paragrafları bulup modele yalnızca ilgili kısımları sunmak.

Çok büyük belge koleksiyonlarında RAG daha verimli olabilirken, belgenin tamamı arasındaki ilişkilerin değerlendirilmesi gereken görevlerde uzun bağlam kullanımı avantaj sağlayabilir.

Etkili Long Context Prompting şablonu

İyi bir uzun bağlam promptu şu yapıda oluşturulabilir:

Görev + uzun bağlam + odak noktaları + değerlendirme kriterleri + kaynak kullanma kuralı + çıktı formatı

Örneğin: “Aşağıdaki beş akademik makaleyi birlikte incele. Yalnızca verilen makalelere dayanarak yapay zekâya güven ile tüketici davranışı arasındaki bulguları karşılaştır. Her çalışma için örneklem, değişkenler, yöntem ve temel sonucu belirle. Ardından çalışmaların hangi noktalarda aynı, hangi noktalarda farklı sonuçlara ulaştığını sentezle. Makalelerde bulunmayan bilgi veya kaynak üretme. Sonucu önce karşılaştırmalı tablo, ardından 500 kelimelik sentez olarak sun.”

Bu prompt, yalnızca uzun bir metin sunmak yerine modelin bu bağlamla ne yapacağını kesin biçimde tanımlar.

Kısaca: Long Context Prompting, yapay zekânın uzun belgeler, çok sayıda kaynak veya geniş veri kümelerini aynı görev bağlamında değerlendirerek içerikler arasındaki ilişkileri analiz etmesini amaçlayan promptlama yaklaşımıdır. Başarılı kullanım için yalnızca modele daha fazla içerik vermek yeterli değildir; hangi bilgilerin aranacağı, hangi bölümlerin ilişkilendirileceği, hangi kriterlerin kullanılacağı ve modelin kaynak dışına çıkıp çıkamayacağı da açıkça belirtilmelidir.