Üretken yapay zekâ modelleri, yalnızca verilen talimatlardan değil, sunulan örneklerden de öğrenebilir. Özellikle karmaşık görevlerde modele birkaç doğru örnek göstermek, beklenen çıktıyı daha iyi anlamasını sağlayabilir. Bu yöntem Few-shot Prompting (Az Örnekli İstem Verme) olarak adlandırılır ve günümüzde en etkili prompt mühendisliği tekniklerinden biri olarak kabul edilmektedir. Few-shot Prompting, modele iki veya daha fazla örnek giriş–çıkış çifti verildikten sonra yeni bir görevi aynı mantıkla yerine getirmesinin istendiği istem tekniğidir. Amaç, modeli yeniden eğitmek değil; istem içerisinde verilen örneklerden yararlanarak görevin nasıl yapılacağını göstermektir.
Few-shot Prompting nedir?
Few-shot Prompting, büyük dil modeline belirli bir görevin nasıl yapılacağını göstermek amacıyla birkaç örnek sunulması ve ardından yeni bir girdiye aynı kuralları uygulamasının istenmesidir.
Başka bir ifadeyle;
- Zero-shot Prompting → Hiç örnek verilmez.
- One-shot Prompting → Bir örnek verilir.
- Few-shot Prompting → Birden fazla örnek verilir.
Örnek sayısı için kesin bir sınır bulunmamakla birlikte uygulamada genellikle 2 ila 5 örnek kullanılır. Çok fazla örnek eklemek, gereksiz token kullanımına ve bağlam penceresinin dolmasına neden olabilir.
Nasıl çalışır?
Few-shot Prompting’de süreç şu şekilde ilerler:
- Kullanıcı görevi tanımlar.
- Görevin nasıl yapılacağını gösteren birkaç örnek ekler.
- Model örneklerdeki ortak yapıyı analiz eder.
- Beklenen biçimi ve kuralları çıkarır.
- Yeni girdiyi aynı mantıkla işler.
Model herhangi bir yeniden eğitim almaz. Örneklerden yalnızca mevcut konuşma bağlamı içinde yararlanır. Bu yaklaşım In-Context Learning (Bağlam İçi Öğrenme) olarak adlandırılır.
Basit örnek
Görev
Aşağıdaki yorumları duygu durumuna göre sınıflandır.
Örnek 1: Metin: “Bu kitap çok faydalıydı.”
Sonuç: Olumlu
Örnek 2: Metin: “Beklediğim kaliteyi bulamadım.”
Sonuç: Olumsuz
Örnek 3: Metin: “Ürün zamanında teslim edildi.”
Sonuç: Tarafsız
Yeni görev
Metin: “Hizmet oldukça hızlı ve çalışanlar çok ilgiliydi.”
Model, örneklerdeki sınıflandırma mantığını kullanarak bu metni Olumlu olarak sınıflandıracaktır.
Başlık oluşturma örneği
Örnek 1
Konu: Yapay Zekâ
Başlık: Yapay Zekâ İş Dünyasını Nasıl Değiştiriyor?
Örnek 2
Konu: Siber Güvenlik
Başlık: Siber Tehditlere Karşı Yeni Savunma Dönemi
Yeni görev
Konu: Kuantum Bilgisayarlar
Model, aynı haber dili ve başlık yapısını kullanarak yeni bir başlık oluşturacaktır.
Few-shot Prompting ne zaman kullanılmalıdır?
Bu yöntem özellikle şu durumlarda başarılı sonuçlar verir:
- Karmaşık sınıflandırma görevlerinde
- Belirli bir yazım stilinin korunması gerektiğinde
- Özel rapor veya tablo formatları oluştururken
- Akademik metin hazırlarken
- Kod üretirken
- Etiketleme işlemlerinde
- Belirli bir düşünme veya analiz biçiminin izlenmesi gerektiğinde
- Kuruma özgü içerik üretiminde
Araştırmalar, örneklerin modele beklenen davranışı göstermesi nedeniyle Few-shot Prompting’in birçok görevde Zero-shot Prompting’e göre daha başarılı sonuçlar verebildiğini göstermektedir. Ancak başarı, örneklerin kalitesine ve göreve uygunluğuna bağlıdır.
Few-shot Prompting nasıl hazırlanır?
1. Görevi açık biçimde tanımlayın
Örneğin: “Aşağıdaki yorumları olumlu, olumsuz veya tarafsız olarak sınıflandır.”
2. Birkaç kaliteli örnek ekleyin
Örneklerin;
- doğru,
- kısa,
- tutarlı
- ve birbirini tamamlayan nitelikte olması gerekir.
3. Yeni görevi ekleyin
Örneklerden sonra yalnızca yeni girdi verilmelidir.
Model örneklerdeki yapıyı yeni probleme uygular.
4. Çıktı biçimini belirtin
Örneğin: “Yalnızca tek kelimelik cevap ver.” Veya “Sonucu tablo hâlinde göster.”
5. Gereksiz örnek eklemeyin
Çok fazla örnek;
- token maliyetini artırabilir,
- bağlam penceresini doldurabilir,
- bazı modellerde performansı olumsuz etkileyebilir.
Akademik örnek
Görev
Kavram tanımı oluştur.
Örnek 1
Kavram: Örgütsel Bağlılık
Tanım: Çalışanın örgütüne karşı geliştirdiği psikolojik bağlılık düzeyidir.
Örnek 2
Kavram: İş Tatmini
Tanım: Çalışanın işine ilişkin genel memnuniyet düzeyidir.
Yeni görev
Kavram: Psikolojik Güvenlik
Model, önceki örneklerdeki tanım yapısını kullanarak yeni kavramı aynı akademik üslupla açıklayacaktır.
Few-shot Prompting ile Zero-shot Prompting arasındaki fark
| Özellik | Zero-shot | Few-shot |
| Örnek | Yok | Birkaç örnek |
| Hazırlama süresi | Kısa | Biraz daha uzun |
| Karmaşık görevlerde başarı | Orta | Genellikle daha yüksek |
| Token kullanımı | Düşük | Daha yüksek |
| Çıktı tutarlılığı | Göreve bağlı | Genellikle daha yüksektir |
Few-shot Prompting ile One-shot Prompting arasındaki fark
| Özellik | One-shot | Few-shot |
| Örnek sayısı | 1 | Genellikle 2–5 |
| Öğrenme desteği | Sınırlı | Daha güçlü |
| Karmaşık görevlerde başarı | Orta | Daha yüksek olabilir |
| Token maliyeti | Düşük | Daha yüksektir |
Avantajları
- Modelin beklenen çıktı biçimini daha iyi anlamasını sağlar.
- Karmaşık görevlerde doğruluğu artırabilir.
- Yazım tarzının korunmasına yardımcı olur.
- Tutarlı sonuçlar üretme olasılığını artırır.
- Kod üretimi, sınıflandırma ve akademik yazım gibi görevlerde etkilidir.
Dezavantajları
- Daha fazla token kullanır.
- Hazırlanması Zero-shot’a göre daha uzun sürer.
- Yanlış seçilen örnekler modeli olumsuz yönlendirebilir.
- Çok fazla örnek bağlam penceresini gereksiz yere doldurabilir.
- En iyi performans için örneklerin dikkatle seçilmesi gerekir. Araştırmalar, örneklerin seçimi ve sıralamasının sonuçları belirgin biçimde etkileyebileceğini göstermektedir.
En iyi uygulamalar
Few-shot Prompting kullanırken şu öneriler dikkate alınmalıdır:
- 2–5 kaliteli örnek kullanın.
- Örneklerin aynı formatta olmasına dikkat edin.
- Farklı senaryoları temsil eden örnekler seçin.
- Gereksiz açıklamalar eklemeyin.
- Çıktı biçimini açıkça belirtin.
- Aynı istemi farklı örneklerle test ederek en başarılı yapıyı belirleyin.
Örnek Few-shot Prompt
Görev: Aşağıdaki cümleleri duygu durumuna göre sınıflandır.
Örnek 1
Metin: “Bu uygulamayı çok beğendim.”
Sonuç: Olumlu
Örnek 2
Metin: “Kargo oldukça geç ulaştı.”
Sonuç: Olumsuz
Örnek 3
Metin: “Toplantı saat 14.00’te başlayacak.”
Sonuç: Tarafsız
Yeni Metin
“Personel oldukça yardımseverdi.”
Sonuç:
Sonuç
Few-shot Prompting, büyük dil modellerine birkaç örnek göstererek beklenen davranışı öğretmeyi amaçlayan güçlü bir istem tekniğidir. Özellikle karmaşık görevlerde, belirli bir yazım biçiminin korunması gereken durumlarda ve özel çıktı formatlarının istendiği uygulamalarda Zero-shot ve One-shot yöntemlerine göre daha başarılı sonuçlar verebilir. Bununla birlikte örneklerin sayısı kadar kalitesi, çeşitliliği ve doğruluğu da performansı doğrudan etkiler. Bu nedenle Few-shot Prompting’de az sayıda ancak dikkatle seçilmiş örnekler kullanmak en etkili yaklaşımlardan biridir.
İlgili Kavramlar: Zero-shot Prompting, One-shot Prompting, In-Context Learning, Prompt Engineering, Prompt Design, Prompt Structure, Prompt Pattern, Chain-of-Thought Prompting, Large Language Model (LLM), ChatGPT
Kaynakça
Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., et al. (2020). Language models are few-shot learners. Advances in Neural Information Processing Systems, 33, 1877–1921.
Liu, P., Yuan, W., Fu, J., Jiang, Z., Hayashi, H., & Neubig, G. (2023). Pre-train, prompt, and predict: A systematic survey of prompting methods in natural language processing. ACM Computing Surveys, 55(9), 1–35.
Sahoo, P., Singh, A. K., Saha, S., Jain, V., Mondal, S., & Chadha, A. (2024). A systematic survey of prompt engineering in large language models: Techniques and applications. arXiv.
Schulhoff, S., Ilie, M., Balepur, N., et al. (2024). The Prompt Report: A systematic survey of prompting techniques. arXiv.
Yorumlar (0)