Prompt Tuning -(İstem Ayarlama)

İstem Ayarlama, büyük dil modellerinin (Large Language Models – LLM’ler) tamamını yeniden eğitmek yerine, modele eklenen küçük ve öğrenilebilir istem (soft prompt) vektörlerini optimize ederek belirli görevlerde performansını artırmayı amaçlayan parametre-verimli (parameter-efficient) bir ince ayar (fine-tuning) yöntemidir. Bu yaklaşımda modelin ana parametreleri sabit tutulur; yalnızca istemi temsil eden küçük bir parametre kümesi eğitilir. Prompt Tuning, klasik anlamdaki istem yazımından farklıdır. Günlük kullanımda kullanıcı tarafından yazılan metinsel istemler hard prompt (sert istem) olarak adlandırılır. Prompt Tuning ise insanların okuyamadığı, modelin giriş katmanına eklenen öğrenilebilir sürekli vektörler (soft prompts) ile gerçekleştirilir. Dolayısıyla bu yöntem, istem mühendisliğinden çok makine öğrenmesi ve model geliştirme sürecinin bir parçasıdır. Bu yaklaşım, özellikle milyarlarca parametreye sahip büyük modellerin her görev için yeniden eğitilmesinin maliyetli olması nedeniyle geliştirilmiştir.

---

Prompt Tuning Neden Gereklidir?

Geleneksel Fine-tuning yönteminde modelin milyonlarca veya milyarlarca parametresi yeniden güncellenmektedir. Bu durum:

• yüksek işlem gücü,
• büyük GPU kümeleri,
• uzun eğitim süresi
• ve yüksek maliyet

gerektirir. Prompt Tuning ise yalnızca çok küçük sayıda yeni parametreyi eğiterek benzer başarıyı daha düşük maliyetle elde etmeyi amaçlar.

Soft Prompt Nedir?

Soft Prompt, insanlar tarafından okunabilen metin değildir.

Bunun yerine;

• sayısal vektörlerden oluşur,
• embedding katmanında yer alır,
• eğitim sırasında optimize edilir,
• model tarafından otomatik öğrenilir.

Bu nedenle Prompt Tuning sonucunda ortaya çıkan istem doğrudan okunamaz.

Prompt Tuning Süreci

Prompt Tuning genel olarak aşağıdaki adımlardan oluşmaktadır.

1. Önceden Eğitilmiş Model Seçilir: Örneğin:

• GPT
• Llama
• T5
• BERT

2. Model Parametreleri Dondurulur: Transformer katmanlarının ağırlıkları değiştirilmez.

3. Soft Prompt Oluşturulur: Model girişine rastgele başlatılmış öğrenilebilir vektörler eklenir.

4. Eğitim Yapılır: Göreve ait veri kullanılarak yalnızca Soft Prompt güncellenir.

5. Yeni Görevde Kullanılır: Elde edilen Soft Prompt ilgili görev için tekrar kullanılabilir.

Prompt Tuning ile Fine-Tuning Arasındaki Fark

Özellik	Prompt Tuning	Fine-Tuning
Güncellenen Parametre	Sadece Soft Prompt	Model ağırlıkları
Hesaplama Maliyeti	Düşük	Yüksek
GPU Gereksinimi	Az	Fazla
Eğitim Süresi	Kısa	Uzun
Bellek Kullanımı	Düşük	Yüksek
Parametre Sayısı	Çok az	Milyonlarca veya milyarlarca

Prompt Tuning Türleri

Prompt Tuning, parametre-verimli ince ayar (PEFT) yöntemleri içinde yer alır. Bu ailede başka yaklaşımlar da bulunmaktadır:

Prompt Tuning: Yalnızca giriş istemi öğrenilir.

Prefix Tuning: Transformer katmanlarının başına öğrenilebilir vektörler eklenir.

P-Tuning: Soft Prompt yaklaşımının daha gelişmiş sürümüdür.

P-Tuning v2: Çok katmanlı Transformer yapılarında daha yüksek performans sağlayacak biçimde geliştirilmiştir.

LoRA (Low-Rank Adaptation): Model ağırlıklarının tamamını değiştirmek yerine düşük dereceli matrisler öğrenilir.

Adapter Tuning: Model içine küçük ek katmanlar yerleştirilerek eğitim yapılır.

Kullanım Alanları

Prompt Tuning özellikle aşağıdaki alanlarda kullanılmaktadır.

• Büyük dil modellerinin özelleştirilmesi
• Kurumsal yapay zekâ uygulamaları
• Diyalog sistemleri
• Tıbbi yapay zekâ
• Hukuk uygulamaları
• Kod üretimi
• Bilimsel metin analizi
• Makine çevirisi
• Soru-cevap sistemleri

Avantajları

• Çok düşük eğitim maliyeti sunar.
• Model ağırlıkları değiştirilmez.
• Büyük modeller kolayca farklı görevlere uyarlanabilir.
• GPU ve bellek gereksinimi düşüktür.
• Aynı model için farklı görevlerde farklı Soft Prompt’lar kullanılabilir.

Dezavantajları

• Bazı karmaşık görevlerde tam Fine-Tuning kadar başarılı olmayabilir.
• Soft Prompt insanlar tarafından yorumlanamaz.
• Eğitim verisinin kalitesine duyarlıdır.
• Model mimarisine bağlı olarak performans değişebilir.

Prompt Tuning ile Prompt Engineering Arasındaki Fark

Bu iki kavram sıklıkla karıştırılmaktadır.

Özellik	Prompt Engineering	Prompt Tuning
Kim Kullanır?	Son kullanıcılar	Yapay zekâ araştırmacıları ve geliştiriciler
Yapı	Metinsel istem	Öğrenilebilir vektörler
Eğitim Gerektirir mi?	Hayır	Evet
Model Parametreleri	Değişmez	Değişmez
Soft Prompt Kullanılır mı?	Hayır	Evet
Amaç	Daha iyi istem yazmak	Modeli göreve uyarlamak

Dolayısıyla Prompt Engineering, insan tarafından yazılan istemlerin tasarlanması, Prompt Tuning ise modelin sayısal istem temsillerinin eğitilmesi sürecidir.

Özet

Prompt Tuning, büyük dil modellerini tamamen yeniden eğitmek yerine yalnızca öğrenilebilir Soft Prompt vektörlerini optimize ederek belirli görevlerde performansı artıran parametre-verimli bir ince ayar yöntemidir. Modelin ana ağırlıkları sabit kalırken yalnızca küçük bir parametre kümesi güncellenir. Bu yaklaşım, düşük maliyet, kısa eğitim süresi ve yüksek verimlilik sağlaması nedeniyle günümüzde LLM özelleştirme çalışmalarında yaygın olarak kullanılmaktadır. Prompt Tuning, Prompt Engineering’den farklı olarak son kullanıcıların değil, yapay zekâ araştırmacıları ve model geliştiricilerinin kullandığı teknik bir yöntemdir.

İlgili Kavramlar: Fine-Tuning, Soft Prompt, Prefix Tuning, P-Tuning, LoRA, Adapter Tuning, PEFT (Parameter-Efficient Fine-Tuning), Large Language Model (LLM), Transformer, Embedding

Kaynakça

Lester, B., Al-Rfou, R., & Constant, N. (2021). The power of scale for parameter-efficient prompt tuning. Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing (EMNLP), 3045–3059.

Liu, X., Ji, K., Fu, Y., Tam, W. L., Du, Z., Yang, Z., & Tang, J. (2022). P-Tuning v2: Prompt tuning can be comparable to fine-tuning universally across scales and tasks. Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (ACL).

Li, X. L., & Liang, P. (2021). Prefix-tuning: Optimizing continuous prompts for generation. Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics (ACL), 4582–4597.

Hu, E. J., Shen, Y., Wallis, P., Allen-Zhu, Z., Li, Y., Wang, S., et al. (2022). LoRA: Low-rank adaptation of large language models. International Conference on Learning Representations (ICLR).

Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.