Value

Value (V – Değer), Attention mekanizmasında bir tokenın veya temsilin diğer tokenlara aktarabileceği asıl bilgiyi taşıyan öğrenilmiş vektördür. Transformer mimarisindeki Query–Key–Value (Q–K–V) yapısının üçüncü temel bileşenidir. En basit ayrımla:

• Query (Q): Hangi bilgiyi arıyorum?
• Key (K): Aranan bilgiyle ne kadar ilgiliyim?
• Value (V): İlgili bulunursam hangi bilgiyi aktaracağım?

Value nasıl oluşturulur?

Tokenların mevcut temsilleri öğrenilebilir bir ağırlık matrisiyle dönüştürülür:$$V=XW^V$$

Burada:

• X: Tokenların mevcut temsilleri
• WVW^V: Eğitim sırasında öğrenilen Value projeksiyon matrisi
• V: Oluşturulan Value vektörleri

Aynı şekilde:$$Q=XW^Q,\qquad K=XW^K$$

elde edilir.

Value ne işe yarar?

Önemli ayrım şudur: Query ve Key esas olarak hangi bilginin önemli olduğunu belirlemeye yardımcı olur; Value ise attention çıktısına taşınacak bilgiyi içerir. Önce Query ve Key karşılaştırılır:$$QK^T$$

Skorlar ölçeklendirilip softmax’tan geçirilir:$$A=softmax\left(\frac{QK^T}{\sqrt{d_k}}\right)$$

Son olarak bu attention ağırlıkları Value vektörlerine uygulanır:$$Output=AV$$

Yani:

• Query + Key → Önem Derecesi
• Attention Ağırlığı × Value → Aktarılan Bilgi

Basit bir örnek

Şu cümleyi düşünelim: “Ayşe kitabı masaya bıraktı çünkü onu bitirmişti.”

“onu” tokenı işlenirken Query’si diğer tokenların Key’leriyle karşılaştırılır. “kitabı” ile güçlü bir attention ilişkisi oluşursa, “kitabı” tokenıyla ilişkili Value temsili çıktıya daha yüksek ağırlıkla katkıda bulunabilir.

Burada:

• Key → İlgililiğin belirlenmesine yardım eder.
• Value → İlgili bulunan bilginin taşınmasını sağlar.

Kütüphane benzetmesi

Q–K–V sistemini basitleştirerek şöyle düşünebiliriz:

Önce Query–Key eşleşmesi yapılır. Daha güçlü eşleşen Key’lere bağlı Value’lar daha yüksek ağırlıkla kullanılır.

Q–K–V birlikte nasıl çalışır?

Attention mekanizmasının özü şu akışta görülebilir:

Girdi
↓
Query (Q) + Key (K) + Value (V)
↓
Q × Kᵀ
↓
Ölçeklendirme
↓
Softmax
↓
Attention Ağırlıkları
↓
Value’ların Ağırlıklı Toplamı
↓
Bağlamsal Çıktı

Dolayısıyla Value tek başına hangi bilginin önemli olduğuna karar vermez. Q ve K üzerinden hesaplanan attention ağırlıkları, hangi Value bilgilerinin çıktıya ne ölçüde katkı sağlayacağını belirler.

Kısaca: Value, Attention mekanizmasında Query–Key karşılaştırması sonucunda belirlenen ağırlıklara göre seçilip birleştirilen ve sonraki temsile aktarılacak bilgiyi taşıyan öğrenilmiş vektördür.

En kısa formuyla: Query = Ara → Key = Eşleştir → Value = Bilgiyi Taşı.