Weight – (Ağırlık)

Weight (Ağırlık), yapay sinir ağlarında bir nöron ile diğer nöron arasındaki bağlantının önemini ve etkisini belirleyen öğrenilebilir sayısal parametredir. Yapay zekâ modellerinin eğitim sürecinde öğrendiği temel bilgiler ağırlık değerlerinde saklanır. Başka bir ifadeyle, bir sinir ağının “öğrenmesi”, büyük ölçüde ağırlıklarının uygun değerlere güncellenmesi anlamına gelir. Başlangıçta ağırlıklar genellikle rastgele atanır; eğitim sürecinde ise geri yayılım (backpropagation) ve optimizasyon algoritmaları kullanılarak sürekli güncellenir. Böylece model, giriş verileri ile hedef çıktılar arasındaki ilişkiyi giderek daha doğru biçimde öğrenir.

Bir yapay nöronda her giriş değişkeninin kendisine ait bir ağırlık değeri bulunur. Nöron, giriş değerlerini ilgili ağırlıklarla çarpar, bu çarpımların toplamına bias (önyargı/eşik değeri) ekler ve elde edilen sonucu aktivasyon fonksiyonuna gönderir. Ağırlığın büyüklüğü ve işareti, ilgili giriş değişkeninin model üzerindeki etkisini belirler. Büyük pozitif ağırlıklar ilgili özelliğin çıktıyı artırıcı etkisini, büyük negatif ağırlıklar ise azaltıcı etkisini ifade eder. Ağırlık değeri sıfıra yakın olduğunda ise ilgili girişin model kararına katkısı oldukça düşüktür. Eğitim sürecinde modelin yaptığı tahmin hatası kayıp fonksiyonu (loss function) ile hesaplanır ve bu hata, geri yayılım algoritması aracılığıyla tüm ağırlıklara dağıtılarak Gradient Descent, Stochastic Gradient Descent (SGD), Adam, RMSprop veya Adagrad gibi optimizasyon algoritmaları kullanılarak güncellenir.

Weight kavramı; evrişimsel sinir ağları (Convolutional Neural Networks – CNN), tekrarlayan sinir ağları (Recurrent Neural Networks – RNN), Transformer modelleri, büyük dil modelleri (Large Language Models – LLM) ve üretken yapay zekâ (Generative AI) sistemleri dâhil olmak üzere tüm yapay sinir ağı mimarilerinin temel bileşenlerinden biridir. Günümüzde milyarlarca parametreye sahip büyük dil modellerinde bu parametrelerin büyük çoğunluğunu ağırlıklar oluşturmaktadır. Modelin bilgi birikimi, dil yapıları, örüntüler ve öğrendiği ilişkiler bu ağırlıklar içerisinde temsil edilir. Ancak gereğinden fazla ağırlığa sahip modeller aşırı öğrenme (overfitting) riski taşırken, yetersiz parametre sayısı eksik öğrenmeye (underfitting) neden olabilir. Bu nedenle ağırlıkların doğru başlatılması (weight initialization), uygun şekilde optimize edilmesi ve gerektiğinde düzenlileştirme (regularization) yöntemleriyle kontrol edilmesi, yapay sinir ağlarının doğruluğunu ve genelleme başarısını belirleyen en önemli unsurlardan biridir.