Beam Search

Beam Search (Işın Araması), yapay zekâ dil modellerinde metin oluştururken yalnızca o anda en yüksek olasılığa sahip tokenı seçmek yerine, aynı anda birden fazla olası token dizisini değerlendirerek ilerleyen bir kod çözme (decoding) yöntemidir.

Greedy Decoding her adımda yalnızca en olası seçeneği seçerken, Beam Search belirli sayıda en güçlü adayı saklar. Saklanan aday sayısına beam width (ışın genişliği) denir.

Örneğin beam width = 3 olarak belirlendiğinde model, ilk aşamada en olası üç seçeneği korur:

Model daha sonra bu üç dizinin her birini olası sonraki tokenlarla genişletir. Oluşan yeni dizilerin olasılıkları hesaplanır ve yine en güçlü üç aday tutulur. Bu işlem, bitiş tokenına veya belirlenen maksimum uzunluğa ulaşılıncaya kadar devam eder.

Beam Search’ün temel amacı, yerel olarak en iyi tokenı değil, bütün olarak daha yüksek olasılığa sahip token dizisini bulmaya çalışmaktır. Bu yönüyle Greedy Decoding’den daha kapsamlı bir arama gerçekleştirir.

Beam width artırıldığında model daha fazla alternatifi değerlendirir. Ancak bunun karşılığında hesaplama ve bellek maliyeti de yükselir. Ayrıca daha geniş arama her zaman daha doğal veya yaratıcı metin anlamına gelmez. Özellikle açık uçlu metin üretiminde Beam Search, yüksek olasılıklı fakat tekdüze çıktılara yönelebilir. Bu nedenle sohbet ve yaratıcı içerik üretiminde sampling tabanlı yöntemler sıklıkla daha uygundur.

Greedy Decoding ile temel farkı: Greedy Decoding “şu anda en iyi seçenek hangisi?” sorusuna odaklanırken, Beam Search “birkaç güçlü yolu birlikte takip edersem sonunda hangi dizi daha iyi olur?” yaklaşımını kullanır.

Kısaca: Beam Search, metin üretimi sırasında birden fazla olası token dizisini paralel olarak takip eden ve bunlar arasından toplam olasılığı yüksek olan diziyi seçmeye çalışan bir decoding algoritmasıdır.

İlgili kavramlar: Greedy Decoding, Beam Width, Sampling Strategy, Token Probability, Top-k Sampling, Top-p Sampling, Sequence Generation.