EOS Token

EOS Token (Dizi Sonu Belirteci), bir token dizisinin sona erdiğini göstermek için kullanılan özel tokendır. Metin üretiminde model bu tokenı ürettiğinde, üretimi yöneten yazılım ilgili dizinin tamamlandığını kabul ederek devamını durdurabilir. Bu davranış, sistemin durdurma ayarlarına bağlıdır. EOS, İngilizce End of Sequence ifadesinin baş harflerinden oluşur ve Türkçede “dizi sonu” anlamına gelir. Bazı kaynaklarda End of Sentence, yani “cümle sonu” açılımı da kullanılır. Ancak işaretlenen içerik bir cümle, paragraf veya daha uzun bir metin olabileceğinden “dizi sonu belirteci” daha kapsayıcıdır. Token ise bu bağlamda “belirteç” olarak karşılanır.

EOS token nasıl çalışır? Dil modeli, yanıt oluştururken sıradaki token için olasılıklar hesaplar. Olası seçenekler arasında EOS da bulunabilir. Bu tokenın seçilmesi, modelin öğrendiği örüntüler doğrultusunda dizinin sonunu işaretlemesidir. Basitleştirilmiş bir örnekte çıktı, Ankara, Türkiye’nin başkentidir. <eos> biçiminde gösterilebilir. Buradaki <eos> açıklama amaçlıdır; gerçek gösterim ve sayısal kimlik modele göre değişir. EOS, her nokta işaretiyle aynı işlevi taşımaz. Bir yanıt birkaç cümle içerebilir ve sonlandırma belirteci yalnızca yanıtın sonunda bulunabilir. Ayrıca EOS üretilmesi, yanıtın doğru, yeterli veya kullanıcının beklentilerini karşılayan bir içerik olduğunu garanti etmez.

EOS ile uzunluk sınırı farklı durdurma mekanizmalarıdır. Model, EOS üretmeden de izin verilen azami token sayısına ulaşabilir. Bu durumda metin, cümle tamamlanmadan kesilebilir. Uygulamanın tanımladığı bir durdurma ifadesi de üretimi sonlandırabilir. Dolayısıyla bir yanıtın bitmesi, mutlaka EOS tokenının üretildiği anlamına gelmez. Sohbet modellerinde, mesaj sonu, asistanın konuşma sırasının sonu ve dizi sonu farklı işaretlerle temsil edilebilir. Hangi tokenın üretimi durduracağı, modelin sohbet şablonu ve yapılandırmasıyla uyumlu olmalıdır. EOS tokenının görevi, bütün sohbetin kalıcı olarak kapandığını bildirmek değildir; kullanıcı sonraki mesajıyla etkileşimi sürdürebilir.