BOS Token

BOS Token (Dizi Başlangıcı Belirteci), bir dil modeline sunulan token dizisinin başlangıcını işaretlemek için kullanılan özel tokendır. Metnin nereden başladığını modele gösteren yapısal bir işaret görevi görür. Kullanılan modele bağlı olarak <s> veya <bos> gibi gösterimlerle karşılaşılabilir. BOS, İngilizce Beginning of Sequence ifadesinin baş harflerinden oluşur ve Türkçeye “dizi başlangıcı” olarak çevrilir. Bazı kaynaklarda Beginning of Sentence, yani “cümle başlangıcı” açılımı da kullanılır. Ancak işaretlenen dizi, birden fazla cümleden oluşabileceği için “dizi başlangıcı belirteci” daha kapsayıcı bir karşılıktır. Token sözcüğü ise burada “belirteç” anlamına gelir.

BOS token nasıl çalışır? Metin modele hazırlanırken, modelin beklediği biçime uygun olarak dizinin başına eklenir. Örneğin “Bugün hava güzel.” ifadesi, basitleştirilmiş bir gösterimle <bos> Bugün hava güzel. biçiminde düzenlenebilir. Buradaki <bos>, kullanıcının yazdığı cümlenin anlamına katılan bir kelime değildir. Tokenlaştırıcı tarafından tanınan özel bir sayısal kimlikle temsil edilir. BOS token, her doğal dil cümlesinin başına otomatik olarak konulan bir noktalama işareti gibi düşünülmemelidir. Bir paragraf birkaç cümle içerse bile, modelin giriş düzenine göre yalnızca dizinin başlangıcında bulunabilir. Benzer biçimde, EOS token dizinin sonunu belirtir; BOS ile birlikte metnin sınırlarını tanımlamak için kullanılabilir.

Sohbet uygulamalarında kullanımı, ilgili modelin sohbet şablonuna bağlıdır. Başlangıç belirteci, mesajların ve konuşmacı rollerinin düzenlendiği biçimin bir parçası olabilir. Bununla birlikte BOS, tek başına “kullanıcı konuşuyor” veya “asistan yanıt verecek” anlamına gelmez. Bu bilgiler, şablondaki diğer işaretler ve metinlerle aktarılır. Uygulama geliştirirken BOS tokenın zaten eklenip eklenmediğini kontrol etmek önemlidir. Sohbet şablonunun eklediği başlangıç belirtecini tokenlaştırma sırasında yeniden eklemek, modelin beklediği giriş biçimini bozabilir ve performansı olumsuz etkileyebilir. Bu nedenle kullanım kararı, modelin kendi tokenlaştırıcısı ve sohbet şablonuyla uyumlu olmalıdır.