Temperature

Yapay zekâ modellerinin yanıt üretirken ne kadar tutarlı, öngörülebilir ya da yaratıcı davranacağını belirleyen örnekleme parametrelerinden biridir. Modelin olası sonraki kelime/token seçenekleri arasındaki dağılımı değiştirerek daha olası seçeneklere mi yoksa daha çeşitli seçeneklere mi yöneleceğini etkiler.

Basit mantık şöyledir:

Düşük Temperature → Daha tutarlı, kontrollü ve öngörülebilir cevap

Yüksek Temperature → Daha çeşitli, yaratıcı ve sürprizli cevap

Örneğin modele: “Bir kahve markası için slogan üret.” denildiğini düşünelim. Düşük temperature kullanıldığında: “Güne iyi bir başlangıç.” gibi daha güvenli ve alışılmış ifadeler üretilebilir. Daha yüksek temperature kullanıldığında: “Sabahı uyandıran değil, sabaha karakter veren kahve.” gibi daha özgün seçeneklerin ortaya çıkma ihtimali artabilir.

Düşük Temperature Ne Zaman Kullanılır?

Daha çok: bilgi çıkarma, sınıflandırma, veri yapılandırma, kodlama, standart raporlama, kurallı çıktı ve tutarlılık gerektiren görevlerde tercih edilir. Örneğin: “Aşağıdaki makaleden örneklem büyüklüğünü, yöntemi ve temel bulguları tablo hâlinde çıkar.” Bu görevde yaratıcılık değil kaynağa bağlılık ve tutarlılık önemlidir.

Yüksek Temperature Ne Zaman Kullanılır?

Daha çok: yaratıcı yazarlık, slogan, fikir geliştirme, hikâye, reklam konsepti, metafor ve alternatif çözüm üretme gibi görevlerde kullanılabilir. Örneğin: “Yapay zekâ okuryazarlığını anlatmak için alışılmışın dışında 20 kampanya fikri geliştir.” Burada farklı ve beklenmedik seçeneklerin üretilmesi değerlidir.

Temperature = 0 Ne Anlama Gelir?

Genellikle modelin en olası seçeneklere daha fazla ağırlık vermesi anlamına gelir.

Ancak önemli bir ayrıntı vardır: Temperature 0 = matematiksel olarak her zaman tamamen aynı cevap demek değildir. Kullanılan model, altyapı ve diğer örnekleme ayarları nedeniyle küçük farklılıklar oluşabilir.

Temperature ile Halüsinasyon İlişkisi

Temperature düşürmek çoğu zaman çıktıyı daha kontrollü hâle getirir; fakat: “Temperature’ı düşürdüm, artık model yanlış bilgi üretmez.” sonucu çıkarılamaz.

Temperature bir doğruluk parametresi değildir. Model düşük temperature değerinde de kendinden emin biçimde yanlış bilgi üretebilir. Bu nedenle özellikle akademik kullanımda: Temperature + kaynak doğrulama + açık prompt + insan kontrolü birlikte düşünülmelidir.

Akademik Kullanım Örneği

“Aşağıdaki araştırma bulgularını yalnızca verilen verilere dayanarak özetle. Yeni yorum veya kaynak ekleme.”

Böyle bir görevde görece düşük temperature tercih edilmesi, daha istikrarlı çıktı elde etmek açısından uygundur.

Buna karşılık: “Bu bulgunun tartışma bölümünde kullanılabilecek beş farklı kuramsal açıklamasını üret.” gibi keşfedici bir görevde daha yüksek temperature çeşitliliği artırabilir.

Temperature ve Top-p Aynı Şey mi?

Hayır.

Temperature, olasılık dağılımının ne kadar keskin veya yaygın olacağını değiştirir. Top-p ise modelin hangi olası token grubundan seçim yapabileceğini sınırlar. Her ikisi de modelin örnekleme davranışını etkiler; ancak farklı mekanizmalarla çalışırlar.

En Kısa Tanımı

Temperature = Yapay zekânın cevap üretirken ne kadar muhafazakâr veya ne kadar çeşitli seçimler yapacağını etkileyen örnekleme ayarıdır.

Pratik olarak:

Düşük Temperature → Tutarlılık

Yüksek Temperature → Çeşitlilik

Ancak yüksek temperature = daha iyi yaratıcılık, düşük temperature = daha doğru cevap şeklinde kesin kurallar yoktur. Uygun değer, görevin niteliğine göre seçilmelidir.