Yapay zekâ ve teknoloji dünyasının öncüsü OpenAI, popüler dil modeli ChatGPT için geliştirdiği yeni hizmet katmanı Ultrafast modunu resmen duyurdu. Yapay zekâ sistemlerinde uzun süredir devam eden yanıt süresi sorununu kökten çözmeyi hedefleyen bu yeni özellik, standart işlem süreçlerine kıyasla 14 kata varan bir hız artışı sunuyor.
Yapılan açıklamalara göre Ultrafast modu sayesinde model, saniyede 750 adede kadar çıktı token’ı (yapay zekânın ürettiği metin parçacıkları) üretebilecek kapasiteye ulaşıyor. Büyük dil modellerinde yüksek analiz ve zekâ kapasitesi genellikle yavaş yanıt süreleriyle sonuçlanırken, OpenAI bu güncellemeyle performans ve hızı aynı çat altında buluşturuyor. Şirket, bu adımı “saniye başına daha fazla yararlı iş” vizyonunun bir ürünü olarak nitelendiriyor.
Cerebras çip ortaklığıyla geliştirilen yenilikçi teknik altyapı sayesinde elde edilen bu hız, özellikle anlık karar verilmesi gereken kritik sektörleri hedefliyor. Şu an için önizleme aşamasında olan ve sınırlı bir müşteri grubunun erişimine sunulan Ultrafast modunun; kriz yönetimi, müşteri hizmetleri, finansal piyasa analizleri ve e-ticaret gibi alanlarda çığır açması bekleniyor. OpenAI, altyapı kapasitesi arttıkça bu özelliğin kapsamını genişleteceğini belirtiyor.
Yorumlar (0)