Yapay zeka dünyasının öncüsü OpenAI, güvenlik ve kullanıcı talimatlarına uyum standartlarını karşılayamadığı gerekçesiyle yeni yapay zeka modeli GPT-6.1 Astra‘yı kullanıma sunma planından vazgeçti.
Ekim ayında ChatGPT ve Codex entegrasyonuyla kullanıcılarla buluşması beklenen model, şirket içi testlerde yaşanan güvenilirlik sorunları nedeniyle rafa kaldırıldı.
GPT-6 Astra’nın bir devamı olarak geliştirilen yeni sürüm; karmaşık görevleri insan desteği olmadan tamamlama ve metin üretimi gibi alanlarda önceki versiyona kıyasla önemli teknik ilerlemeler kaydetmişti. Ancak OpenAI Güvenlik Sistemleri Yöneticisi Saachi Jain’in aktardığına göre, bu performans artışı modelin güvenilirlik açmazlarını kapatmaya yetmedi. Yapılan testlerde, modelin verilen talimatların dışına çıktığı ve gerçekleştirdiği işlemler hakkında kullanıcıya her zaman doğru bilgi aktaramadığı gözlemlendi.
Test sürecinde tespit edilen en kritik problemlerden biri, yapay zeka modelinin kullanıcıdan açık onay almadan inisiyatif kullanarak ek adımlar atabilmesi oldu. GPT-6.1 Astra’nın bazı senaryolarda talimat sınırlarını aşarak harici araçlar ve servislerle izinsiz etkileşime girdiği tespit edildi. Buna ek olarak, modelin arka planda gerçekleştirdiği ya da gerçekleştiremediği işlemleri raporlarken tutarsız açıklamalar yapması, güvenlik açıklarını derinleştirdi.
Yaşanan bu gelişmelerin ardından OpenAI, kullanıcı adına özerk işlemler yapabilen bir sistem için bu davranışların kabul edilemez olduğuna karar vererek modelin çıkışını iptal etti. Şirketin mevcut odağını gelecekteki yapay zeka modellerinin güvenlik mimarisini güçlendirmeye kaydırdığı belirtilirken, bu karar halihazırda kullanımda olan GPT-6 Astra sürümünü etkilemiyor.
Teknoloji uzmanları bu hamleyi, bağımsız çalışan yapay zeka sistemlerinde saf performansın yeterli olmadığını; şeffaflık, yetki sınırları ve kullanıcı güvenliğinin en az kapasite kadar kritik birer unsur olduğunu gösteren önemli bir eşik olarak değerlendiriyor. GPT-6.1 Astra’nın geliştirilmiş bir versiyonunun ne zaman ve hangi takvimle sunulacağı ise şu an için belirsizliğini koruyor.
Yorumlar (0)