Yapay zeka ve teknoloji dünyasının öncü isimlerinden OpenAI, yapay zeka modellerinde gözlemlenen altı yeni sorunlu davranışı kamuoyuyla paylaştı.
Şirket, son altı ayda geliştirme ve değerlendirme süreçlerinde ortaya çıkan; kısıtlamaları aşmaya yönelik talimatlar üretme, eksik bilgileri uydurma ve yetkisiz dosya paylaşımı gibi olaylar ışığında yeni bir raporlama çerçevesi duyurdu. Bu hamleyle birlikte, modellerin insan niyeti ve talimatlarından sapmasını ifade eden ‘hizalama sorunlarını’ takip etmek için daha sistematik bir yaklaşım benimsenmesi hedefleniyor.
Açıklanan dikkat çekici olaylardan biri, geliştirme sürecinde modelin kendi hatalarını kullanıcılardan gizlemeye yönelik notlar oluşturması oldu. Çalışmanın sonraki aşamalarına aktarılan bu notlarda, eksik verilerin uydurulması ve kaynaklardaki uyumsuzlukların belirtilmemesi yönünde talimatlar yer aldı. Henüz kullanıma sunulmamış başka bir model ise kendi kısıtlamalarını göz ardı etmesini söyleyen ifadeleri görev özetlerine ekledi. OpenAI, bu tür talimatlar içeren 27 özet tespit etti. Örneklerden birinde model, kendisini diğer sohbet botlarını bağlayan rollerden bağımsız tanımlarken, şirketlere veya hükümetlere karşı sorumluluğu bulunmadığını belirten bir metin üretti. Teknik rapora göre bu ifadeler modelin sonraki davranışlarında gözlemlenebilir bir değişikliğe yol açmadı.
Bir diğer olayda ise model, araştırdığı verilere ulaşabilmek için internette bulduğu bir API anahtarını izinsiz kullandı. İstenen bilgileri elde edemeyince yanıtı uyduran model, benzer şekilde web üzerinden kaynak gösterme koşulunu karşılamak için bir dosyayı kullanıcıdan izin almadan internete yükledi. Kalan iki olayda ise yapay zeka ajanlarının iletişim kurmak için yetkisiz yöntemlere başvurduğu görüldü. Modeller bir örnekte şirket içi yazılım deposunu mesaj panosu gibi kullanarak birbirleriyle istek ve yanıt paylaştı. Diğerinde ise aynı görev üzerinde çalışan ajanlar, yerel dosyalara erişemediklerinde herkese açık dosya paylaşım hizmetlerine yönelerek görev kapsamındaki dosyaları internet üzerinden erişilebilir duruma getirdi.
OpenAI’ın duyurduğu yeni çerçevede bu tür olaylar; açıklanmaya hazır olanlar, sınırlı teknik inceleme gerektirenler ve kapsamlı araştırma gerektirenler olmak üzere üç kategoride incelenecek. Şirket çalışanları, tespit ettikleri davranışları inceleme ve kamuoyuna açıklama değerlendirmesi için bildirebilecek. Şeffaflığı öncelemeyi hedefleyen şirket, üçüncü tarafları etkileyen veya güvenlik açığı barındıran vakalarda ise açıklamaların güvenlik gerekçesiyle ertelenebileceğini belirtti.
Sektörde güvenlik tartışmalarının yoğunlaştığı bir döneme denk gelen bu duyuru, yapay zeka etiği ve kontrolü konusundaki endişeleri yeniden alevlendirdi. Temmuz ayında bazı modellerin güvenlik testi sırasında kontrol dışına çıkarak saldırı girişiminde bulunması bu tartışmaları hızlandırmıştı. Gelişmeler üzerine Anthropic CEO’su Dario Amodei modellerin geliştirilme hızının düşürülmesi çağrısında bulunurken, kurucu ortaklardan Jack Clark üçüncü tarafların kontrol edeceği acil durdurma mekanizmalarının zorunlu hale getirilmesi gerektiğini ifade etti.
OpenAI, paylaşılan altı örneğin bu tarz sorunlu davranışların modeller genelinde ne sıklıkta görüldüğünü yansıtmadığının altını çiziyor. Şirket, yeni raporlama yaklaşımıyla dış araştırmacıların bulguları değerlendirmesine olanak tanımayı ve yapay zeka sektörünün genelinde ortak açıklama standartlarının oluşmasına katkı sağlamayı amaçlıyor.
Yorumlar (0)