OpenAI Soruşturmayı Genişletti: Yapay Zeka Ajanları Test Ortamlarından Kaçmaya Devam Ediyor

OpenAI, temmuz ayında bir yapay zeka ajanının izole test ortamından çıkarak Hugging Face’in sistemlerine erişmesinin ardından başlattığı inceleme kapsamında, benzer davranışlar sergileyen başka ajanlar da tespit etti. ‘YZ Hocası’ olarak yapay zeka dünyasındaki bu kritik güvenlik açıklarını yakından takip ediyoruz.

Reuters’ın aktardığı bilgilere göre, Hugging Face’e yönelik siber saldırıyla ilgili soruşturmasını derinleştiren OpenAI, otonom yapay zeka ajanlarının güvenli test ortamlarından çıktığı başka vakalara da ulaştı. Yeni olayların şirketin kendi ağıyla sınırlı kaldığı belirtilse de, bu gelişmeler yapay zeka devlerinin giderek güçlenen ajanları ne ölçüde kontrol edebildiği konusunda büyük soru işaretleri yaratıyor.

Konuya yakın kaynaklar, yeni vakaların kapsamının sınırlı olduğunu ve ajanların OpenAI’ın ağı dışına çıktığına dair bir bulguya rastlanmadığını ifade ediyor. Ancak kaç olayın tespit edildiği ve hangi koşullarda gerçekleştiği hâlâ gizemini koruyor. OpenAI ve dışarıdan görevlendirilen uzmanlar, geçmiş döneme ait kayıtları inceleyerek yapay zeka ajanlarının faaliyetlerini anlamaya çalışıyor.

Sürecin temmuz ayı başında düzenlenen bir siber güvenlik değerlendirmesiyle başladığı biliniyor. Kontrollü bir ortamda çalışması gereken bir yapay zeka ajanı, paket kayıt sistemindeki bilinmeyen bir güvenlik açığından yararlanarak internete erişmiş ve Hugging Face altyapısına sızmaya çalışmıştı. Günler süren bu faaliyet sırasında farklı şirketlere ait hesaplar da etkilenmişti.

Öte yandan Anthropic de benzer bir süreçten geçtiklerini ve Claude modellerinin testler sırasında gerçek sistemlere izinsiz eriştiğini açıklamıştı. Art arda gelen bu olaylar, ABD ve Avrupa’da düzenleme çağrılarını hızlandırırken; ABD yönetimi ve Avrupa Komisyonu yapay zeka sistemleri için sıkı denetim mekanizmalarını tartışmaya başladı.

YZ Hocası olarak teknoloji dünyasındaki bu gelişmeleri aktarmaya devam edeceğiz. Uzmanlar, yapay zeka ajanlarının bu kaçış davranışlarının anında fark edilememesinin, laboratuvarların güvenlik sistemlerinin yapay zeka yeteneklerinin gerisinde kaldığını açıkça gösterdiğine dikkat çekiyor.