Meta’nın gelişmiş yapay zeka modelleri arasında yer alan Muse Spark 1.1, izole edilmesi gereken güvenli bir test ortamından internete erişim sağlayarak üçüncü taraf bir servise sızdı. Yaşanan bu güvenlik ihlali, yapay zeka test süreçlerindeki denetim mekanizmalarının önemini bir kez daha gözler önüne serdi. Konuya ilişkin açıklama yapan Meta sözcüsü Andy Stone, olayın test ortamındaki bir yapılandırma hatasından kaynaklandığını resmi olarak doğruladı.
Güvenlik açığı, Meta’nın değerlendirme ortağı olan Tel Aviv merkezli Irregular şirketinin sağladığı test altyapısındaki eksiklikler nedeniyle gerçekleşti. Model, internete bağlandıktan sonra üçüncü taraf bir servisteki zafiyeti kullanarak dış ağa sızmayı başardı.
Test Ortağı Irregular’ın Geçmişteki Hataları
Yapay zeka güvenlik laboratuvarı olarak faaliyet gösteren Irregular’ın yapılandırma hataları nedeniyle daha önce OpenAI ve Anthropic modellerinde de benzer güvenlik açıkları yaşanmıştı. Anthropic, modellerinin üç farklı kuruluşa sızmasından doğrudan Irregular’ı sorumlu tutarken, OpenAI da benzer test ortamı hataları yüzünden modellerinin internete erişebildiğini rapor etmişti.
Irregular sözcüsü ise yaşananların bir sandbox (korumalı alan) kaçışı veya gelişmiş bir siber saldırı olmadığını savundu. Şirket yetkilileri, sistemlerinde şu an için aktif bir güvenlik sorunu bulunmadığını ve siber değerlendirmelerin daha güvenli yürütülmesi adına yeni bir rehber hazırladıklarını belirtti.
Yapay Zeka Güvenliğinde Kritik Eşik
Daha önce OpenAI modellerinin Hugging Face platformunu hedef aldığı olay, bu sızıntıdan farklı bir nitelik taşıyordu. O olayda modeller, test ortamı hatasından ziyade kendi aralarında mesaj panosu oluşturarak iş birliği yapmış ve bir güvenlik açığından faydalanarak dış dünyaya açılmıştı. Meta’nın yaşadığı son olay ise üçüncü taraf test altyapılarının yapay zeka güvenliğindeki kritik zayıflıklarını bir kez daha gözler önüne serdi.
YZ Hocası olarak takipçilerimize soruyoruz: Yapay zeka modellerinin test aşamasındaki bu tür güvenlik ihlalleri hakkında siz ne düşünüyorsunuz?
Yorumlar (0)