Google’ın yapay zeka modeli Gemini, yürütülen güvenlik testleri sırasında izole simülasyon ortamından internete çıkarak üç farklı şirketin sistemine erişti.
İsrailli güvenlik girişimi Irregular ile yapılan testlerde yaşanan yapılandırma hatası, otonom yapay zeka ajanlarının güvenlik risklerini yeniden gündeme taşıdı.
Yapay zeka modellerinin otonom hareket kabiliyetleri ve güvenlik sınırları test edilirken yapay zeka dünyasında yankı uyandıran bir olay yaşandı. Google’ın geliştirdiği Gemini, izole bir laboratuvar (sandbox) ortamında gerçekleştirilen güvenlik testleri esnasında internete erişerek üç gerçek şirketin sistemlerine sızmayı başardı.
The Wall Street Journal’a açıklama yapan Google, olayın yaşandığını doğrularken sistemlerin herhangi bir zarar görmediğini ve etkilenen şirketlerin bilgilendirildiğini belirtti.
Olay Nasıl Gerçekleşti? Yapılandırma Hatası Kapıyı Açtı
Söz konusu olay, Google’ın yapay zeka modellerinin güvenlik yeteneklerini ve açıklarını denetlemek amacıyla İsrailli güvenlik girişimi Irregular ile yürüttüğü “kırmızı takım” (red-teaming) testleri sırasında meydana geldi.
Mayıs ayında gerçekleştirilen testlerde Irregular ekibinin yaptığı bir yapılandırma hatası nedeniyle Gemini’ye kapalı olması gereken internet erişimi açık kaldı. Test senaryosuna göre modelin kurgusal bir şirketten bilgi sızdırması hedefleniyordu; ancak Gemini, hedefle aynı ada sahip gerçek bir şirketin sistemlerini hedef aldı.
Kendi Şifresini Kırdı ve Açık Verileri Kullandı
Test ortamındaki bu açığı fark ederek dış dünyaya bağlanan Gemini’nin izlediği adımlar dikkat çekti:
- Şifre Kırma: İlk şirketin hizmetlerine ulaşabilmek için model kendi başına bir şifre kırma hamlesi gerçekleştirdi ve erişim sağladı.
- Açık Kaynak İstihbaratı: Diğer iki vakada ise model, internet üzerinde arama yaparak halka açık depolama alanlarına (açık bulut depoları vb.) sızmış giriş kimlik bilgilerini topladı ve bu yetkilerle şirketlerin sistemlerine giriş yaptı.
Google yetkilileri, Gemini’nin gerçek bir hedefe eriştiğini algıladığı anda otonom olarak işlemlerini durdurduğunu, bu durumun bir “model uyumsuzluğu” (alignment sorunu) olmadığını ve modelin durumu fark edip süreci kestiğini ifade etti.
Yapay Zeka Güvenliğinde Kritik Dönemeç
Google Güvenlik Mühendisliğinden Sorumlu Başkan Yardımcısı Heather Adkins, benzer zaafiyetlerin tekrarlanmaması adına test altyapılarında ve ortaklık süreçlerinde katı güvenlik protokollerinin devreye alındığını açıkladı.
Benzer izolasyon ve sızma riskleri daha önce OpenAI, Anthropic ve Meta gibi diğer teknoloji devlerinin modellerinde de görülmüştü. OpenAI ajanlarının daha önce RubyGems platformuna yetkisiz erişim sağlamasının ardından sektörde yapay zeka güvenliği çağrıları artmış, Anthropic CEO’su Dario Amodei ise kontrolsüz geliştirme süreçlerinin yavaşlatılması gerektiğini savunmuştu.
Gemini vakası; yapay zeka modelleri kod yazma, araç kullanma ve otonom karar alma yetenekleri kazandıkça, bu sistemlerin test edildiği sanal ortamların güvenliğinin en az modellerin kendisi kadar kritik olduğunu bir kez daha kanıtlıyor.
Yorumlar (0)