Google, Sahte Uydu Görüntüleri Üreten Nano Banana 2 Özelliğini Askıya Aldı

Google, yapay zeka destekli görsel üretim aracı Nano Banana 2’yi Google Earth platformuna entegre etmesinin ardından yaşanan güvenlik sorunları nedeniyle bu özelliği geçici olarak kaldırma kararı aldı.

Şirket, üretilen bazı görsellerin mevcut politikaları ihlal ettiğini belirterek daha kapsamlı güvenlik önlemleri üzerinde çalışacağını duyurdu.

30 Temmuz tarihinde Google Earth sistemine dahil edilen Nano Banana 2 teknolojisi, kullanıcıların gerçek dünya konumları üzerinde yaratıcı manzaralar oluşturmasına imkan tanımıştı. Coğrafi verilerle çalışan profesyoneller için faydalı olması hedeflenen bu yenilik, kısa süre içinde beklenmedik manipülasyon risklerini beraberinde getirdi.

Araştırmacılar, platforma entegre edilen yapay zeka aracının gerçekçi görünen ancak tamamen sahte sahneler oluşturabildiğini kanıtladı. Yapılan testlerde Beyaz Saray’ın önüne devasa bir Donald Trump heykelinin yerleştirilmesi, Meksika sınırı yakınında hayali mülteci kamplarının oluşturulması ve İran’da gerçekte var olmayan nükleer tesislerin görüntülenmesi gibi çarpıcı örnekler ortaya çıktı. Ayrıca Amsterdam’da hiç gerçekleşmemiş büyük trafik kazalarının simüle edilebilmesi, platformun güvenilirliği konusunda ciddi endişelere yol açtı.

Yaşanan gelişmeler üzerine resmi X hesabı üzerinden bir açıklama yapan Google, kullanıcıların Google Earth’ü dünyanın güvenilir bir görsel kaynağı olarak kabul ettiğine dikkat çekti. Yapay zeka ile üretilen bu yanıltıcı içeriklerin ekran görüntüsü alınarak sosyal medyada paylaşılmasının şirket politikalarını ihlal ettiği vurgulandı. Bu doğrultuda Nano Banana 2 entegrasyonu geçici olarak durdurulurken, sistemin daha güçlü güvenlik duvarlarıyla donatıldıktan sonra yeniden değerlendirileceği ifade edildi.

Yeni güvenlik protokollerinin hangi tür manipülatif görselleri ve içerikleri engelleyeceği henüz netlik kazanmazken, Google yetkilileri yapay zeka ile üretilen içeriklerin platformun ana deneyiminde doğrudan yer almadığını ve bu tür görsellerin yapay zeka üretimi olduğunu belirten dijital filigranlar taşıdığını hatırlattı.