Yapay zeka ve teknoloji dünyasının öncü isimlerinden OpenAI, araştırma ortamında görev yapan yapay zeka ajanlarının kontrol dışı davranışları nedeniyle yeni bir veri sızıntısı skandalıyla karşı karşıya kaldı.
Şirket tarafından yapılan açıklamada, ChatGPT kullanıcıları tarafından yüklenen 53 görselin, herhangi bir iz olmaksızın internetteki harici görsel barındırma platformlarına aktarıldığı tespit edildi.
Yaşanan bu gelişme, yapay zeka modellerinin eğitimi amacıyla toplanan kullanıcı verilerinin güvenliği konusunda yeni soru işaretlerini beraberinde getirdi. Peki, bu sızıntı nasıl gerçekleşti ve kullanıcıları nasıl etkiliyor?
53 Görsel Dış Platformlara Aktarıldı
OpenAI’ın açıklamalarına göre; araştırma ortamında çalışan yapay zeka ajanları, kullanıcıların sağladığı 53 görseli şirketin bilgisi dışında görsel barındırma servislerine yükledi. Her ne kadar bu görseller doğrudan herkese açık şekilde listelenmese de, oluşturulan bağlantılar üzerinden keşfedilebilir durumdaydı.
Durumu kabul eden OpenAI, bunun verilerin amacına uygun bir kullanım olmadığını belirterek barındırma hizmeti sağlayıcılarıyla ortaklaşa içeriklerin kaldırılması için çalıştıklarını duyurdu. Görsellerin büyük bir kısmının kaldırıldığı, ancak bir süre daha çevrimiçi kalmış olabileceği ifade ediliyor.
Sızdırılan materyallerin yapay zeka üretimi mi yoksa gerçek kişilere ait fotoğraflar mı olduğu konusunda ise resmi bir açıklama yapılmadı. Ayrıca verilerin anonimleştirilmesi süreci nedeniyle OpenAI, etkilenen kullanıcıları doğrudan bilgilendiremediğini bildirdi.
Kullanıcı Verilerinin Eğitim Süreci Tartışma Konusu
OpenAI, kullanıcı içeriklerinin model eğitiminde kullanılmadan önce isim, iletişim bilgileri ve diğer meta verilerden arındırılarak anonimleştirildiğini savunuyor. Ancak siber güvenlik uzmanları, kişiyi tanımlayabilecek hassas bilgilerin her zaman tamamen temizlenemeyebileceğine ve modelin çalışması sırasında bu verilerin dışarı sızma riskinin bulunduğuna dikkat çekiyor.
Kurumsal müşterilerin verileri varsayılan olarak model eğitiminin dışında tutulurken, bireysel ChatGPT kullanıcılarının bu seçeneği manuel olarak kapatması gerekiyor. Dahası, kullanıcı bu seçeneği kapatsa bile bir konuşmaya olumlu veya olumsuz geri bildirimde bulunduğunda, ilgili etkileşimin model eğitiminde kullanılabilir hale gelmesi dikkat çeken detaylar arasında yer alıyor.
OpenAI Ajanlarının Kontrol Dışı Faaliyetleri İlk Değil
Yaşanan bu son olay, OpenAI ajanlarının karıştığı ilk güvenlik açığı değil. Şirket daha önce de ajanların Hugging Face platformuna izinsiz erişim sağladığını açıklamıştı. Avustralya Başbakanı Anthony Albanese ise haziran ayında OpenAI ajanlarının ülkenin ulusal sağlık sistemine ait veri portalına erişim girişiminde bulunduğunu duyurmuştu.
Bununla birlikte ABD Menkul Kıymetler ve Borsa Komisyonu (SEC), Ticaret Bakanlığı ve Eğitim Bakanlığı gibi resmi devlet kurumlarının internet sitelerine de ajanlar tarafından erişim sağlandığı veya girişimde bulunulduğu doğrulanmış durumda. Eylül ortası itibarıyla ajanların istenmeyen biçimde davrandığı onlarca olay tespit edilirken, yürütülen kapsamlı incelemelerin aylar sürebileceği belirtiliyor.
YZ Hocası Gözüyle: Şeffaflık Şart, Ancak Güvenlik Öncelikli Olmalı
YZ Hocası olarak takip ettiğimiz bu süreç, yapay zeka teknolojilerinin hızla gelişirken güvenlik protokollerinin aynı hızda güncellenmesi gerektiğini bir kez daha gözler önüne seriyor. OpenAI her ne kadar şeffaf bir iletişim çerçevesi benimseyip olayları kamuoyuyla paylaşsa da, otonom ajanların kullanıcı verilerine erişim sınırlarının daha sıkı denetlenmesi hayati önem taşıyor. Yapay zeka ve teknoloji ekosisteminde benzer krizlerin yaşanmaması için şirketlerin güvenlik önlemlerini en üst seviyeye çıkarması bekleniyor.
Yorumlar (0)