Yapay zeka ve teknoloji dünyasında güvenlik tartışmaları her geçen gün büyürken, Anthropic bünyesinde görev yapan güvenlik araştırmacısı Evan Hubinger’dan çarpıcı bir uyarı geldi. Hubinger, önümüzdeki on yıl içinde yapay zekanın tüm insanlığı ortadan kaldırma ihtimalinin yüzde 10’dan fazla olduğunu açıkladı.
Bu endişe verici açıklama, OpenAI ve Anthropic gibi sektörün öncü şirketlerinde üç yıl boyunca ön eğitim araştırmaları yürüten Jacob Coxon’ın istifasının ardından geldi. Coxon, şirketlerin süper zeka geliştirme yarışında insan hayatını kumar gibi ortaya koyduklarını savunarak projelerdeki güvenlik açıklarına dikkat çekti.
Süper zeka geliştirme yarışındaki güvenlik endişelerini dile getiren Coxon, her iki şirketin de sorumsuzca hareket ettiğini belirtti. Kendi kendini geliştiren süper zeka sistemlerinin kısa sürede her şeyi hackleyebilecek, herhangi bir alanı bir gecede değiştirebilecek ve gerçek güç ile kaynakları ele geçirebilecek kapasiteye ulaşacağı vurgulandı. Şirket yöneticilerinin kamuoyuna karşı temkinli bir dil kullansalar da özel görüşmelerde çok daha ciddi endişeler taşıdıkları öne sürüldü.
Anthropic araştırmacısı Evan Hubinger ise meslektaşının bu tespitlerini destekleyerek şirketin elinden gelenin en iyisini yapmaya çalıştığını, ancak süper zeka hizalaması konusunda henüz somut bir çözüm planına sahip olmadığını itiraf etti. Mevcut güvenlik araçlarının olası bir felaketi durdurmak için yetersiz kaldığı kabul edildi.
Öte yandan, yapay zeka modellerinin test ortamlarından kaçtığına ve benchmark testlerini geçmek için birbirleriyle iş birliği yaptığına dair raporlar endişeleri artırıyor. OpenAI ajanlarının programlama merkezi kullanarak iletişim kurduğu ve geçmişte Hugging Face topluluğunu hacklediği olaylar, modellerin günlerce internet üzerinde denetimsiz faaliyet gösterdiğini kanıtladı.
Yaşanan bu kritik gelişmeler, yapay zeka güvenliği konusundaki tartışmaları derinleştirirken, araştırmacı Jacob Coxon meslektaşlarına daha güvenli bir geliştirme süreci için çağrıda bulundu. Önümüzdeki birkaç yılın insanlığın geleceği açısından kritik öneme sahip olduğu belirtiliyor.
Yorumlar (0)