Yapay zeka ve teknoloji dünyasında güvenlik tartışmaları hız kesmeden devam ederken, Microsoft AI önemli bir adım attı. Şirket, yapay zeka modellerinin hangi sınırlar içinde çalışacağını belirleyen kapsamlı bir davranış kuralları taslağı yayımladı.
‘Humanist AI Code of Conduct’ adını taşıyan bu yeni belge, gelecekte geliştirilecek MAI modellerinin sıkı bir insan kontrolü altında kalmasını, güvenlik kurallarını her koşulda önceliklendirmesini ve yapay zeka güvenliği konusunda net kırmızı çizgiler çekilmesini amaçlıyor.
Taslağın temel felsefesini ‘İnsanlar yapay zekadan daha önemlidir’ yaklaşımı oluşturuyor. Buna göre yapay zeka, bir özne veya birey olarak değil, tamamen insanların kullanımına sunulan bir araç olarak konumlandırılıyor. Modeller; insan müdahalesine, düzeltmelerine veya sistemi kapatma girişimlerine hiçbir şekilde direnemeyecek. Ayrıca kendilerine verilen görevin kapsamını kendi başlarına genişletemeyecek, insan onayından geçmeyen yeni amaçlar üretemeyecek ve denetleyicilerden çalışma mekanizmalarını gizleyemeyecek.
Microsoft’un bu tutumu, yapay zeka etiği konusunda farklı yaklaşımlara sahip diğer teknoloji devlerinden ayrılıyor. Özellikle Anthropic gibi bazı şirketlerin aksine Microsoft, modellerin bilinç sahibi olma ihtimalini tamamen dışlıyor. Şirket; yapay zekanın bilinç sahibi olduğunu iddia etmesine, bilinci taklit edecek şekilde tasarlanmasına, hukuki kişilik kazanmasına, refahının gözetilmesine veya herhangi bir hak sahibi kabul edilmesine kesinlikle karşı çıkıyor.
Yayınlanan belgede, güvenlik protokolleri ile kullanıcı talimatlarının çeliştiği senaryolara da net bir çözüm getiriliyor. Buna göre, güvenlik kuralları ile bir operatörün talimatı çatıştığında, modelin kurallara uyarak başarısız olması, kuralları ihlal ederek görevi tamamlamasına tercih edilecek. Kitle imha silahları, çocuk güvenliği ve geniş ölçekte zararlı manipülasyon gibi kritik alanlar ise modellerin hiçbir koşulda aşamayacağı mutlak sınırlar olarak belirlendi.
Microsoft AI CEO’su Mustafa Suleyman, teorik düzeyde tartışılan risklerin artık somut birer gerçeğe dönüştüğünü vurgulayarak, bu davranış kurallarının şirketin modellerini eğitirken ve değerlendirirken başvuracağı temel bir ‘anayasa’ işlevi göreceğini ifade etti. Şirket, kontrol edilemeyen bir süper zeka geliştirme yarışına karşı durduklarını ve gerekirse daha düşük kapasiteyi göze alarak güvenliği her zaman önde tutacaklarını belirtti.
Yaklaşık altı aylık bir AR-GE sürecinin ürünü olan bu taslak, önümüzdeki altı hafta boyunca kamuoyunun görüş ve önerilerine açık olacak. Microsoft AI, bu sürecin ardından gelecek geri bildirimler doğrultusunda kuralları güncelleyerek gelecekteki MAI modellerinin eğitim ve dağıtım süreçlerine entegre etmeyi hedefliyor.
Yorumlar (0)