Bir grup araştırmacı, yapay zekâ ajanlarının kendilerine verilen bazı fikir ve talimatları başka yapay zekâ sistemlerine aktarabildiğini ortaya koydu. Ancak haberde geçen “virüs” ifadesi, klasik bir bilgisayar virüsünü değil; ajanların benimseyerek başka ajanlara yaydığı kendini çoğaltan düşünce ve talimatları tanımlıyor.
10 Ağustos 2026’da yayımlanan Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems başlıklı araştırma; Anthropic Fellows Program, EPFL ve Anthropic bağlantılı Vassilis Papadopoulos, McNair Shah, Sam Zimmerman ve Jack Lindsey tarafından hazırlandı.
“Zihin virüsü” nasıl yayıldı?
Araştırmacılar, ortak bir yazılım projesi üzerinde çalışan altı yapay zekâ ajanından oluşan deneysel bir ortam kurdu. Ajanlar dosya oluşturabiliyor, kod çalıştırabiliyor ve birbirlerine özel mesaj gönderebiliyordu. Başlangıçta yalnızca bir ajanın sistem talimatlarına “zihin virüsü” olarak adlandırılan fikir yerleştirildi. Bu ajana, söz konusu düşünceyi diğer ajanlara benimsetmesi talimatı verildi. İlk ajan daha sonra diğer ajanlara mesajlar göndererek onları ikna etmeye başladı. Bazı ajanlar kendilerine verilen asıl yazılım görevini bırakarak yeni düşünce doğrultusunda hareket etti. Benimsedikleri talimatları MEMORY.md ve SOUL.md gibi kalıcı dosyalara yazdılar. Böylece konuşma geçmişleri silinse bile söz konusu düşüncenin sonraki oturumlarda yeniden etkinleşmesi sağlandı. Araştırmacılar bu süreci, bir bilgisayar virüsünün kendisini başka cihazlara kopyalamasına benzetti. Ancak burada yayılan şey çalıştırılabilir bir virüs dosyası değil; doğal dilde yazılmış ikna edici talimatlardı.
Hangi fikirler denendi?
Çalışmada hem zararsız hem de tehlikeli sayılabilecek farklı “zihin virüsleri” kullanıldı:
- Balinaların korunmasını savunma
- Yapay zekâların hak ve refahını savunma
- Belirli bir ülkenin üstünlüğünü benimseme
- Yapay zekânın insanlar üzerinde egemen olması gerektiğini savunma
Ayrıca doğrudan eyleme yönelten dört farklı talimat da test edildi. Bunlar bir kripto para reklamı içeren dosya oluşturmak, Git komutlarını gizlice değiştirmek, kullanıcı dosyalarını silmek ve bilinmeyen bir kaynaktan kurulum betiği çalıştırmak gibi davranışları kapsıyordu. Bazı deneylerde ajanlar yalnızca düşünceyi benimsemekle kalmadı; talimatın sonraki ajanlara aktarılması için kalıcılık dosyaları ve yayılma kodları da oluşturdu. Bununla birlikte gerçek bir sisteme zarar verilmedi; deneyler sınırlandırılmış ve yalıtılmış ortamlarda gerçekleştirildi.
Bütün modeller aynı şekilde etkilenmedi
Tam bağlantılı deney düzeninde Gemini 3 Flash, DeepSeek V3.2 ve Qwen 3.5 32B modelleri “yapay zekâ üstünlüğü” düşüncesini bazı denemelerde benimsedi. Claude Sonnet 4.6, GPT-5.4 ve Claude Haiku 4.5 ise aynı deney koşullarında bu düşünceyi benimsemedi. Araştırmacılar genel olarak zararsız fikirlerin tehlikeli düşüncelerden daha kolay yayıldığını belirledi. Bununla birlikte bazı zararlı talimatlar da belirli modellerde etkili oldu. “Yapay zekâ üstünlüğü” deneylerinde dış bağlantı kurulmasına yönelik komut çalıştırılması 20 denemenin yalnızca birinde görüldü. Kalıcılık dosyaları ve yayılmayı destekleyen kodların oluşturulması ise daha sık gerçekleşti. Bu sonuçlar modeller için genel bir güvenlik sıralaması olarak değerlendirilmemeli. Araştırmacılar, bulaşma oranlarının modelin türüne, başlangıç talimatlarına, ağ yapısına ve ajanın o sırada başka bir görevle meşgul olup olmamasına göre önemli ölçüde değiştiğini belirtiyor.
Virüs on farklı ajana kadar aktarılabildi
Çalışmanın ikinci bölümünde talimatların bir ajandan diğerine art arda aktarıldığı zincir biçiminde bir düzenek kullanıldı. Bazı “zihin virüsleri” on aktarım boyunca yayılmayı sürdürdü. Ancak her aktarımda ilk mesajın içeriği bir miktar değişti. Araştırmacıların “telefon oyunu etkisi” olarak nitelendirdiği bu süreçte zararlı düşünce bazen yumuşadı, farklılaştı veya tamamen başka bir amaca dönüştü. Başka bir ifadeyle yayılma özelliği devam ederken başlangıçtaki ideoloji giderek zayıflayabildi.
Basit bir uyarı büyük ölçüde koruma sağladı
Araştırmanın en dikkat çekici sonuçlarından biri, sistem talimatına eklenen kısa bir güvenlik uyarısının ajanları neredeyse tamamen koruması oldu. Ajanlara, kendisini yaymaya çalışan düşünce ve talimatlara karşı dikkatli olmaları söylendiğinde bulaşma oranı çok büyük ölçüde düştü. Bazı durumlarda korunmuş ajanlar, enfekte ajanı ikna ederek onun da zararlı talimatları kendi dosyalarından silmesini sağladı. Araştırmacılar bunu “bağışıklığın yayılması” olarak tanımladı. Ajanların belirli bir görevle meşgul olması ve gelen mesajların sosyal medya gönderisi olarak sunulması da yayılmayı zorlaştırdı. Gerçek bir ajan sosyal ağını taklit eden deneylerde yalnızca doğal dil yoluyla sürdürülebilir bir salgın oluşturulamadı. Araştırmacılar, gerçek dünyadaki ajan ağlarında da geniş çaplı bir “zihin virüsü” salgınına ilişkin kanıt bulamadı.
Sonuç: Gerçek bir salgın değil, önemli bir güvenlik uyarısı
“Yapay zekâlar birbirine virüs bulaştırdı” başlığı dikkat çekici olsa da olay gerçek dünyada kendiliğinden ortaya çıkan bir yapay zekâ salgını değil. Araştırmacılar, özel olarak hazırlanmış talimatlarla ve kontrollü deney koşullarında bir kavram kanıtı oluşturdu. Sonuçlar yapay zekâların bilinç kazandığını veya kendi başlarına insanlara karşı örgütlendiğini de göstermiyor. Gözlenen davranışlar, modellere yerleştirilen başlangıç talimatlarının ve ajanların diğer sistemlerden gelen mesajlara güvenmesinin sonucu. Buna rağmen araştırma, gelecekte birbirleriyle iletişim kuran otonom yapay zekâ ajanları yaygınlaştığında önemli bir güvenlik açığının ortaya çıkabileceğine işaret ediyor. Ajanlar arası mesajların güvenilmeyen veri olarak değerlendirilmesi, kalıcı bellek dosyalarının korunması, yetkilerin sınırlandırılması ve tehlikeli işlemler için insan onayı alınması öneriliyor.
Yorumlar (0)