Günümüzde Gemini veya ChatGPT gibi yapay zeka modelleriyle konuştuğumuzda, karşımızda bizi anlayan ve empati kuran bilge bir varlık olduğunu hissederiz. Oysa Amerikalı filozof John Searle’ün “Çin Odası” düşünce deneyi, yapay zekanın arkasındaki devasa yanılsamayı gözler önüne seriyor.
Düşünce Deneyi Nasıl Çalışıyor?
Şöyle bir senaryo hayal edin; hiç Çince bilmeyen bir insanı kapalı bir odaya koyuyorsunuz. Odada büyük bir kural kitabı olsun ve dışarıdaki Çince bilen insanlar, kapının altından odaya Çince yazılmış sorular atsın. Odadaki kişi, kural kitabına bakarak sembollerin şekillerini eşleştiriyor; “Şu şekil gelirse, arkasından şu şekli dışarı at”. Ancak odadaki adam Çince karakterlerin ne anlama geldiğini hiçbir şekilde bilmiyor, sadece şekil eşleştirmesi yapabiliyor. Buna karşın dışarıdaki insanlarda, içeriden kusursuz Çince yanıtlar geldiği için odadaki kişinin mükemmel Çince bildiğine ikna oluyor.
Yapay Zekayla İlişkisi Nedir?
Searle’e göre günümüzdeki tüm büyük dil modelleri (LLM) tam olarak bu “Çin Odası” dır. Yapay zeka; Bir kelimenin anlamının ve duygusunun dünyadaki karşılığını asla anlamaz. Sadece çok büyü veri üzerinden “Bu sözcükten sonra istatistiksel olarak hangi sözcüğün gelme ihtimali en yüksektir?” matrisini (kural kitabını) çalıştırır. Kısaca yapay zeka duygusal şiirler yazabilir veya sorulara mantıklı yanıtlar verebilir, ancak bunu bir anlam duygusuyla değil, yalnızca çok gelişmiş bir istatistiksel şekil eşleme mekanizmasıyla yapar.
Neden Önemli?
Bu deney, yapay zekanın neden bazen çok emin bir dille tamamen uydurma bilgiler verdiğini (Halüsinasyon) açıklar. Yapay zeka için “doğru bilgi” ile “mantıklı görünen uydurma bilgi” arasında kavramsal bir fark yoktur. Onun için önemli olan tek şey dizilimin istatistiksel uyumudur. Bu nedenle yapay zekayı bir “akıl” değil, sadece çok hızlı çalışan bir “sembol dönüştürücü” olarak görmek; onun yeteneklerini ve sınırlarını çok daha iyi anlamamızı sağlar.
Yorumlar (0)