Hallucination -(Halüsinasyon)

Halüsinasyon, yapay zekâ modelinin gerçekte var olmayan, doğrulanamayan veya yanlış bilgileri doğruymuş gibi üretmesi durumudur. Büyük dil modelleri (LLM’ler) kesin bilgi depolamak yerine, eğitim sırasında öğrendikleri dil örüntülerine dayanarak en olası yanıtı tahmin eder. Bu nedenle zaman zaman uydurma kaynaklar, hatalı tarihler, var olmayan araştırmalar veya gerçeği yansıtmayan açıklamalar oluşturabilir. Örneğin bir kullanıcı belirli bir bilimsel makalenin özetini istediğinde, yapay zekâ gerçekte bulunmayan bir makale adı, yanlış DOI numarası veya hiç yayımlanmamış bir araştırmayı kaynak olarak gösterebilir. Bu durum özellikle akademik çalışmalar, hukuk, sağlık ve finans gibi doğruluğun kritik olduğu alanlarda önemli riskler oluşturur.

Halüsinasyonlar; yetersiz veya belirsiz istemler, modelin bilgi sınırları, güncel verilere erişememesi veya eksik bağlam nedeniyle ortaya çıkabilir. Bu nedenle yapay zekâ tarafından sunulan bilgilerin güvenilir kaynaklarla doğrulanması büyük önem taşır.

Halüsinasyon riskini azaltmak için kullanıcılar açık ve ayrıntılı istemler hazırlamalı, modelden mümkün olduğunca kaynak göstermesini istemeli ve elde edilen bilgileri resmî belgeler veya güvenilir akademik veritabanlarıyla karşılaştırmalıdır. Yapay zekâ güçlü bir yardımcı olsa da, ürettiği bilgilerin doğruluğundan her zaman kullanıcı sorumludur.

Büyük dil modelleri bilgi tabanlarını doğrudan sorgulamaz veya gerçekleri kontrol ederek cevap üretmez. Bunun yerine eğitim sürecinde öğrendikleri örüntülere dayanarak bir sonraki tokenı tahmin ederler. Eğer modelin yeterli bilgisi yoksa, eğitim verisi yetersizse veya kullanıcı çok belirsiz bir soru sormuşsa model gerçeğe uygun olmayan ancak dil bilgisi açısından son derece tutarlı görünen cevaplar oluşturabilir. Bu durum yapay zekâ halüsinasyonu olarak adlandırılır.

Örneğin kullanıcı: “2028 Nobel Fizik Ödülü’nü kim kazandı?”

şeklinde geleceğe yönelik veya doğrulanamayan bir soru sorduğunda model, “Henüz bilinmiyor.” demesi gerekirken belirli kişi isimleri ve gerekçeler uydurursa bu bir halüsinasyondur.

Benzer şekilde model;

• Hiç yayımlanmamış akademik makaleler oluşturabilir.
• Var olmayan DOI numaraları verebilir.
• Gerçek olmayan kitap, yazar veya dergi isimleri üretebilir.
• Yanlış istatistikler veya tarihî bilgiler sunabilir.
• Mevcut olmayan internet bağlantıları oluşturabilir.

Bu nedenle özellikle akademik çalışmalar, hukuk, sağlık ve finans gibi yüksek doğruluk gerektiren alanlarda yapay zekâ tarafından verilen bilgilerin mutlaka güvenilir kaynaklarla doğrulanması önerilmektedir.

Yapay zekâ halüsinasyonlarının ortaya çıkmasının başlıca nedenleri şunlardır:

• Eğitim verisinde eksik veya çelişkili bilgiler bulunması.
• Modelin gerçek zamanlı bilgiye erişememesi.
• Belirsiz veya eksik kullanıcı istemleri (prompt).
• İstatistiksel tahmin mekanizmasının kesin bilgi üretmek yerine en olası kelime dizisini seçmesi.
• Uzun konuşmalarda bağlamın kaybolması veya yanlış yorumlanması.

Halüsinasyon riskini azaltmak için çeşitli yöntemler geliştirilmiştir. Bunların başında Retrieval-Augmented Generation (RAG) gelir. RAG sistemlerinde model, cevap üretmeden önce güvenilir veri tabanlarından veya belgelerden bilgi getirerek (retrieval) yanıtını bu kaynaklara dayandırır. Ayrıca insan geri bildirimiyle pekiştirmeli öğrenme (Reinforcement Learning from Human Feedback – RLHF), daha kaliteli eğitim verileri ve doğrulama mekanizmaları da halüsinasyonların azaltılmasına katkı sağlamaktadır.

Kullanıcılar da doğru istem (prompt) hazırlayarak halüsinasyon olasılığını azaltabilir. Örneğin, “Kaynak göster”, “Emin değilsen belirt”, “Yalnızca doğrulanmış bilgileri kullan” veya “Bilmiyorsan bilmiyorum de” gibi ifadeler modelin daha temkinli yanıt vermesine yardımcı olabilir.

Avantajları

Halüsinasyon doğrudan bir avantaj değildir. Ancak aynı mekanizma;

• Yaratıcı yazı yazma,
• Hikâye oluşturma,
• Senaryo geliştirme,
• Beyin fırtınası yapma,
• Yeni fikir üretme

gibi doğruluk yerine yaratıcılığın ön planda olduğu görevlerde faydalı olabilir.

Dezavantajları

• Yanlış bilgilerin doğruymuş gibi sunulmasına neden olabilir.
• Akademik çalışmalarda sahte kaynak ve atıf oluşturabilir.
• Sağlık, hukuk ve finans gibi kritik alanlarda ciddi hatalara yol açabilir.
• Kullanıcının modele duyduğu güveni azaltabilir.
• Yanlış kararların alınmasına neden olabilir.

Özet

Hallucination, büyük dil modellerinin gerçekte var olmayan veya yanlış bilgileri akıcı ve ikna edici biçimde üretmesi durumudur. Bu durum, modellerin gerçekleri doğrulamak yerine istatistiksel olasılıklara göre metin üretmesinden kaynaklanmaktadır. Halüsinasyonların tamamen ortadan kaldırılması henüz mümkün olmasa da RAG sistemleri, insan geri bildirimiyle eğitim, kaliteli veri kümeleri ve doğrulama yöntemleri sayesinde önemli ölçüde azaltılabilmektedir. Özellikle akademik ve bilimsel çalışmalarda yapay zekâ tarafından sunulan bilgilerin bağımsız kaynaklarla doğrulanması büyük önem taşımaktadır.

İlgili Kavramlar: Large Language Model (LLM), Transformer, Token, Prompt, Retrieval-Augmented Generation (RAG), Reinforcement Learning from Human Feedback (RLHF), Fine-Tuning, Context Window

Kaynakça

Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.

Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1–38.

Jurafsky, D., & Martin, J. H. (2025). Speech and Language Processing (3rd ed., draft). Pearson.

OpenAI. (2023). GPT-4 technical report. arXiv. https://doi.org/10.48550/arXiv.2303.08774