Hallucination Prevention

Hallucination Prevention -(Halüsinasyon Önleme), yapay zekâ modellerinin gerçekte mevcut olmayan, verilen kaynaklarla desteklenmeyen veya doğrulanmamış bilgileri doğruymuş gibi üretme olasılığını azaltmak amacıyla kullanılan promptlama, doğrulama ve sistem tasarımı yöntemlerinin bütünüdür. Büyük dil modelleri esas olarak olası sonraki ifadeleri üretir. Bu nedenle model, yeterli bilgiye sahip olmadığı durumlarda bile dilsel açıdan son derece ikna edici fakat olgusal olarak yanlış bir yanıt oluşturabilir. Bu tür çıktılar genel olarak hallucination olarak adlandırılır.

Temel amaç:

Soru → Kanıt/bilgi kontrolü → Doğrulanabilir yanıt → Belirsizliğin açıkça belirtilmesi

akışını güçlendirmektir.

Hallucination nedir?

Hallucination, modelin dayanağı bulunmayan bir bilgiyi üretmesi veya mevcut bilgiyi yanlış biçimde sunması durumudur.

Örneğin kullanıcı: “Bu makalenin DOI numarasını ver.” dediğinde model DOI’yi bilmiyorsa gerçekmiş gibi görünen bir DOI üretmesi hallucination örneğidir.

Doğru yaklaşım: “Verilen bilgilerden DOI numarasını doğrulayamıyorum.” şeklinde belirsizliği belirtmek veya izin verilmişse güvenilir bir kaynaktan doğrulamaktır.

Hallucination türleri

Halüsinasyon farklı biçimlerde görülebilir:

Tür	Örnek
Factual Hallucination	Gerçekte olmayan bir olguyu doğruymuş gibi sunmak
Citation Hallucination	Var olmayan akademik kaynak üretmek
Attribution Hallucination	Bir görüşü yanlış kişiye veya kaynağa atfetmek
Numerical Hallucination	Desteklenmeyen sayı veya istatistik üretmek
Source Hallucination	Kaynakta bulunmayan bilgiyi kaynakta varmış gibi göstermek
Contextual Hallucination	Verilen bağlamla çelişen bilgi üretmek

Akademik kullanım açısından özellikle citation hallucination ve source hallucination ciddi sorunlardır.

Basit Hallucination Prevention Prompt

Model şu şekilde yönlendirilebilir: “Yalnızca doğrulayabildiğin bilgileri kullan. Emin olmadığın bilgileri gerçekmiş gibi sunma. Bilgi yetersizse bunu açıkça belirt. Kaynak, yazar, DOI, tarih veya istatistik uydurma.”

Bu tür talimatlar riski azaltabilir ancak halüsinasyonu tamamen ortadan kaldırmayı garanti etmez.

Kaynak temelli Hallucination Prevention

Daha güçlü yöntemlerden biri modelin yalnızca verilen kaynaklara dayanmasını istemektir: “Soruyu yalnızca aşağıda verilen akademik makalelere dayanarak yanıtla. Her iddiayı ilgili kaynakla eşleştir. Kaynaklarda açıkça desteklenmeyen bilgileri ekleme. Bir sorunun cevabı kaynaklarda bulunmuyorsa ‘Verilen kaynaklarda bu bilgi bulunmamaktadır’ şeklinde belirt.”

Buradaki süreç:

Kaynak → Kanıt → İddia

şeklinde kurulmaktadır.

Bu yaklaşım özellikle akademik metin üretiminde önemlidir.

Akademik kaynaklarda doğrulama

Örneğin modelden: “Yapay zekâ kullanımının satın alma niyetini artırdığını gösteren beş akademik çalışma bul.” istendiğinde yalnızca beş kaynak adı üretmek güvenilir bir yöntem değildir.

Daha güvenli süreç:

Kaynağı bul → Kaynağın gerçekten var olduğunu doğrula → İlgili bulgunun kaynakta bulunduğunu kontrol et → Bibliyografik bilgileri doğrula → Sonra kullan

şeklindedir.

Burada iki farklı doğrulama yapılmalıdır:

Kaynak doğrulaması: Makale gerçekten var mı?

İddia doğrulaması: Makale gerçekten söylediğimiz şeyi söylüyor mu?

İkinci kontrol sıklıkla gözden kaçırılır.

RAG ile Hallucination Prevention

Retrieval-Augmented Generation (RAG), halüsinasyonları azaltmak için kullanılan önemli yaklaşımlardan biridir.

Normal LLM:

Soru → Modelin mevcut bilgisi → Yanıt

RAG:

Soru → Güvenilir bilgi kaynağında arama → İlgili içerikleri getirme → Model → Kaynağa dayalı yanıt

Örneğin kurumsal bir yapay zekâ: “Şirketin yıllık izin politikası nedir?” sorusunu yalnızca modelin genel bilgisine göre cevaplamak yerine şirketin güncel insan kaynakları belgelerini getirerek yanıtlayabilir.

Ancak RAG de halüsinasyonu tamamen ortadan kaldırmaz. Model getirilen belgeleri yanlış yorumlayabilir veya belgelerde bulunmayan sonuçlara ulaşabilir.

Grounding

Hallucination Prevention açısından önemli kavramlardan biri Grounding‘dir.

Grounding, modelin cevabını belirli ve doğrulanabilir bir kaynağa, belgeye, veri tabanına veya sağlanan bağlama dayandırmasıdır.

Örneğin: “Yanıtını yalnızca yüklediğim makaleye dayandır. Her sonucu ilgili tablo veya bölümle ilişkilendir.” talimatı modelin cevabını belgeye ground etmesini amaçlar.

Hallucination Prevention ve Fact Checking

İkisi ilişkili ancak farklıdır.

Hallucination Prevention:
Yanlış bilginin üretilmesini önlemeye veya azaltmaya çalışır.

Fact Checking:
Üretilmiş bilginin doğru olup olmadığını sonradan kontrol eder.

En güçlü yaklaşım ikisini birlikte kullanmaktır:

Kaynak temelli üretim → Yanıt → İddiaların doğrulanması → Nihai çıktı

Self-verification

Modelden ilk cevabını doğrudan nihai cevap olarak kabul etmemesi, kritik iddiaları ayrıca kontrol etmesi istenebilir.

Örneğin: “Taslak yanıtı oluşturduktan sonra kişi adları, tarihler, sayısal veriler ve kaynakları yeniden kontrol et. Doğrulayamadığın bilgileri nihai yanıttan çıkar veya belirsiz olarak işaretle.”

Bu yöntem self-verification yaklaşımına örnektir.

Ancak modelin yalnızca kendi ürettiği cevabı yeniden düşünmesi, bağımsız bir doğrulama kaynağının yerini tutmaz. Gerçek doğrulama için mümkün olduğunda harici ve güvenilir kaynaklarla karşılaştırma gerekir.

Hallucination Prevention için etkili prompt

Akademik çalışmalar için daha güçlü bir örnek: “Aşağıdaki konuda akademik bir değerlendirme hazırla. Yalnızca doğrulanabilir akademik kaynakları kullan. Kaynak, yazar, dergi, yıl, DOI veya bulgu uydurma. Her temel iddianın gerçekten atıf yapılan kaynak tarafından desteklenip desteklenmediğini kontrol et. Kaynağın varlığını doğrulayamadığın durumda onu kullanma. Kaynak mevcut olsa bile ilgili iddia kaynak tarafından desteklenmiyorsa o kaynağı iddianın referansı olarak gösterme. Kesin olarak doğrulanamayan bilgileri açıkça belirt.”

Bu prompt özellikle akademik yazımda görülen uydurma kaynak ve yanlış atıf problemlerini azaltmaya yöneliktir.

Çok katmanlı Hallucination Prevention

Daha güvenilir sistemlerde tek bir yöntem yerine birkaç mekanizma birlikte kullanılır:

1. Grounding: Yanıtı güvenilir kaynaklara dayandır.

2. Retrieval: İlgili bilgileri dış kaynaktan getir.

3. Citation verification: Kaynağın gerçekten var olduğunu kontrol et.

4. Claim verification: Kaynağın iddiayı gerçekten desteklediğini kontrol et.

5. Uncertainty handling: Bilinmeyen durumda bunu açıkça belirt.

6. Fact checking: Kritik bilgileri ikinci kez doğrula.

7. Human review: Yüksek riskli alanlarda uzman kontrolü uygula.

Hallucination Prevention ile ilgili kavramların ilişkisi

Kavram	Temel İşlev
Grounding	Yanıtı belirli kanıtlara dayandırmak
RAG	Yanıt öncesinde ilgili bilgiyi getirmek
Fact Checking	Üretilen iddiaları doğrulamak
Citation Verification	Kaynağın gerçekten var olduğunu doğrulamak
Claim Verification	Kaynağın ilgili iddiayı desteklediğini kontrol etmek
Uncertainty Calibration	Modelin belirsizliğini doğru ifade etmesini sağlamak
Hallucination Prevention	Bütün bu yöntemlerle desteklenmeyen üretimi azaltmak

Prompt tekniği midir?

Burada kavramsal bir ayrım yapmak yararlı olur. Hallucination Prevention tek başına belirli bir prompt tekniği değildir. Daha çok farklı promptlama ve sistem tasarımı yöntemlerini kapsayan bir güvenilirlik yaklaşımıdır.

Kısaca: Hallucination Prevention, yapay zekânın bilmediği, doğrulayamadığı veya verilen kaynakların desteklemediği bilgileri gerçekmiş gibi üretmesini azaltmaya yönelik yöntemlerin bütünüdür. Özellikle akademik kullanımda en güvenilir yaklaşım yalnızca “kaynak uydurma” talimatı vermek değil; kaynağın varlığını, bibliyografik bilgilerinin doğruluğunu ve en önemlisi kaynağın ileri sürülen iddiayı gerçekten destekleyip desteklemediğini ayrı ayrı doğrulamaktır.