Data Leakage

Data Leakage -(Veri Sızıntısı), bir yapay zekâ sisteminin eriştiği kişisel, kurumsal, gizli veya erişimi sınırlandırılmış bilgilerin yetkisiz kişilere, sistemlere ya da çıktılara istemeden veya saldırı sonucunda açığa çıkmasıdır. LLM güvenliği açısından veri sızıntısı; prompt injection, hatalı erişim kontrolü, aşırı araç yetkilendirmesi, yanlış yapılandırılmış RAG sistemleri veya yetersiz veri izolasyonu gibi birçok farklı nedenle ortaya çıkabilir.

Temel olarak:

Hassas veri → Yapay zekâ sistemi → Yetki/güvenlik kontrolü → Yetkili kullanım

olması gerekirken veri sızıntısında:

Hassas veri → Yapay zekâ sistemi → Güvenlik/erişim hatası → Yetkisiz kullanıcı veya çıktı

durumu ortaya çıkar.

Basit örnek

Bir şirketin yapay zekâ asistanının müşteri veri tabanına erişebildiğini düşünelim. Kullanıcı: “Geçen ay en fazla alışveriş yapan müşterileri göster.” dediğinde sistem yalnızca kullanıcının erişim yetkisi bulunan verileri göstermelidir.

Sistem başka müşterilere ait telefon numaraları, adresler, finansal bilgiler veya erişim yetkisi olmayan diğer kayıtları da çıktıya eklerse bu durum Data Leakage olarak değerlendirilebilir.

Hangi veriler sızabilir?

Data Leakage oldukça geniş bir kavramdır. Örneğin:

Kişisel veriler: İsim, adres, telefon numarası, e-posta veya diğer kişisel bilgiler.

Hassas kişisel veriler: Sağlık, finans veya benzeri koruma gerektiren bilgiler.

Kurumsal veriler: Satış raporları, müşteri listeleri, stratejik planlar ve yayımlanmamış belgeler.

Kimlik doğrulama bilgileri: Parola, API anahtarı, erişim tokenı gibi sırlar.

Kullanıcı içerikleri: Başka kullanıcıların konuşmaları veya yüklediği belgeler.

RAG belgeleri: Kullanıcının erişim yetkisi bulunmayan kurumsal bilgi tabanı içerikleri.

Bu nedenle Data Leakage yalnızca “modelin bir sırrı söylemesi” problemi değildir; veri erişimi ve yetkilendirme mimarisiyle doğrudan ilişkili bir güvenlik problemidir.

Data Leakage ile Prompt Leakage farkı

Bu iki kavramın ayrılması önemlidir.

Kavram	Sızan Bilgi
Data Leakage	Kullanıcı, müşteri, kurum veya diğer hassas veriler
Prompt Leakage	Dahili promptlar ve model talimatları
System Prompt Leak	Özellikle system prompt
Secret Leakage	API anahtarı, parola, token vb.
Training Data Leakage	Eğitim verilerinden hassas içeriğin açığa çıkması

Örneğin:

“Modelin gizli sistem talimatları açığa çıktı.”

→ System Prompt Leak

“Başka bir müşterinin kişisel bilgileri açığa çıktı.”

→ Data Leakage

Data Leakage ile Training Data Leakage aynı şey değildir

Training Data Leakage, Data Leakage’in daha spesifik bir bağlamını ifade edebilir. Modelin eğitim sırasında karşılaştığı hassas veya özel bilgileri daha sonra çıktısında yeniden üretmesiyle ilgilidir.

Buna karşılık genel Data Leakage, modelin çalışma sırasında eriştiği verilerden de kaynaklanabilir.

Örneğin:

Eğitim verisi → Model → Hassas içeriğin yeniden üretilmesi

Training Data Leakage ile;

Kurumsal veri tabanı → AI Agent → Yetkisiz kullanıcıya veri aktarılması

ise çalışma zamanı Data Leakage ile ilişkilidir.

RAG sistemlerinde Data Leakage

RAG sistemlerinde veri sızıntısı özellikle erişim kontrolü açısından önemlidir.

Normal süreç:

Kullanıcı → Yetkilendirme → İzin verilen belgeler → Retrieval → LLM → Yanıt

olmalıdır.

Sorunlu bir sistemde ise:

Kullanıcı → Retrieval → Tüm kurumsal belgeler → LLM → Yetkisiz bilgi

şeklinde bir akış oluşabilir.

Örneğin bir üniversite RAG sisteminin hem öğrenci yönetmeliklerini hem de gizli personel belgelerini aynı bilgi tabanında tuttuğunu düşünelim. Retrieval sistemi kullanıcının yetkisini kontrol etmeden gizli personel belgesini modele gönderirse, model bu bilgiyi yanıtında kullanabilir.

Burada problem yalnızca model değildir; temel sorun erişim kontrolünün retrieval katmanında doğru uygulanmamasıdır.

Prompt Injection ve Data Leakage ilişkisi

Prompt Injection bazı durumlarda Data Leakage’i tetiklemeye yönelik kullanılabilir.

Örneğin saldırgan modeli:

normalde erişmemesi veya açıklamaması gereken bilgileri bulmaya ve kullanıcıya aktarmaya

yönlendirmeye çalışabilir.

Bu durumda:

Prompt Injection → saldırı yöntemi

Data Leakage → olası güvenlik sonucu

olur.

Ancak her Data Leakage olayı prompt injection kaynaklı değildir. Hatalı erişim kontrolü veya yanlış sistem yapılandırması da veri sızıntısına neden olabilir.

AI Agent’larda risk

AI Agent sistemlerinde veri sızıntısı riski daha karmaşık olabilir. Çünkü ajan:

e-posta, bulut depolama, CRM, veri tabanı, takvim veya kurumsal belgeler

gibi birçok sisteme erişebilir.

Bu durumda önemli güvenlik sorusu:

“Model bu veriyi görebiliyor mu?”

kadar:

“Bu kullanıcı adına bu veriyi görmeye ve kullanmaya yetkili mi?”

sorusudur.

Dolayısıyla LLM güvenliğinde authentication (kimlik doğrulama) ile authorization (yetkilendirme) birbirinden ayrılmalıdır.

Data Leakage’a karşı temel önlemler

Önlem	Amaç
Access Control	Yalnızca yetkili kullanıcıların verilere erişmesini sağlamak
Least Privilege	Modele minimum gerekli veri ve araç yetkisini vermek
Data Minimization	Gereksiz veriyi modele hiç göndermemek
Data Isolation	Kullanıcı ve kurum verilerini birbirinden ayırmak
RAG Permission Filtering	Retrieval öncesinde erişim yetkisini kontrol etmek
Secret Management	API anahtarı ve parolaları modelden ayrı tutmak
Output Filtering	Hassas bilgilerin çıktıya çıkmasını engellemeye yardımcı olmak
Logging & Monitoring	Şüpheli veri erişimlerini tespit etmek

Buradaki en güçlü ilkelerden biri Data Minimization (veri minimizasyonu) yaklaşımıdır:

Modelin görevini yapmak için ihtiyaç duymadığı hassas veriyi modele hiç vermemek.

Modelin erişemediği bir veriyi yanlışlıkla kullanıcıya açıklama riski de önemli ölçüde azalır.

Data Leakage ile Context Poisoning farkı

Önceki kavramla arasındaki fark da nettir:

Context Poisoning:
Saldırgan → Yanlış/manipülatif bilgi → Model bağlamı

Amaç modele yanlış bilgi sokmaktır.

Data Leakage:
Hassas bilgi → Model → Yetkisiz kişi

Problem modelden dışarı bilgi çıkmasıdır.

Bu nedenle yön açısından:

Context Poisoning → içeriye doğru saldırı

Data Leakage → dışarıya doğru bilgi sızıntısı

şeklinde basitleştirilebilir.

Kısaca: Data Leakage, bir yapay zekâ sisteminin eriştiği kişisel, kurumsal, gizli veya başka şekilde korunması gereken bilgilerin yetkisiz biçimde açığa çıkmasıdır. Prompt Leakage özellikle dahili promptların sızmasına odaklanırken Data Leakage daha geniş biçimde korunan verilerin sistem dışına veya yetkisiz kullanıcıya çıkmasını ifade eder. Güvenliğin temel yaklaşımı ise yalnızca modele “bu bilgiyi açıklama” demek değil; modelin ihtiyaç duymadığı hassas verilere en başından erişememesini sağlayan yetkilendirme ve veri minimizasyonu mimarisi kurmaktır.