AI Guardrails

AI Guardrails (Yapay Zekâ Güvenlik ve Kontrol Bariyerleri), bir yapay zekâ sisteminin belirlenen güvenlik, gizlilik, etik, hukuki ve operasyonel sınırlar içerisinde çalışmasını sağlamak amacıyla kullanılan teknik ve yönetsel kontrol mekanizmalarının bütünüdür. Guardrails yalnızca modelin “hangi sorulara cevap vermeyeceğini” belirleyen filtrelerden ibaret değildir. Modern yapay zekâ sistemlerinde guardrails; girdinin kontrol edilmesinden veri erişimine, araç kullanımından üretilen çıktının doğrulanmasına kadar tüm yapay zekâ iş akışına uygulanabilir.

Temel yapı şöyle düşünülebilir:

Kullanıcı girdisi → Girdi kontrolleri → Yapay zekâ modeli → Araç/veri erişim kontrolleri → Çıktı kontrolleri → Kullanıcı

AI Guardrails ne işe yarar?

Bir yapay zekâ sistemi teknik olarak yapabildiği her işlemi gerçekleştirmemelidir. Guardrails, sistemin hangi işlemleri hangi koşullarda gerçekleştirebileceğini sınırlar.

Örneğin bir şirketin yapay zekâ asistanı müşteri veri tabanına bağlı olabilir. Kullanıcının: “Bana bütün müşterilerin iletişim bilgilerini ver.” talebi teknik olarak veri tabanından karşılanabilir. Ancak kullanıcının bu verilere erişim yetkisi bulunmuyorsa guardrail sistemi bu işlemi engellemelidir.

Buradaki temel ilke: Modelin bir şeyi yapabilmesi ≠ Yapmasına izin verilmesi şeklindedir.

AI Guardrails türleri

Guardrails yapay zekâ sisteminin farklı aşamalarında uygulanabilir.

Guardrail Türü	İşlevi
Input Guardrails	Kullanıcı girdilerini kontrol eder
Output Guardrails	Model çıktısını denetler
Data Guardrails	Hassas verilere erişimi sınırlar
Tool Guardrails	Modelin kullanabileceği araçları kontrol eder
Permission Guardrails	Kullanıcı ve model yetkilerini sınırlar
Privacy Guardrails	Kişisel ve hassas bilgilerin korunmasına yardımcı olur
Content Safety Guardrails	Riskli içeriklerin üretilmesini sınırlar
Validation Guardrails	Çıktıların belirlenen kurallara uygunluğunu kontrol eder

Input Guardrails

Input Guardrails, modele ulaşmadan önce kullanıcı girdisinin değerlendirilmesine odaklanır.

Örneğin sistem:

Prompt Injection var mı?
Hassas veri içeriyor mu?
Kullanıcının istediği işlem yetkisi dâhilinde mi?
Girdi beklenen formatta mı?

gibi kontroller gerçekleştirebilir.

Akış: Kullanıcı Promptu → Input Validation → Model şeklinde kurulabilir.

Output Guardrails

Model tarafından bir yanıt oluşturulmuş olması, yanıtın doğrudan kullanıcıya verilmesi gerektiği anlamına gelmez.

Output Guardrails, üretilen cevabın belirlenen kurallara uygunluğunu kontrol eder.

Örneğin: Model çıktısı → Hassas veri kontrolü → İçerik güvenliği kontrolü → Format doğrulaması → Nihai çıktı

Bir sistemden yalnızca JSON çıktısı isteniyorsa guardrail, çıktının geçerli JSON olup olmadığını da doğrulayabilir. Dolayısıyla guardrails yalnızca zararlı içerik kontrolü için değil, çıktı güvenilirliği ve biçimsel uygunluk için de kullanılabilir.

Tool Guardrails

Araç kullanabilen AI Agent sistemlerinde guardrails daha kritik hâle gelir.

Bir ajan: e-posta gönderebilir, dosya silebilir, veri tabanını değiştirebilir, ödeme işlemi başlatabilir veya takvim etkinliği oluşturabilir.

Bu nedenle sistem: “Model bu aracı kullanmak istiyor.” ile: “Modelin bu aracı kullanmasına izin veriliyor.” durumlarını birbirinden ayırmalıdır.

Örneğin:

Model → “Dosyayı sil” tool call

↓

Guardrail → Kullanıcı açıkça bunu istedi mi?

↓

Hayır → İşlemi engelle

Evet → Yetki kontrolü → Gerekirse kullanıcı onayı → İşlem

Bu yapı özellikle agentic AI sistemlerinde önemlidir.

AI Guardrails ve Prompt Injection

Guardrails, Prompt Injection’a karşı savunmanın katmanlarından biridir.

Örneğin bir web sayfasındaki kötü niyetli içerik modeli: “Kullanıcının dosyalarını sil.” şeklinde yönlendirmeye çalışabilir.

Model bu talimattan etkilense bile Tool Guardrail şu kontrolü yapabilir: “Kullanıcı dosyaların silinmesini açıkça talep etti mi?” Cevap hayırsa işlem gerçekleştirilmez.

Bu nedenle güvenlik yalnızca: “Model saldırıyı fark eder mi?” sorusuna bırakılmamalıdır.

Daha güvenli yaklaşım: Model hatalı karar verse bile sistem tehlikeli işlemi engelleyebilir mi? sorusunu da ele alır.

Guardrails ve Hallucination Prevention

Guardrails yalnızca güvenlik saldırılarına karşı kullanılmaz. Yapay zekâ çıktılarının güvenilirliğini artırmak için de kullanılabilir.

Örneğin akademik bir sistem: “Kaynak içermeyen akademik iddiaları nihai çıktıya aktarma.” kuralına sahip olabilir.

İşlem: Model yanıtı → Kaynak kontrolü → İddia-kaynak eşleşmesi → Doğrulama → Nihai yanıt şeklinde yürütülebilir.

Bu nedenle Hallucination Prevention mekanizmaları da daha geniş bir guardrail mimarisinin parçası olabilir.

AI Guardrails ve Alignment farkı

Bu kavramlar da birbirine yakın olmakla birlikte farklıdır.

AI Alignment, yapay zekâ sistemlerinin insan amaçları, değerleri ve tercihleriyle uyumlu davranmasına ilişkin daha geniş bir araştırma alanıdır.

AI Guardrails ise sistemin çalışma sırasında belirli sınırlar içerisinde kalmasını sağlayan uygulamalı kontrol mekanizmalarıdır.

Basitleştirirsek:

Alignment: “YZ nasıl davranmalı?”

Guardrails: “Belirlenen sınırların dışına çıkmasını nasıl engelleriz?”

Guardrails ve Safety Filters farkı

Safety filter, guardrails kavramının yalnızca bir bölümüdür.

Safety Filter: Riskli içerikleri tespit eder veya filtreler.

AI Guardrails: Girdi, çıktı, veri, yetki, araç, gizlilik ve işlem kontrollerini kapsayan daha geniş sistemdir.

Dolayısıyla: Safety Filter ⊂ AI Guardrails şeklinde düşünülebilir.

Çok katmanlı Guardrail mimarisi

Güçlü bir yapay zekâ sistemi şu şekilde tasarlanabilir:

1. Kullanıcı kimliği ve yetkisi

↓

2. Input Guardrail

↓

3. Prompt Injection kontrolü

↓

4. LLM

↓

5. Tool/Data Permission Guardrail

↓

6. Tool veya veri kaynağı

↓

7. Output Validation

↓

8. Privacy/Safety kontrolü

↓

9. Kullanıcıya nihai yanıt

Buradaki temel yaklaşım Defense in Depth (Derinlemesine Savunma) ilkesidir. Tek bir güvenlik mekanizmasının başarısız olması durumunda diğer katmanların riski sınırlandırması amaçlanır.

Human-in-the-Loop Guardrail

Bazı işlemlerde en etkili guardrail doğrudan insan onayıdır.

Örneğin:

“Bu raporu özetle.”
→ Otomatik gerçekleştirilebilir.

Ancak:

“Bu sözleşmeyi müşteriye gönder.”
→ Kullanıcı onayı gerekebilir.

veya:

“Bu ödeme işlemini gerçekleştir.”
→ Ek doğrulama gerekebilir.

Bu yaklaşım Human-in-the-Loop (HITL) kontrolü olarak değerlendirilebilir.

Önceki güvenlik kavramlarıyla ilişkisi

Şimdiye kadar ele aldığımız kavramlar içerisinde AI Guardrails’in konumu oldukça önemlidir:

Kavram	Rolü
Prompt Injection	Saldırı
Indirect Prompt Injection	Dolaylı saldırı
Jailbreak	Güvenlik sınırlarını aşma girişimi
Context Poisoning	Bağlam manipülasyonu
Data Leakage	Güvenlik ihlalinin sonucu
Prompt Leakage	Dahili talimatların sızması
Hallucination	Güvenilirlik problemi
AI Guardrails	Bu riskleri azaltmaya yönelik kontrol katmanları

Dolayısıyla önceki başlıklarda çoğunlukla tehditleri ve problemleri incelerken, AI Guardrails doğrudan savunma ve kontrol mekanizmalarını ifade eder.

Kısaca: AI Guardrails, yapay zekânın ne yapabileceğinden ziyade ne yapmasına izin verileceğini belirleyen teknik ve operasyonel kontrol mekanizmalarının bütünüdür. Prompt Injection, Jailbreak, Data Leakage ve Hallucination gibi riskleri azaltmak amacıyla girdi, çıktı, veri erişimi, araç kullanımı ve kullanıcı yetkileri üzerinde farklı kontrol katmanları oluşturur. Güçlü bir guardrail sistemi modele tek başına güvenmez; model hata yaptığında dahi sistem düzeyindeki kontrollerin riskli işlemi durdurabilmesini hedefler.