Prompt Routing

Prompt Routing, kullanıcının isteğinin içeriğini, amacını ve gereksinimlerini analiz ederek promptu en uygun yapay zekâ modeline, uzmana, araca, veri kaynağına veya işlem akışına yönlendirme yaklaşımıdır. Özellikle bir sistemde farklı görevlerde uzmanlaşmış birden fazla model, ajan veya araç bulunduğunda hangi bileşenin kullanılacağına karar vermek için kullanılır.

Basit biçimde:

Kullanıcı isteği → İsteğin sınıflandırılması → Uygun rota seçimi → İlgili model/araç → Sonuç

Örneğin bir yapay zekâ sisteminin şu yeteneklere sahip olduğunu düşünelim:

Kullanıcı İsteği	Yönlendirilecek Sistem
“Bu metni İngilizceye çevir.”	Dil/çeviri modeli
“Bu Excel dosyasını analiz et.”	Veri analizi aracı
“Bugünkü döviz kurunu bul.”	Güncel veri/web arama aracı
“Bu Python kodundaki hatayı düzelt.”	Kodlama modeli/aracı
“Bu görselde neler var?”	Görsel analiz modeli
“Müşteri şikâyetini değerlendir.”	Müşteri hizmetleri ajanı

Burada kullanıcı hangi sistemi kullanacağını kendisi seçmek zorunda değildir. Router (yönlendirici) kullanıcının niyetini belirleyerek isteği uygun bileşene aktarır.

Prompt Routing ne işe yarar?

Tek bir yapay zekâ modeli her görev için aynı düzeyde başarılı, hızlı veya ekonomik olmayabilir. Prompt Routing sayesinde farklı görevler o göreve daha uygun kaynaklara yönlendirilebilir.

Örneğin:

Kodlama soruları → kodlama konusunda güçlü modele,

karmaşık akıl yürütme → daha güçlü muhakeme modeline,

basit sınıflandırma → daha hızlı ve düşük maliyetli modele,

güncel bilgi → web arama aracına,

kurumsal bilgi → şirket veri tabanına,

görsel görev → multimodal modele

yönlendirilebilir.

Böylece sistemin doğruluk, hız, maliyet ve görev uygunluğu açısından optimize edilmesi amaçlanır.

Basit Prompt Routing örneği

Bir üniversitenin yapay zekâ destekli öğrenci asistanında üç uzman ajan bulunduğunu düşünelim:

Akademik Ajan: Dersler ve sınavlarla ilgili sorular.

Mali İşler Ajanı: Harç ve ödeme işlemleri.

Öğrenci İşleri Ajanı: Kayıt ve mezuniyet işlemleri.

Router için şu tür bir talimat kullanılabilir: “Kullanıcının mesajını analiz et. Soru ders, sınav veya akademik başarıyla ilgiliyse academic_agent; ücret, ödeme veya harçla ilgiliyse finance_agent; kayıt, öğrenci belgesi veya mezuniyetle ilgiliyse student_affairs_agent rotasını seç. İstek birden fazla alanı kapsıyorsa ilgili rotaları belirle.”

Kullanıcı: “Mezuniyet için kaç AKTS tamamlamam gerekiyor?” dediğinde sistem isteği Öğrenci İşleri/Akademik bağlamındaki uygun rotaya yönlendirebilir.

Kural tabanlı ve yapay zekâ tabanlı Routing

Prompt Routing farklı yöntemlerle gerçekleştirilebilir.

Kural tabanlı yönlendirme, belirli kelime veya koşullara dayanır:

Eğer mesajda “hava durumu” geçiyorsa → Weather Tool

Bu yaklaşım basittir ancak karmaşık kullanıcı niyetlerinde yetersiz kalabilir.

YZ tabanlı yönlendirme ise kullanıcının mesajının anlamını değerlendirir:

“Yarın piknik yapacağız, şemsiye götürmeli miyim?”

Mesajda doğrudan “hava durumu” ifadesi bulunmasa bile sistem bunun hava tahmini gerektirdiğini anlayarak uygun araca yönlendirebilir.

Prompt Routing türleri

Routing yalnızca farklı modellere yönlendirme anlamına gelmez. Farklı seviyelerde gerçekleştirilebilir:

Model Routing: İsteği uygun yapay zekâ modeline gönderme.

Tool Routing: İsteğe uygun aracı seçme.

Agent Routing: İsteği uzmanlaşmış yapay zekâ ajanına gönderme.

Data Routing: Soruyu uygun bilgi kaynağına yönlendirme.

Workflow Routing: İsteğin hangi iş akışından geçirilmesi gerektiğini belirleme.

Bu nedenle Prompt Routing, gelişmiş yapay zekâ sistemlerinde oldukça geniş bir orkestrasyon mekanizmasının parçası olabilir.

Prompt Routing ile Tool Calling arasındaki fark

Bu iki kavram yakından ilişkilidir ancak odakları farklıdır.

Prompt Routing:
“Bu istek hangi sistem, model, ajan veya işlem yoluna gönderilmeli?”

Tool Calling:
“Bu görevi gerçekleştirmek için hangi araç kullanılmalı?”

Örneğin kullanıcı: “Son satış dosyamı analiz et ve gelecek ay için tahmin oluştur.” dediğinde sistem önce isteği bir veri analizi ajanına yönlendirebilir. Veri analizi ajanı daha sonra dosya okuma ve kod çalıştırma araçlarını çağırabilir.

Yani:

Routing → doğru işleyiciyi seçer.
Tool Calling → gerekli aracı çalıştırır.

Prompt Routing ile Workflow Prompt farkı

Prompt Routing, görevin hangi yoldan ilerleyeceğine karar verir.

Workflow Prompt ise seçilen yol içerisinde hangi aşamaların hangi sırayla gerçekleştirileceğini tanımlar.

Örneğin: “Bu bir akademik makale ise akademik inceleme akışına; müşteri raporu ise kurumsal rapor analiz akışına yönlendir.”

Bu bir routing kararıdır.

Akademik rota seçildikten sonra:

“Önce araştırma problemini, sonra yöntemi, ardından bulguları ve son olarak tartışmayı değerlendir.”

ifadesi workflow oluşturur.

Multi-model Prompt Routing

Prompt Routing’in önemli uygulamalarından biri farklı yapay zekâ modellerinin birlikte kullanıldığı sistemlerdir.

Örneğin sistem şu mantıkla çalışabilir:

Basit soru → hızlı model

Karmaşık matematik problemi → muhakeme modeli

Kodlama → kod konusunda uzman model

Görsel analiz → multimodal model

Uzun belge analizi → geniş bağlam kapasitesine sahip model

Bu yaklaşım sayesinde her kullanıcı isteğinde en güçlü ve pahalı modeli çalıştırmak yerine göreve uygun model seçilebilir.

Etkili Prompt Routing örneği

“Kullanıcının isteğini önce writing, coding, data_analysis, current_information veya general_question kategorilerinden birine sınıflandır. current_information için güncel bilgi kaynağına, data_analysis için veri analizi aracına, coding için kodlama sistemine yönlendir. Birden fazla kategori söz konusuysa görevi alt görevlere ayır ve her alt görevi uygun rotaya gönder. Kategoriden emin değilsen kullanıcıdan gerekli açıklamayı iste.”

Bu yapı dört temel işlemi gerçekleştirir:

Niyet belirleme → Sınıflandırma → Rota seçimi → Görevi uygun sisteme aktarma

Prompt Routing’in avantajları

Prompt Routing sayesinde yapay zekâ sistemleri daha modüler ve ölçeklenebilir hâle getirilebilir. Her işi tek bir modelin yapması yerine, farklı görevler için uzmanlaşmış modeller ve araçlar birlikte kullanılabilir.

Özellikle büyük yapay zekâ uygulamalarında şu faydaları sağlayabilir:

Performans: Görev için en uygun sistem seçilebilir.

Maliyet: Basit görevlerde daha küçük modeller kullanılabilir.

Hız: Gereksiz derecede ağır modellerin çalıştırılması önlenebilir.

Uzmanlaşma: Belirli görevler uzman ajanlara yönlendirilebilir.

Güvenilirlik: Güncel veya özel veri gerektiren sorular uygun kaynaklara gönderilebilir.

Kısa örnek

Kullanıcı: “Geçen yılın satış raporunu incele, en başarılı ürünleri belirle ve mevcut piyasa koşullarına göre gelecek ay için öneri oluştur.”

Bu istek tek bir rotadan ilerlemek zorunda değildir:

Satış raporu → Veri analizi
Mevcut piyasa koşulları → Güncel bilgi/web araştırması
Öneri oluşturma → Muhakeme/strateji modeli

Daha sonra bu alt görevlerin sonuçları birleştirilerek nihai yanıt oluşturulabilir. Bu tür yapılar dinamik routing olarak düşünülebilir.

Kısaca: Prompt Routing, yapay zekâ sisteminin “Bu kullanıcı isteğini en doğru, hızlı ve verimli biçimde hangi model, ajan, araç, veri kaynağı veya iş akışı ele almalı?” sorusunu çözmesine yönelik yaklaşımdır. Tool Calling belirli araçların kullanımına odaklanırken Prompt Routing, yapay zekâ sisteminin genelinde isteğin doğru işlem yoluna yönlendirilmesini sağlar.