Small Language Model (SLM)

Small Language Model (SLM) – Küçük Dil Modeli, büyük dil modellerine kıyasla daha az parametreye, daha düşük hesaplama gereksinimine ve genellikle daha dar veya optimize edilmiş görev kapsamına sahip dil modellerinin genel adıdır. SLM’lerin temel amacı her zaman LLM’lerle doğrudan yarışmak değildir; çoğu kullanımda amaç daha az kaynakla yeterli performansı, daha yüksek hızla ve daha düşük maliyetle sağlamaktır. SLM kavramının kesin bir parametre sınırı yoktur. Bir modelin “small” olarak adlandırılması döneme, model ailesine ve kullanım bağlamına göre değişebilir. Dolayısıyla “10 milyar parametrenin altındaki her model SLM’dir” gibi evrensel bir tanım kullanmak doğru değildir. Bununla birlikte SLM’ler genellikle birkaç yüz milyon ile birkaç milyar parametre ölçeğinde karşımıza çıkar. Basitleştirilmiş biçimde temel yaklaşım şöyledir:

Daha Küçük Model + Daha Az Hesaplama + Daha Hızlı Çıkarım + Daha Düşük Maliyet + Göreve Uygun Optimizasyon = SLM

SLM Nasıl Çalışır?

SLM’lerin temel çalışma prensibi LLM’lerden tamamen farklı değildir. Modern SLM’lerin önemli bir bölümü yine Transformer tabanlı mimarilerden yararlanır ve verilen bağlama göre sonraki token’ları tahmin ederek çıktı üretir. Süreç basitleştirildiğinde:

Kullanıcı İstemi → Tokenization → SLM → Olasılık Dağılımı → Token Seçimi → Yanıt

şeklindedir. Temel fark modelin “dil modeli” olmasından değil, ölçeğinden ve optimize edildiği kullanım biçiminden kaynaklanır.

Örneğin çok büyük bir genel amaçlı modelden: “Bu müşteri yorumunu olumlu, olumsuz veya nötr olarak sınıflandır.” gibi basit bir görev istenebilir. Ancak aynı görevi yeterli doğrulukta gerçekleştirebilen küçük ve özelleştirilmiş bir model varsa milyarlarca ek parametreyi çalıştırmak her zaman ekonomik veya teknik açıdan gerekli değildir.

SLM ile LLM Arasındaki Temel Fark Nedir?

En temel fark ölçek ve kaynak gereksinimidir, ancak konu yalnızca parametre sayısından ibaret değildir.

Özellik	SLM	LLM
Model boyutu	Görece küçük	Görece büyük
Hesaplama ihtiyacı	Daha düşük	Daha yüksek
Bellek ihtiyacı	Daha düşük	Daha yüksek
Çalışma hızı	Genellikle daha hızlı	Modele göre daha yüksek maliyetli olabilir
Cihaz üzerinde kullanım	Daha uygun	Daha zor olabilir
Maliyet	Genellikle daha düşük	Genellikle daha yüksek
Genel yetenek genişliği	Daha sınırlı olabilir	Genellikle daha geniş
Karmaşık görevler	Modele bağlı	Güçlü modeller avantajlı olabilir
Özelleştirme	Belirli görevlerde avantajlı	Daha fazla kaynak gerektirebilir
Gizlilik	Yerel kullanımda güçlü avantaj	Bulut kullanımında veri aktarımı gerekebilir

Ancak bu tablo “LLM iyidir, SLM kötüdür” biçiminde okunmamalıdır. Doğru soru şudur: “Bu görev için ne kadar büyük bir modele gerçekten ihtiyacımız var?”

SLM’lerin En Büyük Avantajı: Verimlilik

Büyük modeller çalıştırılırken yüksek GPU kapasitesi, bellek, enerji ve sunucu altyapısı gerekebilir. SLM’lerde ise amaç daha ekonomik bir yapı oluşturmaktır. Örneğin bir işletmenin her gün yüz binlerce müşteri mesajını:

• Şikâyet
• Talep
• İade
• Bilgi isteği
• Teknik destek

olarak sınıflandırması gerektiğini düşünelim.

Bu görev için her mesajı çok güçlü bir genel amaçlı modele göndermek yerine, görev için optimize edilmiş küçük bir model kullanmak daha ekonomik olabilir. Bu nedenle SLM yaklaşımının önemli ilkelerinden biri: Her probleme en büyük modeli kullanma. şeklinde özetlenebilir.

SLM’ler Nerede Çalışabilir?

SLM’lerin en dikkat çekici özelliklerinden biri edge AI ve on-device AI uygulamalarına daha uygun olmalarıdır. Uygun şekilde optimize edilmiş küçük modeller:

• Akıllı telefonlarda
• Dizüstü bilgisayarlarda
• Otomobillerde
• Endüstriyel cihazlarda
• IoT sistemlerinde
• Yerel kurumsal sunucularda

çalıştırılabilir. Bu durumda her işlem için uzak bir bulut sunucusuna veri gönderilmesi gerekmeyebilir. Süreç:

Kullanıcı → Cihazdaki SLM → Sonuç

şeklinde gerçekleşebilir.

Bu durum hız, maliyet, çevrimdışı çalışma ve bazı kullanım senaryolarında veri gizliliği açısından önemli avantaj sağlayabilir.

SLM ve On-Device AI

SLM’lerin geleceği açısından en önemli alanlardan biri cihaz üzerinde çalışan yapay zekâdır. Örneğin telefondaki bir SLM:

• Metni özetleyebilir
• Mesaj taslağı oluşturabilir
• Notları sınıflandırabilir
• Basit soruları cevaplayabilir
• Yerel belgelerde işlem yapabilir
• Kısa metinleri yeniden yazabilir

ve bunların bazılarını internet bağlantısı olmadan gerçekleştirebilir. Bu yaklaşım özellikle kişisel verilerin sürekli olarak buluta gönderilmesinin istenmediği uygulamalarda önemlidir. Ancak SLM kullanılması tek başına gizlilik garantisi vermez. Modelin nerede çalıştığı, hangi verilere eriştiği ve verilerin nasıl saklandığı ayrıca değerlendirilmelidir.

SLM’ler Neden Bu Kadar Küçük Olabiliyor?

Model küçültme ve verimlilik için farklı tekniklerden yararlanılabilir.

Quantization

Model ağırlıklarının daha düşük hassasiyetli sayısal gösterimlerle temsil edilmesidir. Basitleştirirsek:

Daha düşük sayısal hassasiyet → Daha az bellek → Daha verimli inference

Ancak aşırı quantization performans kaybına neden olabilir.

Knowledge Distillation

Büyük bir modelin davranışlarından yararlanılarak daha küçük bir model eğitilebilir. Burada büyük model genellikle teacher, küçük model ise student olarak düşünülür.

Teacher Model → Bilgi/Davranış Aktarımı → Student Model

Amaç küçük modelin büyük modelin bazı yeteneklerini daha ekonomik biçimde gerçekleştirebilmesidir.

Pruning

Modelde göreve daha az katkıda bulunan bazı ağırlıkların veya yapıların azaltılması yaklaşımıdır.

Fine-Tuning

Küçük bir model belirli bir alan veya görev için özelleştirilebilir. Örneğin genel amaçlı küçük bir model:

Müşteri hizmetleri verileri → Fine-tuning → Müşteri destek SLM’si

hâline getirilebilir.

SLM’ler Hangi Alanlarda Kullanılabilir?

SLM’lerin en güçlü kullanım alanları genellikle görevin sınırlarının nispeten açık olduğu uygulamalardır.

Müşteri Hizmetleri:

Mesaj sınıflandırma, niyet belirleme, kısa yanıt oluşturma ve yönlendirme.

İnsan Kaynakları

Belge sınıflandırma, kurumsal soru-cevap ve standart süreçlere destek.

Üretim

Teknik dokümanlarla çalışma, hata kodlarını açıklama ve bakım personeline destek.

Eğitim

Kişiselleştirilmiş basit öğretim asistanları ve cihaz üzerinde çalışan öğrenme araçları.

Sağlık

Uygun güvenlik ve denetim çerçevesinde dokümantasyon, sınıflandırma veya idari süreçlere yardımcı uygulamalar.

Mobil Uygulamalar

Özetleme, yeniden yazma, metin sınıflandırma ve kişisel asistan özellikleri.

IoT ve Edge Sistemleri

Buluta sürekli bağlantı gerektirmeden yerel AI işlemleri.

SLM’ler Kurumlar İçin Neden Önemli?

Bir kurumun 10 milyon basit AI işlemi gerçekleştirdiğini düşünelim. Her işlem için en güçlü ve maliyetli modeli kullanmak: yüksek API maliyeti + daha fazla gecikme + daha yüksek altyapı gereksinimi oluşturabilir. Bunun yerine görevler ayrıştırılabilir:

• Basit görev → SLM
• Orta karmaşıklık → Daha güçlü model
• Karmaşık reasoning → Gelişmiş LLM

Bu yaklaşım bir model routing mimarisi oluşturabilir.

Örneğin:

Kullanıcı Sorusu

↓

Görev Sınıflandırma

↙ ↓ ↘

Basit → SLM

Orta → Orta Ölçekli Model

Karmaşık → Güçlü LLM

Böylece bütün taleplerin en pahalı modele gönderilmesi önlenebilir.

SLM + RAG Neden Güçlü Bir Kombinasyondur?

Küçük modellerin genel dünya bilgisi veya geniş kapsamlı yetenekleri büyük modellerden daha sınırlı olabilir. RAG bu noktada önemli hâle gelir. Örneğin bir üniversitenin SLM tabanlı öğrenci asistanı düşünelim.

Öğrenci: “Yatay geçiş başvurusu için hangi belgeler gerekiyor?” diye sorduğunda modelin bütün üniversite mevzuatını eğitim sırasında öğrenmiş olması gerekmez. Sistem:

Soru → Üniversite Belgelerinde Arama → İlgili Metni Getirme → SLM → Yanıt

şeklinde çalışabilir. Bu yapı:

SLM + RAG = Küçük Model + Harici Bilgi

yaklaşımını oluşturur. Özellikle dar alanlarda bu kombinasyon maliyet ve performans açısından önemli olabilir.

SLM ile AI Agent Oluşturulabilir mi?

Evet. Her AI agent’ın en büyük modele ihtiyacı yoktur. Örneğin bir agent’ın görevi yalnızca:

• E-postaları kategorize etmek
• Belgeleri sınıflandırmak
• Standart formları işlemek
• Basit araç çağrılarını yönlendirmek

ise uygun bir SLM yeterli olabilir. Daha karmaşık planlama ve muhakeme gerektiren görevlerde ise daha güçlü modeller tercih edilebilir. Bu nedenle geleceğin agent mimarilerinden biri:

SLM + LLM + Tools + RAG

kombinasyonu olabilir. Burada sistem göreve göre hangi modelin kullanılacağını seçebilir.

SLM Kullanmanın Sınırlılıkları Nelerdir?

Küçük model kullanmanın maliyeti yalnızca avantaj değildir. Model kapasitesinin azalması bazı görevlerde performansı düşürebilir.

Özellikle:

• Karmaşık muhakeme
• Çok uzun bağlam
• Belirsiz problemler
• Çok aşamalı görevler
• Geniş dünya bilgisi gerektiren sorular
• İleri kodlama
• Karmaşık bilimsel analiz

gibi alanlarda daha güçlü modeller avantaj sağlayabilir. Ayrıca küçük bir modelin belirli bir benchmark’ta yüksek performans göstermesi, bütün gerçek dünya görevlerinde büyük modellerden daha iyi olduğu anlamına gelmez.

SLM de Hallucination Yapar mı?

Evet. Modelin küçük olması hallucination sorununu ortadan kaldırmaz. SLM de:

• Yanlış bilgi
• Uydurma kaynak
• Yanlış çıkarım
• Gerçek dışı cevap

üretebilir. Bu nedenle özellikle yüksek riskli uygulamalarda:

SLM + Güvenilir Kaynak + RAG + Doğrulama + İnsan Denetimi

gibi daha kontrollü sistemler gerekebilir.

SLM Seçerken Nelere Bakılmalı?

Bir SLM yalnızca parametre sayısına göre seçilmemelidir. Değerlendirilmesi gereken temel unsurlar şunlardır:

• Görev performansı
• Model boyutu
• Inference hızı
• Bellek kullanımı
• Enerji tüketimi
• Context window
• Desteklenen dil
• Quantization seçenekleri
• Fine-tuning imkânı
• Donanım uyumluluğu
• Lisans koşulları
• Güvenlik
• Gerçek kullanım maliyeti

Özellikle Türkçe kullanılacaksa modelin İngilizce benchmark sonuçlarından çok Türkçe görevlerdeki gerçek performansı test edilmelidir.

LLM mi SLM mi?

Doğru seçim kullanım senaryosuna bağlıdır.

• “Çok karmaşık analiz ve reasoning istiyorum.” → Güçlü LLM
• “Basit ve tekrarlanan milyonlarca işlem yapacağım.” → SLM
• “Model telefonda çalışmalı.” → SLM
• “İnternet olmadan çalışmasını istiyorum.” → Yerel SLM
• “Çok geniş genel bilgi gerekiyor.” → LLM
• “Şirket belgelerimden soru-cevap sistemi oluşturacağım.” → SLM + RAG veya ihtiyaca göre LLM + RAG
• “Maliyeti mümkün olduğunca azaltmak istiyorum.” → SLM değerlendirilmeli
• “Görevlerimin karmaşıklığı sürekli değişiyor.” → SLM + LLM model routing

LLM ve SLM Birbirinin Rakibi mi?

Her zaman değil. Gelecekte daha önemli yaklaşım iki model türünün birlikte kullanılması olabilir. Örneğin:

• 1. SLM kullanıcı isteğini sınıflandırır.
• 2. Basit talepleri kendisi çözer.
• 3. Karmaşık talepleri LLM’ye yönlendirir.
• 4. RAG gerektiğinde kurumsal bilgileri getirir.
• 5. Agent gerekli araçları kullanır.

Böylece:

• SLM = Hız ve verimlilik
• LLM = Yüksek kapasite
• RAG = Güncel/özel bilgi
• Agent = Eylem ve araç kullanımı

rolleri bir araya getirilebilir.

Small Language Model (SLM), büyük dil modellerine (Large Language Models – LLM) kıyasla daha az parametreye sahip, daha düşük hesaplama gücü gerektiren ve belirli görevlerde yüksek verimlilik sağlamak amacıyla geliştirilen dil modelleridir. SLM’ler, doğal dili anlama ve üretme yeteneklerini korurken daha küçük model boyutları sayesinde daha hızlı çıkarım (inference) yapabilir, daha az bellek kullanır ve enerji tüketimini önemli ölçüde azaltır. Bu özellikleri nedeniyle özellikle mobil cihazlar, dizüstü bilgisayarlar, gömülü sistemler (embedded systems), IoT cihazları ve kurumsal ortamda yerel (on-device) yapay zekâ uygulamaları için önemli bir çözüm olarak görülmektedir.

Küçük dil modelleri genellikle milyonlarca veya birkaç milyar parametreye sahip olup, büyük modellerin sahip olduğu genel bilgi kapsamını tamamen sunamasalar da belirli görevlerde oldukça başarılı performans gösterebilir. Bu modellerin geliştirilmesinde bilgi damıtma (knowledge distillation), model budama (model pruning), nicemleme (quantization), düşük hassasiyetli hesaplama ve verimli ince ayar (parameter-efficient fine-tuning) gibi optimizasyon tekniklerinden yararlanılır. Böylece modelin doğruluğu mümkün olduğunca korunurken bellek kullanımı ve işlem maliyeti önemli ölçüde azaltılır. Son yıllarda Microsoft Phi, Google Gemma’nın küçük sürümleri, Llama’nın hafif varyantları ve Qwen gibi modeller, SLM yaklaşımının başarılı örnekleri arasında gösterilmektedir.

Small Language Model’ler; çevrimdışı çalışan akıllı asistanlar, kurumsal belge analizi, müşteri hizmetleri, kod tamamlama, mobil uygulamalar, eğitim teknolojileri ve gerçek zamanlı karar destek sistemleri gibi düşük gecikme süresi gerektiren alanlarda yaygın olarak kullanılmaktadır. Daha küçük yapıları sayesinde veri gizliliğinin kritik olduğu uygulamalarda verilerin buluta gönderilmeden cihaz üzerinde işlenmesine de olanak tanırlar. Bununla birlikte SLM’ler, büyük dil modellerine kıyasla daha sınırlı bilgi kapasitesine, daha düşük muhakeme (reasoning) yeteneğine ve karmaşık görevlerde daha düşük doğruluk oranlarına sahip olabilir. Buna rağmen donanım verimliliği, düşük işletme maliyeti, hızlı yanıt süresi ve yerel çalışabilme avantajları nedeniyle geleceğin yapay zekâ ekosisteminde büyük dil modellerini tamamlayan önemli bir teknoloji olarak değerlendirilmektedir. Özellikle hibrit yapay zekâ mimarilerinde, basit görevlerin SLM’ler tarafından, daha karmaşık işlemlerin ise LLM’ler tarafından yürütülmesi giderek yaygınlaşan bir yaklaşım hâline gelmektedir.

Sonuç

Small Language Model, büyük dil modellerinin yalnızca küçültülmüş bir versiyonu olarak görülmemelidir. SLM yaklaşımının temelinde göreve uygun model büyüklüğünü seçerek hız, maliyet, enerji tüketimi ve donanım gereksinimi arasında daha verimli bir denge kurmak vardır. Özellikle mobil cihazlar, edge computing, kurumsal yerel sistemler ve yüksek hacimli tekrarlanan işlemler SLM’lerin güçlü kullanım alanlarını oluşturmaktadır. Bununla birlikte küçük model her durumda daha doğru tercih değildir. Karmaşık muhakeme, geniş bilgi kapsamı veya çok aşamalı problem çözme gerektiren görevlerde daha güçlü LLM’lere ihtiyaç duyulabilir. Bu nedenle seçim “SLM mi daha iyi, LLM mi?” sorusundan ziyade “Bu görevi kabul edilebilir kaliteyle çözebilecek en verimli model hangisi?” sorusuna dayanmalıdır. Yapay zekâ ekosisteminin yönü bu açıdan yalnızca giderek daha büyük modeller geliştirmek değildir. SLM + LLM + RAG + AI Agent + Model Routing gibi hibrit mimariler, basit görevleri küçük ve ekonomik modellere, karmaşık görevleri ise daha güçlü modellere yönlendirerek daha sürdürülebilir AI sistemleri oluşturabilir. Bu nedenle SLM’ler, önümüzdeki dönemde özellikle cihaz üzerinde çalışan ve kurumsal ölçekte maliyet etkin yapay zekânın temel bileşenlerinden biri olmaya adaydır.