Skeleton of Thought (SoT) – (SoT – Düşünce İskeleti)

SoT – Düşünce İskeleti, yapay zekânın ayrıntılı bir yanıtı doğrudan üretmesi yerine, önce cevabın kısa bir iskeletini veya temel noktalarını oluşturmasını, ardından bu noktaların her birini ayrı ayrı geliştirerek nihai yanıtı meydana getirmesini sağlayan bir prompting yaklaşımıdır.

Temel mantığı: Soru → Yanıt iskeleti → Ana noktalar → Her noktayı genişletme → Bütünleştirilmiş yanıt

Örneğin doğrudan: “Yapay zekânın üniversite eğitimine etkilerini ayrıntılı olarak açıkla.” demek yerine Skeleton of Thought yaklaşımı şöyle uygulanabilir: “Önce yapay zekânın üniversite eğitimine etkilerini açıklamak için 5–7 maddelik kısa bir yanıt iskeleti oluştur. Ardından iskeletteki her maddeyi ayrı ayrı geliştir. Maddeler arasında tekrardan kaçın ve sonunda bütüncül bir değerlendirme yap.”

Model önce örneğin şu iskeleti oluşturabilir:

1. Kişiselleştirilmiş öğrenme
2. Öğretim materyallerinin geliştirilmesi
3. Ölçme ve değerlendirme
4. Akademik araştırma
5. Akademik dürüstlük
6. Öğretim elemanının değişen rolü
7. Etik ve yönetişim

Ardından her başlığı ayrıntılandırır.

Akademik kullanım örneği

Bir literatür bölümü hazırlanırken: “Önce ‘Yapay zekâ ve tüketici davranışı’ konusunda yazılacak kavramsal çerçevenin iskeletini oluştur. Yalnızca ana ve alt başlıkları ver. Başlıkların mantıksal sırasını kontrol ettikten sonra her bölümü ilgili akademik literatüre dayanarak ayrı ayrı geliştir. Bölümler arasında kavramsal tekrar oluşturma.” Bu kullanım özellikle uzun akademik metinlerde yararlıdır; çünkü modelin doğrudan uzun metin üretmesi yerine önce metnin mimarisi belirlenmiş olur.

Hakemlik örneği

“Önce bu makaleyi değerlendirmek için bir hakem raporu iskeleti oluştur: özgünlük, kuramsal çerçeve, yöntem, analiz, bulgular, tartışma, sonuç ve genel karar. Ardından her bölümü makaleden elde edilen kanıtlara dayanarak ayrı ayrı değerlendir.”

Sınav hazırlama örneği

“Önce 20 soruluk sınavın soru iskeletini oluştur. Her soru için yalnızca konu, öğrenme çıktısı, Bloom düzeyi ve zorluk derecesini belirle. Dağılımın dengeli olduğunu kontrol et. Daha sonra bu iskeletteki her maddeyi dört seçenekli bir sınav sorusuna dönüştür.”

Bu yöntem özellikle uzun raporlar, akademik metinler, ders içerikleri, kapsamlı analizler, sınavlar ve çok boyutlu sorular için kullanışlıdır.

SoT ile Least-to-Most Arasındaki Fark

İki teknik birbirine benzese de temel mantıkları farklıdır.

Least-to-Most Prompting: Kolay alt problem → Daha zor alt problem → Sonuçlardan yararlan → Karmaşık problemi çöz. Burada esas amaç problemi aşamalı olarak çözmektir.

Skeleton of Thought: Ana soru → Cevabın iskeleti → İskelet maddelerini genişlet → Nihai cevap. Burada esas amaç cevabın yapısını önceden kurmaktır.

Dolayısıyla SoT için en basit formül şudur: “Önce ne söyleyeceğini yapılandır, sonra her bölümü geliştir.”

Skeleton-of-Thought yaklaşımı Ning ve arkadaşları tarafından özellikle büyük dil modellerinde yanıt üretiminin verimliliğini artırmak amacıyla önerilmiştir. Özgün yaklaşımda model önce yanıtın “iskeletini” üretmekte, daha sonra iskelet noktaları paralel biçimde genişletilebilmektedir. Bu paralelleştirme özelliği, SoT’yi yalnızca bir içerik planlama tekniği olmaktan çıkararak yanıt üretim gecikmesini azaltmayı amaçlayan bir yöntem hâline getirir.

Kaynak: Ning, X., Lin, Z., Zhou, Z., Wang, Z., Yang, H., & Wang, Y. (2024). Skeleton-of-Thought: Large Language Models Can Do Parallel Decoding. ICLR 2024.