Graph of Thoughts (GoT) – (Düşünce Grafiği)

Graph of Thoughts (GoT) / Düşünce Grafiği, büyük dil modellerinin karmaşık problemleri çözerken oluşturduğu ara düşünceleri yalnızca doğrusal bir zincir veya dallanan bir ağaç şeklinde değil, birbirleriyle bağlantılı bir grafik (graph) yapısı içinde organize eden ileri düzey bir prompting ve muhakeme yaklaşımıdır. GoT yaklaşımında farklı düşünceler üretilebilir, birleştirilebilir, geliştirilebilir, yeniden değerlendirilebilir ve daha önce oluşturulmuş düşünceler sonraki aşamalarda tekrar kullanılabilir. Temel mantık basitleştirilmiş biçimde şöyledir:

Problem → Birden Fazla Düşünce → Bağlantılar → Birleştirme → Değerlendirme → İyileştirme → Sonuç

Graph of Thoughts yaklaşımını anlamanın en kolay yolu onu Chain of Thought (CoT) ve Tree of Thoughts (ToT) ile karşılaştırmaktır.

Chain of Thought

CoT, genellikle doğrusal bir muhakeme yapısına sahiptir: Problem → A → B → C → Sonuç

Her düşünce kendisinden önceki düşüncenin devamı niteliğindedir.

Tree of Thoughts

ToT, birden fazla alternatif çözüm yolunun araştırılmasına olanak sağlar: Problem → A / B / C → Alt Dallar → Değerlendirme → En Uygun Yol → Sonuç

Burada çözüm yolları dallanabilir ve uygun olmayan dallar elenebilir.

Graph of Thoughts

GoT ise daha esnek bir yapı sunar: Problem → A / B / C → A+B → B+C → Yeni Düşünceler → Yeniden Değerlendirme → Sonuç

Buradaki kritik fark, farklı dallarda üretilen düşüncelerin birbirinden tamamen bağımsız kalmak zorunda olmamasıdır. Örneğin A düşüncesinin güçlü yönü ile C düşüncesinin güçlü yönü birleştirilerek yeni bir D düşüncesi oluşturulabilir.

Bu nedenle Graph of Thoughts, yalnızca alternatifleri araştırmakla kalmaz; farklı muhakeme parçaları arasında çok yönlü ilişkiler kurulmasına olanak sağlar.

Nasıl Çalışır?

GoT yaklaşımında her bir ara düşünce grafikte bir düğüm (node) olarak düşünülebilir. Düşünceler arasındaki ilişkiler ise kenarlar (edges) aracılığıyla temsil edilir. Örneğin:

Düğüm A: Problemin ekonomik boyutu
Düğüm B: Problemin teknolojik boyutu
Düğüm C: Problemin sosyal boyutu

Model bunları ayrı ayrı değerlendirdikten sonra:

A + B → Ekonomik-teknolojik değerlendirme

B + C → Teknolojik-sosyal değerlendirme

A + B + C → Bütünleşik çözüm

oluşturabilir. Böylece çözüm süreci tek yönlü ilerlemek zorunda değildir.

Akademik Bir Örnek

Bir araştırmacının şu görevi verdiğini düşünelim: “Yapay zekâ kullanımının çalışan davranışları üzerindeki etkisini açıklayabilecek özgün bir araştırma modeli geliştir.” GoT yaklaşımında önce farklı düşünce düğümleri oluşturulabilir:

A: Yapay zekâ kullanımı → İş performansı

B: Yapay zekâ kullanımı → Teknolojik stres

C: Yapay zekâ kullanımı → İş güvencesizliği

D: Yapay zekâ kullanımı → Çalışan yaratıcılığı

Daha sonra bu düşünceler arasında yeni bağlantılar kurulabilir:

A + D: Yapay zekâ kullanımı → Yaratıcılık → İş performansı

B + C: Yapay zekâ kullanımı → Teknolojik stres → İş güvencesizliği

Ardından iki yapı yeniden birleştirilebilir: Yapay zekâ kullanımı → Teknolojik stres → İş güvencesizliği → İş performansı

ve modele çalışan yaratıcılığı gibi başka bir değişken eklenerek alternatif teorik modeller geliştirilebilir. Bu nedenle GoT özellikle karmaşık teorik model geliştirme, literatür sentezi ve çok boyutlu problem çözme görevlerinde yararlı bir düşünme mimarisi sağlayabilir.

Graph of Thoughts’un Temel İşlemleri

GoT yaklaşımının önemli özelliklerinden biri, düşünceler üzerinde farklı işlemler gerçekleştirilebilmesidir.

Generate: Yeni düşünceler üretme.

Aggregate: Birden fazla düşünceyi birleştirme.

Refine: Mevcut bir düşünceyi geliştirme.

Score: Düşüncelerin kalitesini değerlendirme.

Rank: Alternatifleri sıralama.

Select: En uygun düşünceleri seçme.

Bu işlemler sayesinde muhakeme süreci basit bir doğrusal diziden daha esnek hâle gelir.

Basit Bir Graph of Thoughts Prompt Örneği

“Bu problemi farklı perspektiflerden incele. Önce en az dört bağımsız çözüm yaklaşımı oluştur. Her yaklaşımın güçlü ve zayıf yönlerini değerlendir. Birbirini tamamlayan yaklaşımları belirle ve bunların güçlü yönlerini birleştirerek yeni çözüm alternatifleri oluştur. Yeni alternatifleri tekrar değerlendir. Gerektiğinde önceki düşüncelere dönerek onları geliştir. Son aşamada en güçlü unsurları bütünleştirerek nihai çözümü oluştur.”

Bu örnek GoT mantığını basitleştirilmiş biçimde uygular. Ancak akademik literatürdeki Graph of Thoughts yaklaşımı yalnızca böyle bir doğal dil talimatından ibaret değildir; düşüncelerin düğümler ve dönüşümler şeklinde yönetildiği daha sistematik bir hesaplama çerçevesidir.

CoT, ToT ve GoT Arasındaki Temel Fark

Chain of Thought: Tek bir düşünce yolunda ilerler.

Tree of Thoughts: Birden fazla düşünce yolunu dallandırır ve değerlendirir.

Graph of Thoughts: Farklı düşünce yollarını oluşturur, birbirine bağlar, birleştirir ve yeniden kullanabilir.

Kısaca:

CoT = Zincir

ToT = Ağaç

GoT = Ağ/Grafik

Bu nedenle GoT, özellikle birbirinden farklı çözüm parçalarının daha sonra yeniden birleştirilmesinin yararlı olduğu problemlerde ToT’dan daha esnek bir yapı sunabilir.

Avantajları

Graph of Thoughts yaklaşımı özellikle çok boyutlu problem çözme, planlama, stratejik analiz, bilgi sentezi, karmaşık metin işleme ve alternatif çözümlerin bütünleştirilmesi gibi görevlerde kullanılabilir. En önemli avantajı, daha önce oluşturulan yararlı düşüncelerin kaybolmasını önleyerek bunların başka düşüncelerle yeniden birleştirilmesine imkân vermesidir.

Sınırlılıkları

GoT’un daha karmaşık muhakeme yapısı beraberinde daha yüksek hesaplama maliyeti ve sistem tasarımı gereksinimi getirebilir. Çok sayıda düşünce düğümü ve bağlantının oluşturulması, değerlendirilmesi ve yönetilmesi basit görevlerde gereksiz olabilir. Ayrıca daha fazla düşünce üretmek otomatik olarak daha doğru sonuç anlamına gelmez. Düşüncelerin veya bunları değerlendiren mekanizmanın hatalı olması durumunda yanlış sonuçlar yine ortaya çıkabilir.

Kısaca

Chain of Thought: “Bir çözüm yolunu adım adım geliştir.”

Tree of Thoughts: “Birden fazla çözüm yolu oluştur ve en uygun yolu araştır.”

Graph of Thoughts: “Birden fazla düşünce oluştur; bunları ilişkilendir, birleştir, yeniden değerlendir ve en güçlü çözümü oluştur.”

Graph of Thoughts yaklaşımı, Besta ve arkadaşlarının “Graph of Thoughts: Solving Elaborate Problems with Large Language Models” çalışmasıyla sistematik bir çerçeve olarak ortaya konmuştur. Yaklaşımın temel yeniliği, LLM muhakemesini yalnızca bir zincir veya ağaç biçiminde değil, düşüncelerin birleştirilebildiği ve yeniden kullanılabildiği genel bir grafik yapısı olarak ele almasıdır.

Kaynak: Besta, M., Blach, N., Kubicek, A., Gerstenberger, R., Podstawski, M., Gianinazzi, L., Gajda, J., Lehmann, T., Niewiadomski, H., Nyczyk, P., & Hoefler, T. (2024). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. Proceedings of the AAAI Conference on Artificial Intelligence, 38(16), 17682–17690.