Chain of Thought (CoT) – (Düşünce Zinciri)

Düşünce Zinciri İstemleme, büyük dil modellerini karmaşık bir problemi tek adımda yanıtlamak yerine, ara muhakeme aşamalarını kullanarak sistematik biçimde çözmeye teşvik eden bir Prompt Engineering tekniğidir. Bu yaklaşım özellikle matematiksel problemlerde, mantıksal çıkarımlarda, çok aşamalı karar verme görevlerinde ve birden fazla bilgi parçasının birlikte değerlendirilmesini gerektiren durumlarda kullanılır. Temel amaç, modelin yalnızca nihai cevabı üretmesi değil, problemi daha küçük alt problemlere ayırarak çözüm yolunu yapılandırmasıdır. Chain of Thought yaklaşımının mantığı şu şekilde özetlenebilir:

Problem → Ara adımlar → Mantıksal bağlantılar → Sonuç

Örneğin basit bir istem: “Bir ürünün fiyatı 200 TL ve %20 indirim uygulanıyor. Son fiyat nedir?”

CoT yaklaşımında model, önce indirimin tutarını hesaplar, ardından bu tutarı başlangıç fiyatından çıkarır ve sonuca ulaşır. Benzer şekilde daha karmaşık araştırma problemlerinde de önce değişkenler belirlenebilir, ardından ilişkiler analiz edilebilir ve son aşamada değerlendirme yapılabilir. Chain of Thought Prompting’in yaygın biçimleri arasında Zero-shot CoT ve Few-shot CoT bulunur. Zero-shot CoT’de modele örnek gösterilmeden sistematik düşünmesi için yönlendirme yapılır. Few-shot CoT’de ise model önce benzer problemlerin çözüm mantığını içeren örnekler görür ve yeni probleme aynı yaklaşımı uygular.

CoT özellikle arithmetical reasoning, commonsense reasoning, symbolic reasoning ve multi-step problem solving gibi alanlarda etkili olabilir. Bununla birlikte her görev için gerekli değildir. Basit çeviri, tanım, kısa özet veya doğrudan bilgi çıkarımı gibi görevlerde CoT kullanımı gereksiz ayrıntı yaratabilir.

Chain of Thought, Multi-step Prompting, Sequential Prompting ve Deliberate Prompting ile ilişkili olmakla birlikte aynı kavram değildir. Multi-step Prompting görevin kullanıcı tarafından adımlara ayrılmasına, Sequential Prompting bu adımların sırayla yürütülmesine, CoT ise modelin bir problemi çözerken ara muhakeme bağlantıları kurmasına odaklanır. Günümüzde Chain of Thought, karmaşık görevlerde büyük dil modellerinin performansını artırmak amacıyla kullanılan en bilinen prompting tekniklerinden biridir. Ancak önemli bir nokta, modelin uzun iç muhakeme zincirlerinin her zaman doğru veya güvenilir olmadığıdır. Bu nedenle kritik görevlerde nihai sonucun ayrıca doğrulanması gerekir.

Kaynak: Wei, J., Wang, X., Schuurmans, D., Bosma, M., Xia, F., Chi, E., Le, Q. V., & Zhou, D. (2022). Chain-of-thought prompting elicits reasoning in large language models. Advances in Neural Information Processing Systems, 35, 24824–24837.