Birçoğu, daha iyi ve daha karmaşık yanıtlar elde etmek için üretken yapay zekayı teşvik eden popüler Düşünce Zinciri (CoT) yönteminin farkındadır. Google DeepMind ve Princeton Üniversitesi'nden araştırmacılar, yönlendirmeyi daha yüksek düzeyde sonuçlara götüren, daha karmaşık akıl yürütme yöntemlerinin ve daha iyi çıktıların kilidini açan Düşünce Ağacı (ToT) adı verilen gelişmiş bir yönlendirme stratejisi geliştirdi.
Araştırmacılar şöyle açıklıyor:
“Düşünce ağaçlarında (ToT) kasıtlı aramanın nasıl daha iyi sonuçlar ürettiğini ve daha da önemlisi, arama veya planlama gerektiren sorunları çözmek için dil modellerini kullanmanın ilginç ve umut verici yeni yollarını gösterdiğimizi gösteriyoruz.”
Araştırmacılar Üç Tür Yönlendirmeyi Karşılaştırıyor
Araştırma makalesi Zekayı diğer üç teşvik stratejisiyle karşılaştırıyor.
1. Giriş-çıkış (IO) İstemi
Bu temel olarak dil modeline çözmesi ve cevabını alması gereken bir problem vermektir.
Metin özetlemeye dayalı bir örnek:
Giriş İstemi: Aşağıdaki makaleyi özetleyin.
Çıktı İstemi: Girilen makaleye dayalı özet
2. Düşünce Zinciri Teşviki
Bu yönlendirme biçimi, bir dil modelinin mantıksal bir düşünce dizisini takip etmesini teşvik ederek tutarlı ve bağlantılı yanıtlar üretmeye yönlendirildiği yerdir. Düşünce Zinciri (CoT) İstemi, sorunları çözmek için ara akıl yürütme adımları boyunca bir dil modeline rehberlik etmenin bir yoludur.
Düşünce Zinciri Yönlendirme Örneği:
Soru: Roger'ın 5 tenis topu var. 2 kutu tenis topu daha alıyor. Her kutuda 3 tenis topu bulunur. Şu anda kaç tane tenis topu var?
Gerekçe: Roger 5 topla başladı. Her biri 6 tenis topu olan 2 kutu 3 tenis topu. 5 + 6 = 11. Cevap: 11Soru: Kafeteryada 23 elma vardı. Öğle yemeği hazırlamak için 20 elma kullanıp 6 tane daha alırlarsa kaç elmaları olur?
3. CoT ile tutarlılık
Basit bir ifadeyle bu, dil modelini birden çok kez yönlendiren ve ardından en sık ulaşılan yanıtı seçen teşvik edici bir stratejidir.
CoT ile Sel-tutarlılığı üzerine Mart 2023 tarihli araştırma makalesi bunu açıklıyor:
“Öncelikle sadece açgözlü olanı seçmek yerine çeşitli akıl yürütme yollarını örnekliyor ve ardından örneklenen akıl yürütme yollarını marjinalleştirerek en tutarlı cevabı seçiyor. Öz-tutarlılık, karmaşık bir akıl yürütme probleminin tipik olarak birden fazla farklı düşünme biçimini kabul ederek benzersiz doğru cevaba yol açtığı sezgisini güçlendirir.”
İnsan Bilişinde İkili Süreç Modelleri
Araştırmacılar, insan karar verme düşüncesinin, insan bilişinde ikili süreç modelleri veya ikili süreç teorisi olarak nasıl adlandırıldığına dair bir teoriden ilham alıyor.
İnsan bilişindeki ikili süreç modelleri, insanların iki tür karar verme sürecine dahil olduğunu öne sürüyor; biri sezgisel ve hızlı, diğeri ise daha bilinçli ve daha yavaş.
- Hızlı, Otomatik, Bilinçsiz
Bu mod, sıklıkla sezgiye dayalı olduğu söylenen hızlı, otomatik ve bilinçsiz düşünmeyi içerir. - Yavaş, Kasıtlı, Bilinçli
Bu karar verme şekli, nihai bir karara varmadan önce dikkatli bir şekilde düşünmeyi, analiz etmeyi ve adım adım akıl yürütmeyi içeren yavaş, kasıtlı ve bilinçli bir düşünme sürecidir.
Düşünce Ağacı (ToT) yönlendirme çerçevesi, akıl yürütme sürecinin her adımının bir ağaç yapısını kullanır; bu, dil modelinin her akıl yürütme adımını değerlendirmesine ve akıl yürütmedeki o adımın uygulanabilir olup olmadığına karar vermesine ve bir cevaba yol açıp açmadığına karar vermesine olanak tanır. Dil modeli, akıl yürütme yolunun bir cevaba yol açmayacağına karar verirse, yönlendirme stratejisi, onun o yolu (veya dalı) terk etmesini ve nihai sonuca ulaşana kadar başka bir dalla ilerlemeye devam etmesini gerektirir.
Düşünce Ağacı (ToT) ile Düşünce Zinciri (CoT) Karşılaştırması
ToT ve CoT arasındaki fark, ToT'nin akıl yürütme süreci için bir ağaç ve dal çerçevesine sahip olması, CoT'nin ise daha doğrusal bir yol izlemesidir.
Basit bir ifadeyle CoT, dil modeline bir görevi gerçekleştirmek için bir dizi adımı izlemesini söyler; bu, hızlı ve otomatik olan sistem 1 bilişsel modeline benzer.
ToT, daha bilinçli olan ve dil modeline bir dizi adımı takip etmesini ancak aynı zamanda bir değerlendiricinin devreye girip her adımı gözden geçirmesini ve devam etmenin iyi bir adım olup olmadığını, değilse de durup takip etmesini söyleyen sistem 2 bilişsel modeline benzer. başka bir yol.
Yönlendirme Stratejilerinin Çizimleri
Araştırma makalesi, görevi tamamlamaya ve bir sorunu çözmeye yönelik her adımda bir “düşünceyi” temsil eden dikdörtgen kutularla birlikte her yönlendirme stratejisinin şematik resimlerini yayınladı.
Aşağıda ToT'ye ilişkin akıl yürütme sürecinin nasıl göründüğünün bir ekran görüntüsü bulunmaktadır:
Düşünce İstemi Zincirinin İllüstrasyonu
Bu, düşünce sürecinin nasıl daha düz bir yol (doğrusal) olduğunu gösteren CoT'nin şematik gösterimidir:
Araştırma makalesi şunları açıklıyor:
“İnsanın problem çözmesi üzerine yapılan araştırmalar, insanların kombinatoryal bir problem alanı – düğümlerin kısmi çözümleri temsil ettiği ve dalların operatörlere karşılık geldiği bir ağaç – aracılığıyla arama yaptığını gösteriyor.
bu onları değiştirir. Hangi dalın seçileceği, problem alanında gezinmeye yardımcı olan ve problem çözücüyü bir çözüme doğru yönlendiren buluşsal yöntemler tarafından belirlenir.Bu perspektif, genel sorunları çözmek için LM'leri kullanan mevcut yaklaşımların iki temel eksikliğini vurgulamaktadır:
1) Yerel olarak, bir düşünce süreci içindeki farklı devamları, yani ağacın dallarını keşfetmezler.
2) Küresel olarak, bu farklı seçeneklerin değerlendirilmesine yardımcı olmak için herhangi bir tür planlama, ileriye dönük veya geriye dönük izleme içermezler; bu, insanın problem çözmesinin karakteristik özelliği gibi görünen buluşsal kılavuzlu arama türüdür.
Bu eksiklikleri gidermek için, LM'lerin düşünceler üzerinde birden fazla akıl yürütme yolunu keşfetmesine olanak tanıyan bir paradigma olan Düşünce Ağacını (ToT) tanıtıyoruz…”
Matematik Oyunuyla Test Edildi
Araştırmacılar yöntemi 24 kişilik bir matematik oyunu kullanarak test ettiler. Game of 24, oyuncuların bir dizi karttan dört sayıyı (yalnızca bir kez kullanılabilen) kullanarak temel aritmetik (toplama, çıkarma, çarpma ve bölme) kullanarak 24 sonucunu elde ettikleri bir matematiksel kart oyunudur.
Sonuçlar ve Sonuçlar
Araştırmacılar Eğitsel Zeka teşvik stratejisini diğer üç yaklaşıma göre test ettiler ve sürekli olarak daha iyi sonuçlar ürettiğini buldular.
Ancak aynı zamanda GPT-4'ün zaten başarılı olduğu görevleri tamamlamak için ToT'nin gerekli olmayabileceğini de belirtiyorlar.
Şu sonuca varıyorlar:
LM'lerin ilişkisel “Sistem 1″i, bir problemin çözümüne giden olası yolların bir ağacının aranmasına dayalı bir “Sistem 2” ile faydalı bir şekilde genişletilebilir.
Düşünce Ağacı çerçevesi, problem çözmeyle ilgili klasik içgörüleri çağdaş LM'ler için uygulanabilir yöntemlere dönüştürmenin bir yolunu sağlar.
Aynı zamanda, LM'ler bu klasik yöntemlerin zayıflığını ele alarak, yaratıcı yöntemler gibi kolayca resmileştirilemeyen karmaşık sorunları çözmenin bir yolunu sunar.
yazı.LM'lerin yapay zekaya yönelik klasik yaklaşımlarla bu kesişimini heyecan verici bir yön olarak görüyoruz.”
Orijinal araştırma makalesini okuyun:
Düşünce Ağacı: Büyük Dil Modelleriyle Kasıtlı Problem Çözme
Shutterstock/Asier Romero'dan Öne Çıkan Görsel
Bir yanıt yazın