Antropik filozof şöyle açıklıyor: Gerçekten iyi yönlendirmeleri bu şekilde yazarsınız

İyi iletişim, iyi sonuçların anahtarıdır; bu aynı zamanda yapay zeka araçlarıyla çalışırken de geçerlidir. Anthropic'te bir filozof ve yapay zeka araştırmacısı olan Amanda Askell, şirketin “Bana Her Şeyi Sor” podcast'inde etkili yapay zeka yönlendirmesine yönelik yaklaşımını paylaştı. Birkaç faktör arasında bir dengenin gerekli olduğunu söylüyor. Örneğin temel taşlardan biri fikirleri açık ve kesin bir şekilde iletmektir.

Yapay zeka araçları açıkça formüle edilmiş talimatlar gerektirir

Askell doktorasını New York Üniversitesi'nden “Sonsuz Etik” üzerine aldı. Felsefe çalışmalarını daha önce Oxford Üniversitesi'nde tamamladı. 2021 yılından bu yana Anthropic'te çalışıyor ve burada yapay zeka sistemlerinin, özellikle de büyük dil modellerinin geliştirilmesi ve değerlendirilmesinde görev alıyor. Modelleri daha dürüst olmaları ve olumlu karakter özellikleri geliştirmeleri için eğiten bir ekibe liderlik ediyor. Daha önce neredeyse iki buçuk yıl boyunca OpenAI'de araştırmacı olarak çalıştı ve burada öncelikli olarak yapay zeka güvenliği konusuna odaklandı. Şimdi Anthropic'in podcast'inde, iyi yönlendirmeler oluştururken kullandığı düşünce sürecini açıklamaya çalıştı.

“Meselenin özüne inmek gerçekten zor çünkü öncelikle bu, modellerle çok fazla etkileşime girmeye istekli olmak ve gerçekten her bir sonuca bakmakla ilgili” dedi. İyi bir ipucu oluşturmak için denemeye istekli olmanız gerekir. Ancak yönlendirme basit denemelerin çok ötesine geçer. “İşte bu noktada felsefenin bazı yönlerden ipucu vermede yararlı olabileceğini düşünüyorum, çünkü çalışmalarımın çoğu belirli sorunları, endişeleri veya fikirleri modele mümkün olduğunca açık bir şekilde açıklamaya çalışıyor.”

Yapay zeka, çok fazla bağlama ihtiyaç duyan yeni bir meslektaş gibidir

Açık iletişime odaklanmak, yalnızca insanların kendi istemlerini geliştirmelerine yardımcı olmak için değil, aynı zamanda yapay zekanın kendisini daha iyi anlamaları için de önemlidir. Anthropic'in Temmuz ayında yayınladığı “Hızlı Mühendislik Genel Bakışı”nda şirket, kullanıcıların yapay zeka araçlarına, net talimatlara ihtiyaç duyan yeni çalışanlar gibi davranması gerektiğini söyledi. Claude'un iç politikalar ve tercih edilen çalışma yöntemleri hakkında hiçbir bilgisi olmadığından, iyi sonuçlara ulaşmak için kendisine görevlerini tam olarak nasıl yerine getireceğinin anlatılması gerekiyor.

Askell'in çalışması, hızlı mühendislik mesleğinin tükenmekten çok uzak olduğunu gösteriyor. ChatGPT'nin piyasaya sürülmesi ve bunun tetiklediği yapay zeka heyecanıyla birlikte, hızlı mühendisler kısa sürede, genellikle altı rakamlı maaş alan, aranan uzmanlar haline geldi. Artık ihtiyaç azalmış olsa da bu alandaki uzmanlar hâlâ ilgilerini kaybetmediler. Büyük dil modellerinin kullanımı çok daha kolay hale gelmiş olsa da Antropik filozofun tavsiyeleri, her istemin istenen sonuca götürmediğini öne sürüyor. Claude ve Co.'nun potansiyellerini geliştirebilmeleri için her şeyden önce kesin olarak formüle edilmiş talimatlara ihtiyaçları vardır.

Bu makale ilk olarak t3n.de'de yayınlandı.

(jle)