Son zamanlarda, şirketi bugünün en gelişmiş yapay zeka sistemlerini güçlendiren cipsleri inşa eden Nvidia kurucusu Jensen Huang, dikkat çekti: “Gerçekten, gerçekten şaşırtıcı olan şey, bir AI programlamanın bir kişiyi programlama şekline benzemektir.” Openai'nin kurucu ortağı Ilya Sutskever ve AI Devrimi'nin önde gelen figürlerinden biri de belirtilmiş AI'nın insanların yapabileceği her şeyi yapabilmesi sadece bir zaman meselesidir, çünkü “beyin biyolojik bir bilgisayardır.”
Ben bilişsel bir sinirbilim araştırmacıyım ve bence tehlikeli bir şekilde yanlış.
En büyük tehdit, bu metaforların yapay zekanın nasıl çalıştığı konusunda bizi karıştırması değil, bizi kendi beyinlerimiz hakkında yanıltmaları değil. Geçmiş teknolojik devrimler sırasında, bilim adamları ve popüler kültür, insan beyninin birbiri ardına yeni bir makineye benzer olarak anlaşılabileceği fikrini keşfetme eğilimindeydi: bir saat, bir pano, bir bilgisayar. En son hatalı metafor, beynimizin AI sistemleri gibi olmasıdır.
Son iki yılda bu değişimi, sinirbilim ve ötesindeki konferanslarda, kurslarda ve konuşmalarda gördüm. “Eğitim”, “ince ayar” ve “optimizasyon” gibi kelimeler sıklıkla insan davranışını tanımlamak için kullanılır. Ancak AI'nın yaptığı gibi antrenman, ince ayar veya optimize etmiyoruz. Ve bu tür yanlış metaforlar gerçek zarar verebilir.
17. yüzyılın “boş bir arduvaz” olarak zihin fikri, çocukları tamamen dış etkilerle şekillendiren boş yüzeyler olarak hayal etti. Bu, kişiselleştirilmiş destek sunmak yerine otizm, DEHB veya disleksi olanlar gibi nöroditergent çocuklarda farklılıkları ortadan kaldırmaya çalışan katı eğitim sistemlerine yol açtı. Benzer şekilde, davranışçı psikolojinin 20. yüzyılın başlarında “kara kutu” modeli sadece görünür davranışın önemli olduğunu iddia etti. Sonuç olarak, zihinsel sağlık hizmetleri genellikle duygusal veya biyolojik nedenlerini anlamak yerine semptomları yönetmeye odaklanmıştır.
Ve şimdi kendimizi AI imajında görmeye başladığımızda ortaya çıkan yeni yanlış yaklaşımlar var. İçinde geliştirilen dijital eğitim araçları son yıllarda, örneğindersleri ve soruları bir çocuğun cevaplarına göre ayarlayın, öğrenciyi optimum öğrenme düzeyinde teorik olarak tutun. Bu, bir AI modelinin nasıl eğitildiğinden büyük ölçüde ilham alıyor.
Bu uyarlanabilir yaklaşım etkileyici sonuçlar üretebilir, ancak motivasyon veya tutku gibi daha az ölçülebilir faktörlere bakmaktadır. İki çocuğun değişen yeterliliklerini ayarlayan akıllı bir uygulamanın yardımıyla piyano öğrendiğini düşünün. Biri hızla kusursuz oynamayı öğrenir, ancak her uygulama oturumundan nefret eder. Diğeri sürekli hatalar yapar, ancak her dakika zevk alır. Sadece AI modellerine uyguladığımız terimlere bakılırsa, kusursuz oynayan çocuğun diğer öğrenciyi daha iyi performans gösterdiğini söyleyebiliriz.
Ancak çocukları eğitmek bir AI algoritması eğitmekten farklıdır. Bu basit değerlendirme, ilk öğrencinin sefaletini veya ikinci çocuğun keyfini açıklamaz. Bu faktörler önemlidir; Eğlenceli olan çocuğun hala on yıl sonra oynaması şansı iyi bir şans var – ve daha iyi ve daha orijinal bir müzisyen bile olabilirler çünkü aktiviteden, hatalardan ve hepsinden hoşlanıyorlar. Kesinlikle öğrenmede yapay zekanın daha iyisi için hem kaçınılmaz hem de potansiyel olarak dönüştürücü olduğunu düşünüyorum, ancak çocukları sadece “eğitimli” ve “ince ayar” olarak değerlendireceksek, deneyim üzerindeki çıktıyı vurgulama hatasını tekrarlayacağız.
Bunu, ilk kez öğrenme sürecini tam olarak dış kaynaklardan sağlayarak en iyi ölçülen sonuçları elde edebileceklerine inanan lisans öğrencileriyle oynadığını görüyorum. Birçoğu son iki yıldır AI araçlarını kullanıyor (bazı kurslar buna izin veriyor ve bazıları değil) ve şimdi, genellikle yansıma ve gerçek anlayış pahasına verimliliği en üst düzeye çıkarmak için onlara güveniyor. Yapay zekayı iyi denemeler üretmelerine yardımcı olan bir araç olarak kullanırlar, ancak birçok durumda sürecin artık orijinal düşünceyle veya öğrencilerin merakına neyin arttığını keşfetme ile çok fazla bağlantısı yoktur.
Bu Beyin-Ara çerçevesinde düşünmeye devam edersek, bilim ve sanatta büyük atılımlara yol açan hayati düşünce süreçlerini kaybetme riskiyle karşı karşıya kalırız. Bu başarılar, tanıdık kalıpları tanımlamaktan değil, dağınıklık ve beklenmedik hatalarla kırmaktan gelmiştir. Alexander Fleming, yanlışlıkla dışarıda bıraktığı bir petri tabağında büyüyen kalıpın çevredeki bakterileri öldürdüğünü fark ederek penisilin keşfetti. Yüz milyonlarca insanın hayatını kurtarmaya devam eden dağınık bir araştırmacı tarafından yapılan şanslı bir hata.
Bu dağınıklık sadece eksantrik bilim adamları için önemli değildir. Her insan beyni için önemlidir. Son yirmi yılda sinirbilimdeki en ilginç keşiflerden biri, hayal kurarken ve belirli bir göreve odaklanmadığımızda aktif hale gelen bir grup beyin bölgesi olan “Varsayılan Mod Ağı” dır. Bu ağın geçmişi yansıtmada, kendimizi ve başkalarını hayal etmede ve düşünmede rol oynadığı bulunmuştur. Bu zihin uzanan davranışı temel bir insan özelliği olarak benimsemek yerine bir aksaklık olarak göz ardı etmek, kaçınılmaz olarak bizi eğitim, akıl sağlığı ve hukukta kusurlu sistemler inşa etmeye yol açacaktır.
Ne yazık ki, yapay zekayı insan düşüncesiyle karıştırmak özellikle kolaydır. Microsoft, ChatGPT gibi üretken AI modellerini açıklar. resmi web sitesi “insan ifadesini yansıtan, teknoloji ile ilişkimizi yeniden tanımlayan” araçlar olarak. Ve Openai CEO'su Sam Altman kısa süre önce ChatGpt'te “Memory” adlı en sevdiği yeni özelliği vurguladı. Bu işlev, sistemin konuşmalar boyunca kişisel bilgileri korumasını ve hatırlamasını sağlar. Örneğin, Chatgpt'e nerede yemek yiyeceğinizi sorarsanız, aylar önce denemek istediğiniz bir Tayland restoranını hatırlatabilir. “Beynini bir gün içinde takmanız değil” Altman açıklanmış“Ama… seni tanıyacak ve bu kendinizin bu uzantısı olacak.”
AI'nın “hafızası” nın kendimizin bir uzantısı olacağı önerisi yine kusurlu bir metafor – yeni teknolojiyi ve kendi zihinlerimizi yanlış anlamamıza neden oluyor. Sayısız faktörlere dayalı anıları unutmak, güncellemek ve yeniden şekillendirmek için gelişen insan hafızasının aksine, AI belleği bilgileri çok daha az bozulma veya unutma ile saklamak için tasarlanabilir. İnsanların hafızayı neredeyse her şeyi hatırlayan bir sisteme dış kaynak kullandıkları bir yaşam, benliğin bir uzantısı değildir; Bizi insan yapan mekanizmalardan kopar. Bu nasıl davrandığımız, dünyayı anladığımız ve kararlar aldığımızda bir değişime işaret ederdi. Bu, bir restoran seçmek gibi küçük şeylerle başlayabilir, ancak hızlı bir şekilde farklı bir kariyer yolu almak veya sahip olduğumuzdan farklı bir ortak seçmek gibi çok daha büyük kararlara geçebilir, çünkü AI modelleri beynimizin bir nedenden ötürü temizlemiş olabileceği bağlantıları ve bağlamı yüzeyebilir.
Bu dış kaynak kullanımı cazip olabilir, çünkü bu teknoloji bizim için insan gibi görünüyor, ancak AI dünyayı temelde farklı şekillerde öğrenir, anlar ve görür ve gerçekten bizim gibi acı, sevgi veya merak yaşamaz. Bu devam eden karışıklığın sonuçları felaket olabilir – AI doğası gereği zararlı olduğu için değil, insan zihnimizi tamamlayan bir araca şekillendirmek yerine, bizi kendi imajında yeniden şekillendirmesine izin vereceğiz.
İddo gefen bir phD Columbia Üniversitesi'nde bilişsel sinirbilim adayı ve romanın yazarı “Bayan Lilienblum'un bulut fabrikası. ”. Nöron Hikayelerinörobilim anlayışlarını insan davranışına bağlar.
Bir yanıt yazın