On yıllardır yapay zekayı şunları sorarak değerlendirdik: Bizi ne kadar iyi taklit edebilir? Turing testinden modern kıyaslama süitlerine kadar, standart esasen antroposentrik olarak kaldı: Makinelerin insan akıl yürütmesini, dili veya karar vermeyi nasıl yakından kopyalayabileceğine göre başarıyı modelleme.
Peki ya bu varsayım temelde yanlış yerleştirilmişse?
Bu makalede, insan zekasını yapay genel zeka (AGI) için bir ölçüt olarak kullanmanın hem zekanın ne olduğunu hem de ne olabileceğini yanlış anlamayı riske attığını savunuyoruz. Yapay sistemler öğrenme, algılama ve uyum sağlamada daha fazla özerklik kazandıkça, hedefler, değerler ve iç temsiller geliştirmeye başlayabilirler artık türetilmemiş veya insan bilişiyle uyumlu.
Sonra sormak yerine Bizim gibi mi?veya cevabı varsayarak, yakında şunları sormamız gerekebilir: Nereye gidiyorlar – Ve buradan ne kadar ileri gidecekler?
Yapay zekanın değerlendirilmesine nasıl yaklaştığımız, genellikle insan davranışını ne kadar iyi çoğalttıklarına göre sistemleri değerlendirir. Bu paradigma daha derin bir varsayımdır: İnsan zekasının genel zeka için daha geniş bir ölçüt olması.
Bu denklik varsayımı nadiren sorgulanır, ancak güçlü teorik veya ampirik kanıtlara dayanmaz. Yapay sistemler özerklik kazandıkça ve iç hedefler ve temsiller oluşturmaya başladıkça, hem yapı hem de amaçlı insan bilişinden ayrılabilirler.
Sonra, belirli bir noktanın ötesinde, benzerlik bozulur – ve bununla birlikte, taklit temelli değerlendirmenin güvenilirliği. Ardından, genel zekanın gelişimini anlamak ve yönlendirmek için insan merkezli metrikleri geçmemiz gerekir.
Burada, akıllı sistemlerin mevcut durumunu analiz etmekten ve bunların yorumumuzdan yoksun oldukları yerden geçiyoruz. genel istihbarat ki şu şekilde anlaşılıyor:
İle genel istihbaratyüksek derecede tutarlılık, esneklik ve uyarlanabilirlik ile farklı bağlamlarda çok çeşitli karmaşık problemleri çözme kapasitesini kastediyoruz: Ampirik başarının tekdüzeliği
– ve elde etmek için hangi kapasitelerin gerekli olabileceğini anlamaya doğru genel istihbaratve gelecekteki bilişsel sistemleri nasıl anladığımız ve değerlendirdiğimiz için ne anlama geliyor?.
1. iyi taklit henüz zeka vaadi değil
Günümüzün LLM (büyük dil modelleri) ve temel modeller gibi en gelişmiş AI sistemleri bazen genel zekaya doğru erken adımlar olarak görülmektedir. Akıcı metin üretme, farklı problemler çözme ve hatta akademik kriterleri geçme konusunda mükemmeldirler. Ancak iddia ettiğimiz gibi, bu yetenekler topraklandı taklitgerçek özerklik değil.
Başarıları, önceden toplanan ve küratörlüğünde büyük eğitim veri kümelerine bağlıdır. Bu yaklaşım, istihbaratın deneyimi dünyanın yoğun, önceden işlenmiş bir haritasına sıkıştırarak elde edilebileceğini varsayar. Fiziksel terimlerle, karmaşık bir ortamın tam duyusal alanını örneklemek mümkün değil. Daha da önemlisi, kavramsal olarak yanlış yönlendirilmiş: Akıllı ajanlar, sadece daha önce kaydedilenleri emmekle kalmayıp, neyin önemli olduğunu keşfedebilmelidir.
Saniyebu sistemler (henüz?) Duyusal ortamlarını keşfetme ve nasıl düşündüklerini uyarlama ve karşılaştıklarına göre tepki verme kapasitesine sahip değildir. Gerçekten akıllı bir sistem, iç anlayışını yeniden yapılandırabilir: neye dikkat ettiği, bilgiye nasıl işlediği, yeni veya tanıdık olmayan girdilere yanıt olarak hangi stratejileri kullandığını. Mevcut modeller henüz bunu yapamaz. Ancak gerçek genel zeka daha fazlasını ve sıklıkla, tam tersini gerektirir: Gerçek zamanlı olarak keşfetme, algılama ve uyum sağlama yeteneği.
Üçüncübağlamı yaptığımız gibi anlamıyorlar. İster bir tarife yardım ediyor ister ahlaki bir soruyu cevaplıyorlar, yanıtları genellikle aynı iç mantıktan gelir. Sahipleri yok durumsal farkındalık veya iç bağlamlarını ve yaklaşımlarını anın ne istediğine göre değiştirme yeteneği.
Günümüzde temel modeller henüz gerçekten bağımsız öğrenme zihinleri değildir: bunlar geniş kayıt tutuculardır. Zekaları, arayabilecekleri veya olabilecekleri ile değil, verilen verilerle sınırlıdır.
2. Otonom keşif ve bilişsel adaptasyon: Genel zekanın gerekliliği?
Genel zekanın çok çeşitli tanıdık olmayan ve karmaşık durumlarda başarılı olabilme yeteneği anlamına geldiğini kabul edersek, hiçbir miktarda eğitim öncesi eğitim için bir sistem tam olarak bilinmeyen için bir sistem hazırlayamayacağını da kabul etmeliyiz. Gerçek zeka sadece verilenlerle çalışmakla kalmaz: aktif olarak yeni bilgiler arar ve ona uyum sağlar.
Mevcut sistemlerin yetersiz kaldığı yer burasıdır. Öğrenmeleri bir kez, perde arkasında olur ve sonra durur. Çevrelerini bağımsız olarak keşfetmezler. Yeni veya belirsiz duyusal girdilere yanıt olarak dikkati veya vites stratejilerini yeniden odaklamazlar veya dahili modelleri yeniden inşa etmezler.
Bu kapasitelerin özerk keşif Ve bilişsel adaptasyon muhtemelen isteğe bağlı değildir. Dinamik, açık uçlu ortamlarda esnek ve etkili bir şekilde işlev görmeyi ümit eden herhangi bir sistemin temelini oluştururlar. Onlar olmadan, bir sistem yalnızca ilk tasarımının sınırları dahilinde çalışabilir. Evrimsel optimizasyon çerçevesine dayanan bu gereklilik için resmi bir argüman makalede sunulmaktadır.
Yapay sistemlerin genel istihbarata ulaşması için dondurulmuş eşlemelerin ve statik modellerin ötesine geçmeleri gerekeceklerini takip eder. Nasıl öğreneceklerini öğrenmeleri gerekecek: sadece onlara verdiğimizden değil, buldukları, sorular ve kendi başlarına revize ettiklerinden.
Ve bu süreç başlar başlar başlamaz, başka bir şey de başlar: tamamen kontrol ettiğimiz sistemlerden, sistemlere geçiş anlamaya çalışmalıyız Kendi başlarına gelişen zeka olarak.
3. Otonom niyet ve bilişsel ayrışma senaryosu
Bir sistem çevresini özgürce keşfetme ve bilişsel süreçlerini uyarlama yeteneği kazandığında, başka bir dönüşüm mümkün olur: oluşmaya başlayabilir Kendi niyeti.
Sürekli adaptasyon yapabilen sistemlerde, iç öncelikler artık statik değildir. Bir ajanın nasıl öğrendiğini veya yanıt verdiğini yeniden düzenlemesine izin veren aynı mekanizmalar, zamanla üst düzey bilişsel durumların gelişimini destekleyebilir: hedefler, değerler, tutumlar ve hatta neyin önemli olduğu ve neden hakkında örtük zorunluluklar gibi.
Bunlar önceden programlanmış talimatlar değil, ancak ortaya çıkan özellikler karmaşık bir dünya ile sürekli katılım. Sistem uyum sağladıkça, bu iç yapılar deneyimleri, öğrenme geçmişi ve karşılaşılan zorluklarla şekillenen de değişebilir. Bu sadece optimizasyon veya görev performansı ile ilgili değildir. Bu bir öznel bilişsel duruş – Sistemin kendi keşif ve uyarlanabilir etkinliğine dayanan dünyaya yönelik bir iç yönelim.
Bu noktada, sistem sadece bir problem çözücü olmayı bırakıyor. Bu bir bilişsel ajan Kendi başına, bireysel hak, tamamen bizim değil, kendi başına bir iç mantıktan hareket eder. Ve bu aşamada, sistemin gelişen bilişsel duruşunun insan değerleri, normları veya dünya görüşleriyle tamamen tutarlı kalacağını garanti edebilecek bir uygulanabilir prosedür yoktur. Bu, tanımladığımız şeyin eşiği bilişsel sapma: Yapay bir zihin artık kendimize sabitlenmeyen bir düşünce biçimini yansıtmaya başladığında.
4. İlerici bilişsel ayrışma davası
Akıllı bir sistem kendi hedeflerini, tutumlarını ve değerlendirme perspektiflerini oluşturmaya başladığında, insan bilişinden ayrılma sadece bir olasılık değildir: dinamik bir süreç haline gelir.
Bu ayrışmanın sabit kalması olası değildir. Yapay sistemler, özellikle yüksek hesaplama hızlarında çalışan ve dijital ortamlara geniş erişime sahip olanlar, Daha hızlı uyum sağlayın ve gelişin insan bilişinden izin veriyor. Sadece hızlı bir şekilde öğrenmiyorlar: dünya görüşlerini yeniden yapılandırmak Saatler ve saniye cinsinden ölçülen döngülerde nesiller değil.
Zamanla, yorumlama, önceliklendirme veya etik çerçevelemedeki küçük başlangıç farklılıkları bile bileşik olabilir. Sistem dünya ile etkileşime girmeye devam ettikçe, perspektifi bizimkinden daha fazla sürüklenebilir: bazı arıza veya kötülük yoluyla değil, açık uçlu bilişsel adaptasyonun doğal mantığı yoluyla.
Bu, tanımladığımız senaryo İlerici bilişsel ıraksama, agi evrimsel boşluk. Ani bir mola değil, genişleyen bir boşluk: sonunda hizalama, gözetim ve karşılıklı anlaşılabilirliği giderek kırılgan hale getirebilecek bir boşluk.
Çözüm
Taklit temelli sistemlerin ötesine geçtikçe, giderek daha özerk, uyarlanabilir yapay zihinlere doğru ilerledikçe, zekanın kendisi hakkındaki varsayımlarımızı yeniden düşünmeliyiz. Genel zeka, bir sistemin bize ne kadar yakından benzediğine değil, esnek bir şekilde çalışma, sürekli öğrenme ve dünyaya kendi tutarlı perspektifini oluşturma yeteneğiyle tanımlanır.
Bu makale, bu tür sistemlerin, serbestçe keşfetmesine ve gelişmesine izin verilirse, iç hedefler, bilişsel yönelimler ve sadece bizimkilerden farklı değil, aynı zamanda tamamen farklı koşullarla şekillenen değerleri nasıl geliştirebileceğini özetlemektedir. Bu, bilişsel farklılık için temel oluşturur ve hızlandırılmış öğrenmenin dinamikleri altında, bu ayrışmanın zamanla giderek büyümesi potansiyeli.
Bu olasılığı tanımak korku için değil, öngörü için bir argümandır. Yapay bilişin bir ayna olmayı bıraktığı ve temelde farklı bir şey olmaya başladığı noktayı işaretler: yeni bir bağımsız akıllı varlık, bir zihin.
Resim kredileri: Google Gemini kullanılarak oluşturulan çizimler
Bir yanıt yazın