Bir davranışı veya beceriyi açıklamak ne anlama gelir?
Bir yarasanın zifiri karanlıkta saatte bin kadar küçük sivrisineği yakaladığını hayal edin. Bu etkileyici yeteneğe bir açıklama ararken bir biyoloğa başvuruyorsunuz ve size “o sadece enerji kazanmaya çalışıyor” deniyor.”.
Bu geçerli bir açıklama gibi görünebilir, ancak dışarı çıkınca şu şüphe ortaya çıkıyor: Biyolojik ve aç bir sistem olan fare neden bir tane bile almıyor?
Yan ofiste bir etolog bulursunuz ve o size farklı bir cevap verir: Yarasanın sonarı vardır, yörüngesini kontrol edebilen kanatları vardır ve yankıları gerçek zamanlı olarak işleyerek bilgiyi çok hızlı eylemlere dönüştüren bir beyni vardır. İşte aradığınız açıklama: ne amaçla değil sivrisinekleri yakalar, ama nasılbunu başarıyor. Bilim doğru düzeyde yapılmalıdır.
Bu gözlem günümüzde üniversite sınavlarını geçebilen, teoremleri kanıtlayabilen ve diğer bilgisayarları programlayabilen güçlü akıllı makineler karşısında önemlidir. Bu performanslarla karşı karşıya kalındığında, bu olağanüstü yeteneklerin açıklaması genellikle şu şekildedir: Bu sistemler korelasyonları öğrenen ve bir sonraki kelimeyi tahmin eden bir mekanizma kullanan matematiksel-istatistiksel modellerdir..
Bu doğrudur, ancak bu bir açıklama değildir.bir yanıt olarak gizlenmiş, neredeyse ortaya çıkmayı reddetmektir. Sanki yarasanın sadece hayatta kalmaya çalıştığını söyleyerek davranışını göz ardı ediyoruz.
Ve bu belirsizlikten kafa karışıklığı ve ardından antropomorfizasyon eğilimi ortaya çıkıyor. İçeride nasıl çalıştığını bilmiyorsak, risk ya insan yeteneklerini makineye yansıtmamız ya da herhangi bir bilişsel kapasiteyi reddetmemizdir. Her iki hata.
Buna “istatistiksel etki” demek, bunun soruyu kapattığını düşünmek bir tür sihirli düşüncedir. Sanki “istatistik” kelimesi, açıklamamız gereken olguyu ortadan kaldıracak güce sahipmiş gibi. İstatistikler açıklıyor mekanizmanın bir yönü, ama açıklamıyor bu mekanizmadan ne çıkıyor. İkisi farklı sorulardır. İkincisi ilginç olanı.
Sorun içeriye bakılarak çözülür ve bugün bu yapılabilir. Önemli bilimsel soru şudur: gibi bu makineler bu sorunları çözüyor mu? Peki neden beş yıl önce aynı matematiksel araçlarla bunu yapamadılar?
Basit bir nedenden dolayı soru hala cevapsızdır: Bu makineler programlanmamıştır, eğitilmiştir ve bu nedenle hiç kimse onlara nasıl teşhis koyacaklarını veya bir teoremi nasıl kanıtlayacaklarını söylememiştir. Öğrendiler ama o bilgiyi bizim anlayamayacağımız bir biçimde yazdılar.
Bunları deşifre etme görevi, muazzam boyutları nedeniyle daha da zorlaşıyor: 200 bin işlemciyle eğitilmiş, 500 bin kitap okuyan, on trilyon parametreyi düzenleyen. Okunamayan veya çözülemeyen bu tür bir sistemin teknik bir adı vardır: la kara kutu.
Bugün var yeni bir bilimsel disiplin bahane aramadan kendine şu soruyu soran: denir mekanik yorumlanabilirlik. Yeni nesil bilim insanları bu konuyu ele aldı kara kutuyu açma görevi Yapay zekanın onlara yönelttiğimiz sorunları çözmek için kullandığı “haritayı” içinde aramak.
Sinir ağlarının mekanizmalarını çözme yarışı tüm hızıyla devam ediyor ve bilim adamlarının bulduğu şey şaşırtıcı: Şah mat görüldüğünde herhangi bir konfigürasyonda ateşlenen nöronlar; Altın Kapı'nın bir belgedeki varlığına yanıt veren diğerleri: farklı görsellerde, herhangi bir dildeki metinlerde ve hatta kısa ifadelerde. Her zaman aynı kavramı tanıyan aynı nöronlar.
En güncel kataloglar, Claude ve GPT'nin sinir ağlarında keşfedilen bu türden milyonlarca kavramı listelemektedir. Ve ayrıca onları birbirine bağlayan ve cevapları yazacakları kelimeleri seçmeden çok önce cevapları hesaplamalarına olanak tanıyan devreler var.
Ayrıca, fiziksel dünyanın eksik ve yaklaşık, ancak coğrafya sorularını yanıtlamak için yararlı olan iç haritaları da var. Bunlar, basit kelimelerin değil, makinenin giderek daha karmaşık hale gelen metinlerdeki eksik kelimeleri tahmin etmeyi öğrenmesiyle oluşan fikirlerin içsel temsilleridir. VE soyut kavramlar ağı dünyanın bir modelidirtabii ki bizimkinden farklı.
Günümüzün akıllı makineleri daha önce görülen cümleleri tekrarlamıyor, içeriğine karar verdikten sonra yanıtlar oluşturuyorÖyle ki, bilim insanları sadece birkaç nöronu uyararak tepki verdikleri dili değiştirebiliyorlar.
Bu bilimsel anın büyüleyici kısmı şu: Henüz keşfedilmeyi bekleyen olası zekaların bulunduğu bir alan var. Günümüzün yapay zekaları papağan değil ama insan zihnine de benzemiyor; farklı bir şey. Kendi biçimi bizimkinden farklı olan, insan olmayan ama inceleyebileceğimiz bir tür uzaylı ve ilkel zihin. Az önce bir kapıyı açtık, yakında başkalarını da bulacağız.
Yazdığım kitap (ZihniyetEdizioni Il Mulino, 2026), makinelerin düşüncelerini, kullandıkları yöntemleri ve bizi bir makinenin bile – açıkça insani olmayan bir şekilde de olsa – bazı şeyleri anlayabileceği yönündeki rahatsız edici olasılığı düşünmeye zorlayan şaşırtıcı keşifleri deşifre etme konusunda önemli ve acil bir girişimde bulunan araştırmacıların öyküsünü anlatıyor.
* Nello Cristianini, Bath Üniversitesi'nde Yapay Zeka profesörüdür. Pek çok kitabı yayımlandı, sonuncusu Forma mentis (Edizioni il Mulino) bugünden itibaren kitapçılarda.
Bir yanıt yazın