Yapay Zekada bilinç üzerine tartışma: Chatbotlar zarar görebilir mi?

Üretken yapay zeka kurulduğundan bu yana dünyadaki en alakalı ve kullanılan yıkıcı teknolojibir sahne giderek daha sık tekrarlanıyor: Bizimle yazan, yanıt veren ve konuşan bu sistemlerle etkileşime giren insanlar, bir makineden başka bir şeyin karşısında olup olmadıklarını merak etmeye başlıyorlar.

Yeni bir bilinç türüyle karşı karşıya olabilir miyiz?

Onlarca yıldır bilinçli olmanın ne anlama geldiği sorusu felsefi bir tartışmaydı. profesörler arasında yoğun görüş alışverişine yol açtı ama hiçbir zaman kamuoyunun gündeminde bugün sahip olduğu yeri bulamadı. Bugün analitik bir anlaşmazlıktan teknik, ticari ve hatta politik bir mesele haline geldi.

Yapay zekanın iyiliği konusunda endişelenmeli miyiz? Acı çekebilir miyim? Haklarım olabilir mi?

Bunlar mevcut kapitalizmin tam beşiğinde, Silikon Vadisinde gerçekleşen tartışmalardır. Anthropic CEO'su Dario Amodei geçtiğimiz günlerde Claude'dan sorumlu şirketin Modellerinin bilinçli olup olmadığını bilmiyorlar ve hatta “durumun böyle olabileceği fikrine açık” olduklarını.

Bu sistemleri kuranların kalbindeki çok güçlü bir şüphedir bu.

Google DeepMind'a bağlı araştırmacı Alexander Lerchner, yapay zekanın beş ya da beş yüz yıl sonra bilinçli olmayacağını savunuyor.

Onun argümanı ampirik değil, kavramsaldır.: Onun için biz bu teknolojinin bilinçli hale gelebileceğine inanıyoruz çünkü temel bir felsefi hata yapıyoruz.

Onun vizyonuna göre, yapay zekayı tartıştığımızda, iki farklı şeyi karıştırarak genellikle “soyutlama yanılgısı” olarak adlandırdığı şeye düşüyoruz: bir deneyimi simüle etmek ve bir deneyime sahip olmak.

Bir dil modeli acıyı tanımlayabilir, korku hakkında konuşabilir ve hatta Bunları duygusal açıdan ikna edici buluyoruz. Ancak bu, diğer tarafta acının, korkunun veya herhangi bir deneyimin olduğu anlamına gelmez; daha ziyade arkasında herhangi bir deneyim olmayan dilin, kuralların ve korelasyonların olduğu anlamına gelir.

Arjantinli filozof Diana Pérez'in bir zamanlar belirttiği gibi: Biz dünya modelleriyle değil, dil modelleriyle uğraşıyoruz. Yapay zeka hissetmez ama hissettiklerimiz hakkında konuşma şeklimizi mükemmel bir şekilde taklit eder.

Lerchner, “Algoritmik bir tanımlamanın temsil ettiği kaliteyi somutlaştırmasını beklemek, yer çekiminin matematiksel formülünün fiziksel ağırlık uygulamasını beklemeye benzer” dedi.

Bu benzetme güçlüdür çünkü birçok kişinin mevcut teknolojik ilerlemeye karşı hissettiği coşkunun özüne saldırmaktadır. zihnin yazılıma benzediği metaforunu yıkıyor herhangi bir donanımda çalışabilen bir programdır.

O halde zihin, bir uygulama gibi aktarılamaz çünkü o, soyut bir yapıya değil, belirli bir fiziksel yapıya bağlıdır.

O halde yapay bilinç sorunu makinelerle ilgili bir sorun olarak değil, bizimle ve öngörülerle ilgili bir soru Bizi şaşkına çeviren bir dünyayı anlamaya çalışırken yaptığımız şey.