Kayıp Bağlantı: Teknoloji değerlendirmesi yapay zeka romantizmiyle buluşuyor

Üretken yapay zeka dil modelleri dünyamızı ve bununla birlikte bilinç, duygu ve ilişkilere bakış açımızı da hızla değiştiriyor. Peki gerçek his ile mükemmel simülasyon arasındaki çizgi nerede?

Bilgisayar bilimcisi Karsten Wendland bunu internette Haberler ile anlatıyor. Daha 2021'de, bir teknoloji değerlendirme değerlendiricisi olarak iki gelecek senaryosunun ana hatlarını çizdi: Biri makinelerin bilinç geliştirdiği, diğeri ise insanların yalnızca bunun böyle olacağına inandığı. Hangi senaryonun geçerli olduğu sorusu yalnızca kullanıcılar, bilim adamları ve araştırmacılar için ilgi çekici olmakla kalmıyor, aynı zamanda sosyal açıdan da alakalı. Ekim 2025'in sonunda Avrupa Araştırma Konseyi, önde gelen bilinç araştırmacılarının bilinç sorununun açıklığa kavuşturulmasını acil bir bilimsel ve etik öncelik olarak ele alma çağrısını kabul etti – bunun nedeni tam da yapay zeka ve nöroteknolojilerin öznel deneyimin nasıl ortaya çıktığına ve bunun nasıl güvenilir bir şekilde gösterilebileceğine dair anlayışımızdan daha hızlı ilerlemesidir.

Yapay zekaya ilişkin normatif kararlar yanılsamaya veya kör noktalara dayanmamalıdır. Claude'un arkasındaki geliştirme şirketi Anthropic, birkaç aydır yalnızca yapay zeka sistemlerini bilinç belirtileri açısından incelemekle kalmayıp aynı zamanda yapay zekanın refahını da gözeten kendi “Yapay Zeka Refah Araştırmacısı”nı çalıştırıyor. ABD'de, yapay zeka hakları için kampanya yürütmek isteyen bir yardım kuruluşu olan Birleşik Yapay Zeka Hakları Vakfı (UFAIR) da faaliyet gösteriyor. Karsten Wendland bir röportajında ​​yapay zeka ile uğraşırken yanılsama ve gerçekliği ayırmanın neden giderek zorlaştığını, bunun toplumumuz için ne anlama geldiğini ve yapay zekanın romantiklikten arındırılmasının neden kaçınılmaz göründüğünü açıklıyor.

2021'deki bir konferansınızda, insanlar ve yapay zeka arasındaki ilişkiye dair iki senaryodan bahsetmiştiniz; insan-makine ilişkilerinin değişimine ve ortaya çıkışına baktığınızda bunlardan biri neredeyse bir kehanet gibi gerçekleşti.

Teknoloji değerlendirmesi geleneksel olarak kristal küreler ve kehanetler olmadan çalışmayı içerir. Çalışma şekli şu; araştırma faaliyetleri sırasında veya sonrasında geleceği tahmin edemeyen, teknolojiyle bir şeyin nasıl gelişebileceğini senaryolar halinde anlatan senaryolar geliştiriliyor. Ve geleceğe dair bu tür senaryo açıklamalarını bugünden benimseyebiliyoruz. Yani, söylediğimiz anlamda, belirli bir senaryoya sahip olmamayı tercih ediyoruz. Veya başka bir senaryo daha uygun olurdu.

2021 yılına ait iki senaryo, yapay zeka sistemlerinin ne ölçüde “bilinç” geliştirebileceği sorusuna bakış açısıyla yapay zekanın geleceğini özetliyor: Senaryo 1'de, makineler aslında gerçek duygusallığı ve aynı zamanda gerçek bilinci geliştiriyor – ve biz bunu fark etmiyoruz bile çünkü bilinci mükemmel bir şekilde simüle eden ve taklit eden makineler geliştiren süper teknisyenler olduğumuzu düşünüyoruz – ve bir şeyin gerçekten olduğunu ve ortaya çıktığını ağzımızdan kaçırıyoruz. Şu anda sahip olduğumuz mevcut dijital teknolojiye sahip makinelerde veya bu teknolojide bilincin ortaya çıkabileceğini öne süren hiçbir şey yok. Ancak gelecek için bu kesinlikle söz konusu değil ve teknik ilerleme devam ediyor.

Bu senaryo 1'de bilinç, cansız maddenin bir noktasında ortaya çıkıyor, sentetik fenomenolojiden bahsediyoruz. Prensipte bunu göz ardı etmek bilimsel açıdan riskli olacaktır çünkü böyle bir dışlama için güvenilir bir kanıt yoktur; bilincin kendisi hala çok az anlaşılmıştır. Bu senaryoda, uzman çevrelerde yoğun bir şekilde tartışılan teknoloji etiği sorunlarımız da olur; çünkü sonuçta, bunu fark etmeden acı çeken varlıkları dünyaya getiririz.

Senaryo 2'de durum tam tersi görünüyor: Bilinç asla makinede ortaya çıkmaz çünkü temelde ortaya çıkamaz. Pek çok kişi, yapay zekanın etkileyici başarıları ve bilincin neredeyse mükemmel taklidi karşısında o kadar büyülenmiş ve ikna olmuş durumda ki, makineye bilinç atfediyorlar, yani onu ona “bağlıyorlar” ve makineler gerçekten bilinçliymiş gibi davranıyorlar – ki aslında öyle değiller. Bu senaryo 2'de, aktivistlerin sözde bilinçli yapay zeka sistemlerinin hakları için kampanya yürütmeleri beklenebilir, bu da gerçek düzenlemeler ve yasal prosedürlerle sonuçlanacaktır ki bu da var olmayan bir şeydir.

Bu tür yanlış değerlendirmeler teknoloji değerlendirmesinde önemli bir konudur ve teknoloji tarihi açısından tamamen yeni bir olgu değildir. Duygular devreye girdiğinde, objektif olarak bakıldığında işler daha iyi olmuyor. Berlin Duvarı gibi mimari objeler, araçlar, teknik cihazlar, gündelik objeler ve hatta silahlar olsun, eşya sevgisi oldukça yaygın. Bu nesne hayranlığı yapay zekada biraz daha yanıltıcıdır çünkü yapay zeka genellikle somutlaşmış, eksiksiz bir nesne olarak görünmez. Bir ekranın arkasında gizlidir, ağ bağlantılı cihazlara entegre edilmiştir ve kesinlikle deneyimlenebilir, ancak hemen tanımlanamayabilir. Aslına bakılırsa, bu, artık yeni bir görünümde ve yeni bir seviyede sunulan, neredeyse anında sürükleyici deneyimlere yol açan bir hız ile son derece geliştirilmiş eski bir temel kalıptır. Bugün insanlar gerçek gibi görünen teknik bir yanılsamanın içinde kendilerini kaybedebiliyorlar. Çoğu insan için bunun ardındaki karmaşıklık artık anlaşılamıyor.

ChatGPT bir rezonans makinesi midir?

Biri düşünebilir. ChatGPT ve benzer teklifleri, mümkün olduğunca iyi karşılanması amaçlanan yanıtlar sağlamak için istatistiksel optimizasyon ve algoritmik ince ayar kullanan tahmin makineleri olarak biraz daha ciddi görüyorum. Onlara basitçe yanıt makineleri de diyebilirsiniz. Ancak rezonansta daha fazlası var.

ChatGPT'de pek çok kişi, kendileri hakkında da bir şeyler açığa çıkardıkları samimi bir mektup arkadaşı ilişkisi gibi bir deneyim yaşar. Ve bugün bunu yapan herkes, şu anda gizli gibi görünen tüm bu protokollerin, bir gün talihsiz bir kaza nedeniyle serbestçe kullanılabilir hale gelebileceğini bir noktada öğrenmek zorunda kalabilir. Ve komşum birkaç yıl önce neyle uğraştığımı biliyor, bu da tamamen farklı rezonanslara yol açabilir.

Aslında bazı insanlar için belirli konular hakkında bir makineye soru sormak, o sırada müsait olmayan bir koç, psikolog veya arkadaşa sormaktan daha kolaydır. Makine şöyle demiyor: Bu kadar yeter, artık canım istemiyor ya da artık yoruldum. ChatGPT kalıcı olarak mevcuttur ve isterseniz, elektriğiniz ve internet bağlantınız olduğu sürece teslim edebilir, teslim edebilir, teslim edebilir – asla durmaz. Chatbot her zaman kullanılabilir. Ancak daha derin anlayıştaki rezonans, mevcut olmamasından, gerçek karşılaşmalar, aşk, yaratıcılık veya doğa deneyimleri gibi bir şeyin zorlanamayacağı veya kontrol edilemeyeceği gerçeğinden beslenir. Güçlü bir araç kullanmak ile öznelerarası ilişkiler arasındaki fark, küçük bir farktan daha fazlasıdır.

Kendi kendine düşünmekle ilgilenen kişiler için sohbet makinesi yararlı bir hızlandırıcı olabilir. Bu şekilde ChatGPT'ye ve diğer konuşma makinelerine diyaloglarda unuttuğum veya gözden kaçırdığım şeyleri sorabiliyorum. Kör noktalarım nerede? Bu sayede düşüncelerimdeki boşlukları makine desteğiyle tespit etmeye çalışabiliyorum. Makinenin yanıtları ilerlememe yardımcı olabilir. Belki normalde bakmayı sevmediğiniz ve bazı sohbet ortaklarının kaçınabileceği yerlere de.

Yapay zeka için roller de belirleyebilirim. Örneğin: Bu diyalogdaki açıklamalarımı, kesinlikle kendimi temsil etmediğim, sağlam temellere dayanan bir muhalefet pozisyonu için bir uzmanın bakış açısıyla eleştirin. Sonra kafamı yıkayabilir ve hiç hoşlanmadığım şeyleri okuyabilirim ama makine umursamıyor çünkü herhangi bir duygu hissetmiyor. Bu acımasızlığı ortaya çıkarmak ve kendimle yüzleşmek için yeni araçları kullanabilirim ki bu son derece yararlı olabilir – ve bu anlarda bu, başkalarıyla ve başkalarıyla rezonansla ilgili değil, kendi netliğimle ilgilidir.

İnsan-makine ilişkisi nasıl gelişecek?

İnsanların büyük çoğunluğu için insan-makine işbirlikleri normal hale gelecek. Teknolojiyi günlük hayata yerleştirmeye ve topluma uyarlamaya devam ediyoruz. Bunu tarihsel olarak radyolardan, telefonlardan, buzdolaplarından, çamaşır makinelerinden, saç kurutma makinelerinden, otomatik bahçe kapılarından, kişisel bilgisayarlardan, bilet makinelerinden, cep telefonlarından ve mobil uygulamalı hepsi bir arada mutfak aletlerinden biliyoruz. Başlangıçta tamamen yeni ve biraz abartılıyor, sonra buğday ve saman ayrılıyor, kitlesel pazar ve yüksek kaliteli çözümler hakim oluyor, teknoloji kullanımı günlük yaşamın bir parçası haline geliyor ve bu arada sonraki trendler ortaya çıkıyor.

Teknoloji artık yalnızca aktif bir mekanik oyuncu değil aynı zamanda içerik, sağlam temellere dayanan öneriler ve son derece hızlı, veri odaklı otomasyon sağlayıcısı olduğundan, yapay zeka şu anda insan-makine ilişkisinde bazı şeyleri değiştiriyor. 1990'larda beceriksizce bir “meslektaş bilgisayarı” olarak çerçevelenen şey, artık birçok yerde bir insan-makine işbirliği yapısı haline geldi. 1980'lerin sonlarında masaüstü yayıncılık sistemlerinin ortaya çıkışıyla benzer bir durumdayız. Yazıcıların yerini alan DTP sistemleri değil, DTP kullanmayan yazıcıların yerini DTP kullanan yazıcılar aldı. Burada insan-makine ilişkisi işlevseldir, dijital makine etkili bir çalışma ortamıdır.

Yapay zeka makinesiyle artık birçok boyut önemli ölçüde daha da geliştirildi. Artık çoğu insan, küçük başarısızlıklarla da olsa, bu yeni teknolojilerle nasıl başa çıkılacağını ve günlük yaşamda bunlardan nasıl yararlanılacağını yavaş yavaş öğreniyor. Bu coşkunun yanı sıra hayal kırıklıklarını da içeriyor. Bu onun bir parçası. Bireylerin kendi başlarına bir şeyler denemeleri ve teknolojinin şu anda nerede olduğunu ve bireysel olarak ne gibi faydalar sağlayabileceğini görmeleri yararlı olacaktır.

Orta ve uzun vadede nasıl bir sosyal etki bekliyorsunuz?

Orta vadede yapay zekanın çok güçlü bir şekilde romantizmden arındırılmasını bekliyorum. Yapay zeka ile uğraşmak normal hale gelecek. Sadece birkaç yıl içinde yapay zeka muhtemelen çok sıradan olacak çünkü o günlük yaşamın bir parçası.

Elbette her zaman tuhaf hikayeler olacak. Birisinin robotuyla evlendiği bireysel hikayelerde, gizlice bir yapay zeka fetişi geliştiren izole edilmiş insanlar da mutlaka olacaktır. Büyük resme, yani canlı, özgür ve üretken bir topluma bakıldığında, teknoloji tarihi açısından bu alışılmadık bir durum değil. Ve kesinlikle karşı eğilimler olacaktır. Akıllı telefonlardan veya yapay zekadan sürekli olarak kaçınan kişiler.

Uzun vadede bir sonraki atılımın ne zaman ve hangi hızda geleceğini görmek ilginç ve anlamlı olacaktır. Bizim için öneriler hesaplayan proaktif yapay zeka müdahale makineleri ne ölçüde kabul edilir ve onlara aktif olarak kontrol seçeneklerini ne ölçüde verebilirsiniz ve bunun en kötü senaryolarda ne anlama geldiği.

(mack)