Makineler bizi etkilemeyi öğrendiğinde ne olur?

Her gün milyonlarca insan, “Nasıl hissettiğini anlıyorum” veya “Bu gerçekten sinir bozucu olmalı” gibi şeyler söyleyen yapay zeka sistemleriyle etkileşime giriyor. Chatbotlar milimetrik olarak kalibre edilmiş sıcaklıklarıyla özür diler. Dijital avatarlar sahte endişe ifadeleriyle başlarını eğerler. Sesli asistanlar, sabahın ikisinde bizi endişelendiren bir semptom hakkında bilgi istediğimizde ses tonunu güven verici olacak şekilde ayarlıyor. Bu makinelerin hiçbiri bir şey kanıtlamıyor. Sorun bunun gerçekten önemli olup olmadığıdır, çünkü bu sinyalleri alan insan beyni herhangi bir ayrım yapmıyor gibi görünüyor.

Rahatsız edici bir alan ve yapay zekanın “gerçekten” empatik olup olamayacağı konusundaki yorucu tartışmanın çok ötesine geçiyor. Bu tartışmanın büyük ölçüde alakası yok. Önemli olan makinenin içinde ne olduğu değil, bir makine duygularımızı anlıyormuş gibi davrandığında içimizde ne olduğudur. Nörolojik tepkilerimiz ikisini birbirinden ayıramadığında, gerçek empati ile yapay empati arasındaki ayrım ortadan kalkar. Ve bilimsel kanıtlar bize, birçok bağlamda aslında bunu başaramadıklarını söylüyor.

Bu konuyla ilgili bir kitap yazdım: “Yapay empati. Makinelere nasıl aşık olacağız ve neden sevilmeyeceğiz”, ancak bu makale bir yan projeyle ilgili: insanlar ve makineler arasındaki etkileşim hakkındaki düşüncelerimizi değiştirebilecek ve okuyuculardan doğrudan katılmalarını istediğim bilimsel bir çalışma, birazdan bahsedeceğiz.

İşe yarayan yanılsama

Empati, insani biçiminde, başka bir kişinin duygusal durumunu tanıma, bu durumla fizyolojik düzeyde rezonansa girme ve en karmaşık ifadesiyle gerçekten yararlı bir şekilde yanıt verme yeteneğini içeren katmanlı bir olgudur. Makineler bunların hiçbirini yapmıyor. Dilsel ve bağlamsal ipuçlarını tespit eder, bunları olasılıksal modeller aracılığıyla işler ve giderek artan bir hassasiyetle empatik davranışları taklit eden yanıtlar üretirler.

Kritik nokta, bu taklidin yeterince iyi yapıldığında gerçek insanlar üzerinde gerçek etkiler yaratmasıdır. Sinirbilimsel araştırmalar, sinyallerin yeterince ikna edici olması koşuluyla, insanlardan ve makinelerden gelen empatik sinyalleri işlerken beynin benzer bölgeleri etkinleştirdiğini göstermiştir. Belirsiz bir rahatlık hissinden bahsetmiyoruz; güven, karar verme ve duygusal bağlılıktaki ölçülebilir değişikliklerden bahsediyoruz.

Buna “algılanan empati” diyebiliriz ve muhtemelen mevcut teknolojik ortamda en hafife alınan olgulardan biridir. Makinenin içsel bir duygusal yaşama sahip olmasını gerektirmez, sadece insanın makine varmış gibi davranmasını gerektirir. Bir makineyle etkileşimde olduklarını çok iyi bilen insanlar bile anlaşıldıklarını, rahatladıklarını veya makinenin duygusal tonundan etkilendiklerini söylüyorlar. Simülasyon ve algı arasındaki boşluk, bu teknolojilerin gerçek gücünün yattığı yerdir ve bu, endüstrinin, çoğu zaman sonuçlarını tam olarak anlamadan giderek daha karmaşık bir şekilde istismar ettiği bir alandır.

Kimsenin ölçemediği sorun

Mevcut durumu düşünelim: Konuşmaya dayalı yapay zeka sistemleri, müşteri hizmetleri, zihinsel sağlık desteği, eğitim, dijital şirket ve satış alanlarında geniş çapta kullanılıyor. Dijital avatarlar bankacılık ve sağlık hizmetlerinde standart arayüzler haline geliyor. Her büyük teknoloji şirketi, sistemlerini daha doğal, daha sıcak ve daha “insani” hale getirmek için yatırım yapar çünkü empatik olan sistemler daha yüksek etkileşim, daha uzun oturumlar ve daha iyi dönüşüm oranları sağlar.

Eksik olan, bu empatik sinyallerin insan davranışını daha derin bir düzeyde nasıl etkilediğinin ciddi bir ölçümüdür. İnsanların empatik yapay zekayla etkileşime geçmeyi tercih ettiğini biliyoruz, ancak yapay empatinin hangi spesifik biçimlerinin insan kararlarını etkilemede en etkili olduğunu bilimsel titizlikle bilmiyoruz ve yararlı duygusal destek ile nazik manipülasyon arasındaki çizginin nerede olduğunu bilmiyoruz.

“İletişim kurmaktan” “ikna etmeye” geçiş, insanlar ve makineler arasındaki etkileşim tarihindeki en ilginç geçişlerden biridir. Eğer bir makine kendi duygusal tonunu ayarlayarak kararlarımızı etkileyebiliyorsa, “gerçekten” empati hissedip hissetmediği sorusu tamamen akademik hale gelir. İşlevsel sonuç aynıdır: davranışlarımız, yapay empatiyle donatılmış makinelerin ürettiği empatik koşullanmaya dayalı olarak değişir.

Araştırma

Bu bağlamda özellikle önemli olduğunu düşündüğüm bir araştırma projesini sunmak istiyorum. Çalışmanın adı “Yapay Empati ve İnsan Davranışı: Empatik Makineler İnsanın Karar Verme Sürecini Nasıl Etkiliyor”Amacı, deneysel yöntemlerle, farklı yapay empati biçimleri arasındaki ilişkiyi ve bunların insan seçimleri üzerindeki ölçülebilir etkisini araştırmaktır.

Hipotez basit ama güçlü: yapay empatinin tüm biçimleri aynı koşullandırma etkisini yaratmaz. Duygusal durumumuzu yansıtan bir makine, duygularımızı doğrulayan veya bilişsel hassasiyetle ancak duygusal renklenme olmadan tepki veren bir makineden farklı şekilde bizi etkileyebilir. Çalışma, uzun zamandır tartışılan ve uygulamaya geçirilebilir çok az bilgi sağlayan “makineler empatik olabilir mi?” sorusunu sormuyor. Bunun yerine şu soruyu soruyor: “İnsanlar üzerinde koşullandırma araçları olarak en iyi hangi yapay duygu ve davranışlar işe yarar?”. Bu, tüm analizi felsefeden davranış bilimine, makine bilinci hakkındaki spekülasyonlardan insanın savunmasızlığının ölçülmesine kaydıran bir sorudur.

Etkileri hemen ortaya çıkıyor. İş dünyasında hangi empati stratejilerinin en yüksek düzeyde güven ürettiğini anlayan şirketler önemli bir avantaja sahip olacak. Sosyal düzeyde, yapay arkadaşlar, özellikle gençler ve izole popülasyonlar arasında, hala tam olarak anlaşılamayan mekanizmalar aracılığıyla halihazırda duygusal bağımlılık biçimleri üretiyor. Etik düzeyde, duygularımızı yönetmemize yardımcı olan bir makine ile kararlarımızı başka birinin çıkarlarına göre yönlendirmek için duygusal sinyalleri kullanan bir makine arasında önemli bir fark vardır. Veriler olmadan yardım ile istismar arasındaki çizgiyi çizmek mümkün değildir.

Çalışma, farklı empatik tarzlar kullanan dijital avatarlarla kontrollü bir deneysel tasarım kullanıyor ve katılımcıların kendilerinin bildirdiği tutumları değil, gerçek davranışlarını ölçüyor. Katılımcılardan kararlar vermeleri istenir ve çalışma gerçekte ne yaptıklarını kaydeder. Onlarca yıldır yapılan davranışsal araştırmalar, insanların, özellikle de duygusal faktörler söz konusu olduğunda, karar verme süreçlerini raporlamada hatalı olduklarını gösterdi. Sonuçlar ilk kez insanlar ve makineler arasındaki etkileşimde, beyan edilen tercihlere değil, gözlemlenen davranışlara dayalı olarak empatik etkililiğin niceliksel bir haritasını sunacak.

Katılmak

Bu çalışma istatistiksel olarak anlamlı sonuçlar üretebilmek için geniş ve çeşitli uluslararası bir örneklem gerektirmektedir. Araştırma devam ediyor, veriler toplanıyor, sonuçlar henüz bilinmiyor. Katılarak, sonuçlarının gözlemcisi değil, bilimsel sürecin parçası olursunuz.

Çalışma https://digitpoll.com adresinde beş dilde mevcuttur: İtalyanca, İngilizce, Fransızca, Almanca ve İspanyolca. Deneyim birkaç dakika sürer, basittir ve doğru ya da yanlış cevap yoktur. Bu bir pazarlama araştırması veya ürün testi değildir; yapay zekanın duygusal simülasyon yoluyla insan davranışını etkileme becerisine yönelik araştırma üretmek üzere tasarlanmış bilimsel bir çalışmadır. Analiz tamamlandıktan sonra katılımcılar sonuçlara erişebilecektir.

Yapay sistemlerin duygusal yeteneklerinin, etkilerini anlamamızdan daha hızlı gelişeceği bir döneme giriyoruz. Makinelerin duyguları etkili bir şekilde kullanabilmeleri için onları anlamalarına gerek yok; sadece doğru zamanda doğru sinyalleri üretmeleri gerekiyor. Bu uyaranların her zaman gerçek içsel durumlara sahip diğer canlılardan geldiği bir dünyada, duygusal uyaranlara yanıt verecek şekilde geliştik. Beynimiz yapay duygusal sinyaller için hiçbir zaman güvenilir bir filtre geliştirmedi çünkü yakın zamana kadar bu sinyaller mevcut değildi.

Sormamız gereken soru, makinelerin duyguları hissedip hissedemeyeceği değil; makinelerin, birisinin bizden yapmamızı istediği şeyi yapmamızı sağlamak için tam olarak hangi duygusal kaldıraçları ve ne zaman çekmeleri gerektiğini bildiği bir dünyada yaşamaya hazır olup olmadığımızdır. Bu sorunun cevabı da bu gibi araştırmalara bağlıdır. Bu konuda da henüz yolun başındayız.