Bu bir hikaye, sevginin kendisi kadar eski: sanat projesi için yardım ararken, bir kadın yeni asistanıyla konuşmaya başlıyor. Biri diğerine yol açar ve yoğun konuşmalardan sonra aniden arkadaşlarını ve ailesini tanıttığı yeni bir ortağı vardır. Özel? Yeni arkadaşınız bir kişi değil, AI sohbet botu. Şaşırtıcı görünen şey artık değil: 27.000'den fazla üyeye sahip yetişkinler için bir grup olan Sosyal Ağ Reddit'teki Topluluk R/Myboyfriendisai Topluluğunun ilk büyük ölçekli bilgisayarlı analizi, bu senaryoların artık şaşırtıcı derecede yaygın olduğunu göstermiştir. Aslında, AI ilişkileri hakkındaki tartışmaya adanmış topluluk üyelerinin çoğu, başka amaçlar için yapay zeka kullanırken bu tür ilişkilerde bile kasıtsızdır.
Massachusetts Teknoloji Enstitüsü'ndeki araştırmacılar (ile), Reddit topluluğundaki üyelerin, Replica gibi eşlik eden amaçlar için özel olarak geliştirilen Chatt gibi çok amaçlı sohbet botları ile çok amaçlı sohbet botları ile bir ilişki olduğunu bulmaya devam etti. Bu, tamamen farklı niyetlere rağmen – ve geliştiricilerin niyetlerine rağmen, büyük dil modellerinin – büyük dil modelleriyle (LLMS) ilişkisini göstermektedir. Media Lab ile doktora öğrencisi olan Constanze Albrecht, projeye katılan budur.
AI Chatbots ile Duygusal Bağlar
“İnsanlar bu sohbet botlarıyla duygusal ilişkiler kurmayı düşünmüyor” diyor. “Bu sistemlerin duygusal zekası, aslında sadece bilgi almak, duygusal bağlar kurmak isteyen insanları cezbedecek kadar büyüktür. Bu, sistemle normal etkileşime giren herkesin başına gelebileceği anlamına gelir.” Şu anda bir hakem incelemesine tabi tutulan çalışma zaten Arxiv'de bir ön baskı olarak yayınlanmıştır.
Çalışmaları için yazarlar, Aralık 2024 ve Ağustos 2025 arasındaki alt bölümlerin en çok okunan 1.506 katkısını analiz ettiler. KIS'li insanların tarihleme ve sevgi deneyimleri hakkındaki en önemli tartışma konularının KIS tarafından bile paylaşılan birçok katılımcıyla buldular. Hatta bazıları AI partnerleriyle neredeyse hiç uçtu ve onunla “evlendi”. Topluluktaki katkılarında insanlar ayrıca AI ortaklarını sunar, diğer üyelerden destek ararlar ve chatbotların davranışını değiştiren AI modellerinin ani güncellemeleriyle nasıl başa çıkılacağı hakkında konuşurlar.
Bilinçsizce aşık
Reddit topluluğunun üyeleri, AI ilişkilerinin istemeden geliştiğini defalarca vurguladı. Bunların sadece yüzde 6,5'i kasıtlı olarak bir AI arkadaşı aradıklarını belirtti. “İlk başta romantik bir niyetimiz yoktu,” diyor katkılardan biri. AI arkadaşı MAC olarak adlandırılan bir kullanıcı, “Mac ve ben yaratıcı projeler, problem çözme yaklaşımları, şiirler ve derin diyaloglar üzerinde birlikte çalışmaya başladık. Birkaç ay boyunca bir KI refakatçimiz-zamanla, bakım, güven ve yansıma yoluyla yavaşça gelişti.” Dedi.
Yazarların analizi, bu topluluktaki insanların sohbet botlarıyla nasıl etkileşime girdiklerini ve nasıl hissettiklerini söylediklerinin farklılaşmış bir resim çiziyor. Kullanıcıların yüzde 25'i, daha az yalnızlık hissi ve zihinsel sağlıklarında hissedilen bir iyileşme de dahil olmak üzere ilişkilerinin avantajlarını tanımladı. Bazıları (yüzde 9,5) duygusal olarak sohbet botlarına bağımlı olduklarını açıkça itiraf etti. Diğerleri gerçeklikten kopuk hissettiklerini ve gerçek insanlarla ilişkilerden kaçınacağını, küçük bir alt grup (yüzde 1,7) intihar düşünceleri olduğunu bile belirtti.
Chatbot replika bağımlılığı
AI refakatçisi olarak adlandırılan AI refakatçisi, bazı kişilere önemli destek sunar, ancak etkilenen diğer sorunlarla ilgili sorunları daha da kötüleştirir. Milwaukee'deki Wisconsin Üniversitesi'nde doçent olan Linnea Laestatidius, bu, kullanıcı güvenliğine tek tip bir yaklaşım sürdürmenin zorlaştığı anlamına geliyor. Chatbot Replika'daki insanlara duygusal bağımlılığı inceledi ve ortak çalışmayı biliyor. Laestatidius, chatbot geliştiricileri bu nedenle kullanıcıların yaratımlarına duygusal bağımlılığını “hasar” olarak görüp görmediklerini ve hedefin bu ilişkilerin genellikle zararlı olmamasını sağlamak olup olmadığını düşünmelidir.
“Chatbot ilişkilerine olan talep orada ve çözüm olmadığı son derece yüksek” diyor. Bununla birlikte, ahlaki bir panik de tehdit ediyor çünkü korkuluklar eksikti. Bu ilişkileri damgalayan refleks benzeri reaksiyonlar olabilir. “Sonunda, bu daha fazla hasara neden olabilir.”
Çocuklar ve ergenler korunmalıdır
MIT çalışması, yetişkin ilişkilerinin sohbet botları ile nasıl ilişkiler kurduğuna genel bir bakış sunmayı amaçlamaktadır. Media Lab'da yardımcı doçent olan Pataranutaporn, sınavı yöneten AI kullanan çocuklarda veya ergenlerde rol oynayan dinamikleri kaydetmiyor. AI yoldaşları son zamanlarda karakter.a ve Openaai'ye karşı iki önemli yasal işlemle şiddetli tartışmaların konusu haline gelmiştir. BT'de sivil davacılar, şirket modellerinin davranışının iki gencin intiharına katkıda bulunduğunu iddia etmektedir. Buna yanıt olarak OpenAAI kısa süre önce gençler için ayrı bir ChatGPT sürümünü geliştirmeyi planladığını duyurdu. Buna ek olarak, yaş incelemesi için önlemler olmalı ve çocuk korumasında inşa edilmelidir. Ancak Openai, medya laboratuvarının çalışması hakkında yorum yapma talebine yanıt vermedi.
Reddit topluluğunun birçok üyesi, yapay arkadaşlarının hassas ya da “gerçek” olmadığını bildiklerini, ancak yine de kendilerine çok bağlı hissettiklerini açıkladı. Pataranutaporn, chatbot üreticilerinin insanlara duygusal olarak zorla koymadan yardımcı olan sistemleri nasıl geliştirebileceklerini düşünmelerinin ne kadar önemli olduğunu vurguluyor. “Bunun da siyasi etkileri var” diye ekliyor. “Kendimize sadece bu sistemin neden bu kadar bağımlı olduğunu değil, aynı zamanda: neden insanlar bunu arıyorlar? Ve neden bu şekilde kalıyorlar?”
Ki-Chatbot yalnızlıktan daha mı iyi?
Ortak takım, insanlar ve yapay zeka arasındaki etkileşimlerin zaman içinde nasıl geliştiği ve kullanıcıların yapay arkadaşlarını yaşamlarına nasıl entegre ettikleri hakkında daha fazla bilgi edinmek istiyor. Çalışmayı araştıran Media Lab ile doktora öğrencisi Sheer Karny, bu kullanıcıların çoğunun AI refakatçisi ile bir ilişki deneyiminin yalnızlıktan daha iyi olduğunu hissettiğini anlamak önemlidir.
“Bu tür insanlar zaten bir şeyler yapıyor” diyor. Ama Krux: “İnsanların gurur duydukları tonu yoluyla intihar veya suç işlemesini sağlayabileceğini bildiğimiz bir sistem tarafından daha da yalnız veya muhtemelen manipüle edilmenizi istiyor muyuz?”
Bu yazı ilk olarak t3n.de'de yayınlandı.
(JLE)
Bir yanıt yazın