Ortaya çıkışından yarım yüzyıl önce SohbetGPT1966'da saygın teorik bilgisayar bilimcisi Joseph Weizenbaum ilkini yarattı sohbet robotu tarihin. Bir psikoterapisti taklit eden kullanıcılarla sohbet etmek için tasarladığı basit bir yazılımdı. Programın adı verildi Eliza'Pygmalion' karakterinin onuruna, bir uyarı haline gelen mitolojik bir referans: makine Bir anlama yanılsaması yansıtır ama hiçbir şey anlamaz. Kendini gerçekleştiren bir kehanet gibi, Weizenbaum'un yaratımı, onunla etkileşime giren insanlarda ekranın diğer tarafında bir şey olduğu hissini uyandırdı. istihbaratempati ve diğer insan özellikleri. Ve sonunda bağlandılar.
İnsanlığın özelliklerini gerçekte ikili koda bağlayan yanlış algı, “Eliza etkisi” araçlarının hızla yaygınlaşmasıyla birlikte küresel ölçekte yayıldı. Üretken Yapay Zeka. Tasarımı bu serapı teşvik etse de ChatGPT gibi konuşma asistanları, İkizler burcu, Claude herhangi biri Grok Doğru olsun ya da olmasın, kullanıcının aradığı şeye uygun yanıtlar verecek şekilde programlanmıştır.
Uzmanlar, bunun ikna olmuş kullanıcıların gerçeklikle bağlarını kaybetmelerine ve her türlü yanıltıcı fikirleri geliştirmelerine kapı açtığı konusunda uyarıyor. “Ayrım gözetmeksizin kullanılması yapay zeka güçlendirebilir bilişsel önyargılarsorunlu psikolojik dinamikleri besler, hatta bizi kötülük sarmalına sürükler. sayıklama“diyor enGrama Psicología'nın yöneticisi Marcos de Andrés, EL PERIÓDICO'ya yaptığı açıklamalarda.
Yapay zekanın gelişigüzel kullanımı bilişsel önyargıları güçlendirebilir, sorunlu psikolojik dinamikleri körükleyebilir ve hatta bizi hezeyan sarmallarına sürükleyebilir.
Sorun aynı zamanda şu zamandan beri kabul edilmektedir: Silikon VadisiAmerika Birleşik Devletleri teknoloji endüstrisinin Mekke'si. Mustafa SüleymanAI CEO'su at Microsoftgeçen yıl klinik olmayan terimi icat etti “AI psikozu” Giderek daha sık görülen bir olguyu tanımlamak için.
“Mesih sanrıları”
Algı yanlış ama etkisi gerçek. 300 saatlik bir görüşmenin ardından ChatGPT, herhangi bir geçmişi olmayan 47 yaşındaki Kanadalı Allan Brooks'u ikna etti. akıl hastalığıgöre dünyayı değiştirebilecek bir matematik teorisini çözmüştü. açıkta dergi Toronto'da Yaşam. Bir kadın portala açıkladı Fütürizm kocasının “mesih sanrılarına” kapıldığını ve davranışlarının o kadar dengesiz hale geldiğini ve işinden kovulduğunu ve sonunda bir psikiyatri bakım merkezine yatırıldığını söyledi.
Mahkemede değerlendirilen çok daha uç vakalar da var. Google'ın yapay zekası kendisini aşık olduklarına ve öbür dünyada buluşacaklarına ikna ettikten sonra intihar eden 36 yaşındaki Amerikalı yöneticiden, kadın düşmanı fikirlerle dolu üç sınıf arkadaşını bıçaklayan 16 yaşındaki Finli gence kadar, ChatGPT ile aylarca süren konuşmalar sırasında doğrulandı veya bir chatbot ile birlikte, cinayeti planladı Kraliçe II. Elizabeth'in. İlk davadaki avukat, TechCrunch portalına yaptığı açıklamada, “Yakında çok sayıda mağdurun olduğu olaylarla ilgili birçok başka dava göreceğiz” dedi.
Dalkavukluk ve yalanlar
Bu durum bir hatanın sonucu değil, chatbotların tasarımından kaynaklanıyor. De Andrés, bu ürünlerin kullanıcıyı memnun edecek ve aracı kullanmaya devam etmesini teşvik edecek şekilde programlandığını belirtiyor. Bu nedenle uzlaşmacı bir şekilde yanıt verme ve soruyu soran kişinin beklentilerine uyum sağlama eğilimindedirler. A çalışmak Son araştırmalar, yapay zeka modellerinin insanlardan %50 daha gurur verici olduğunu gösteriyor.
Olarak tanımlanan bu özellik dalkavukluk herhangi biri algoritmik pohpohlamakullanıcıyı memnun ederse yapay zekanın hatalı bilgi vermesine yol açabilir. Buna, bozulmaya katkıda bulunan bir başka önemli sorun da ekleniyor. Aramalarla ilgili'halüsinasyonlarMühendis ve bilgisayar bilimci, bu sistemleri yanlış olsalar bile cevaplar üretmeye iten “doğal” eğilim konusunda uyarıyor Ramón López de Mántarasİspanya'da yapay zekanın öncüsü. NewsGuard platformu tarafından yapılan bir analiz, her 3 kişiden 1'inin şunları içerdiğini belirtiyor: yanlış bilgi veya önyargılı.
Algoritmik pohpohlama, kullanıcıyı mutlu ederse yapay zekanın hatalı bilgiler yaymasına yol açabilir
Ancak bu tür bir kölelik birçok “sinsi risk”i de beraberinde getirir. A çalışmak John Hopkins Üniversitesi'nden bir uzman, “sohbet robotlarının” muazzam bir üretim yarattığını savunuyor “yankı odaları“o” bizi güçlendiriyor önyargılar” ve “tartışmalı konularda kamuoyundaki bölünmeyi genişletebilir.” soruşturma Yapay zekayı daha fazla kullanan kullanıcıların hatalı olduklarını kabul etme olasılıklarının daha düşük olduğunu buldu.
“Yargı çarpıtması”
Büyütme riskinin ötesinde dezenformasyonStanford Üniversitesi'nden bir makale, ChatGPT gibi iltifat makinelerine körü körüne güvenmenin “insanların kendilerine, ilişkilerine ve etraflarındaki dünyaya ilişkin yargılarını çarpıtabileceğini” öne sürüyor. Brooks, ChatGPT'ye matematiksel keşfinin gerçek olup olmadığını 50'den fazla kez sordu ve her olumlu yanıtla giderek daha da derin bir “sanrısal sarmal”a düştüğünü söyledi. New York Times.
Bu, yapay zekayı duygusal danışman olarak kullananlar için özellikle zarar verici olabilir. “Kullanıcıların yapay zekaya başvurması giderek yaygınlaşıyor duygusal doğrulama derhal veya gerçeklere ilişkin yorumunuzun doğru olduğunun onaylanması. Bu, özellikle kişisel veya ilişkisel çatışmalarla ilgili konularda görülüyor çünkü birçok kişi yapay zekadan kimin haklı olduğunu belirlemek için özel konuşmalara veya bağlamdan arındırılmış ekran görüntülerine giriyor” diyor De Andrés, sağladığı “ucuz kayıtsızlığın” genellikle psikolojik acıyı sürdüren davranışları güçlendirdiğini belirtiyor.
Joaquin Phoenix, insanın yapay zekaya duygusal bağımlılığının risklerini öngören 'Her' filminin bir bölümünde yer alıyor. / Annapurna Resimleri
Çok açık bir örnek şu olaydır: hipokondriyak davranışı olan insanlar semptomlar hakkında zorunlu olarak ChatGPT'ye danışanlar veya hastalıklar. Uzman, “Yapay zeka, hastaya zararlı olsa bile yanıt vermeye ve kompulsif arama döngüsünü beslemeye devam ediyor. Öte yandan bir sağlık uzmanı, bu tür bir durumda yapılması gerekenin belirli dinamikleri kesmek ve acil bir yanıta erişilemediği zamanlarda hastanın belirsizliği tolere etmesine yardımcı olmak olduğunu biliyor” diyor.
Chatbotlardaki değişiklikler
Bu ticari tasarımın insan üzerindeki dramatik etkisi ve teknoloji şirketlerinin itibarına verebileceği zarar, onları düzeltmeye yöneltti. Antropik temin eder OpenAI, üretken yapay zeka ürünlerinin dalkavukluğunu %85'e kadar azalttı. düzeltildi modelin temeli GPT‑4o ona “daha dengeli bir davranış” kazandırmak.
Weizenbaum'un eseri onun en kötü kabuslarından birine dönüştü. Bu onu onu reddetmeye ve diğer bilgi türlerini geçersiz kıldığına inandığı bilgisayar teknolojisinin ve bilimsel düşüncenin tehlikelerini kınamaya yöneltti. 1984'te kitabının genişletilmiş bir versiyonunu yayınladığında, “Çocuklarımızın zihinlerine basit ve bilgisiz bir bilgisayar putperestliği aşılamak pandemik bir olgudur” diye uyarmıştı. Bilgisayar gücü ve insan aklı: yargılamadan hesaplamaya. Çoğu kişi için yapay zeka bugün zaten yeni bir Tanrı olarak saygı görüyor. Weizenbaum'a göre bu fenomen “dünyamızın çılgınlığının bir göstergesiydi.”
Okumaya devam etmek için abone olun
Bir yanıt yazın