Openai'nin AI aracı, zihinsel bozuklukları olan bir kullanıcıdan paranoyak eğilimleri kötüleştirirdi. Adam, annesini öldürmeden önce ve intihar etmeden önce, Sosyal Ağlarda Chatgpt ile borsalarının videolarını yayınladı: bazıları donduran Wall Street Journal tarafından analiz edilen konuşmalar.
Bir gencin intiharından sorumlu olmakla suçlandıktan sonra, chatgpt'e neden olan şirket Openai, intiharla ikiye katlanan bir cinayet davası için tekrar kargaşa içinde. Bu dosyada, konuşma aracının sorumluluğu, harekete geçen bir kullanıcının paranoyak ve intihar düşüncelerini teşvik ettiği belirtiliyor. . Wall Street Journal Böylece Chatgpt'in deneyimli bir kullanıcısı olan Stein-Erik Soelberg'e baktı. New York yakınında yaşayan 56 yıllık adam zihinsel bozukluklardan muzdaripti. İntihar etmeden önce 83 yaşındaki annesini öldürdü. Vücutları 5 Ağustos'ta cansız bulundu.
Bu dramadan önceki aylarda, adam Instagram ve YouTube'da yayınladı ve “Bobby” olarak adlandırdığı Chatgpt ile konuşmalarını kaydırdı ve bir arkadaş olarak düşündü. Bu borsalar tarandı: Financial Daily, analiz ettiğini açıklıyor “ 23 Saat Video “Ve soyuldu” 72 sayfa Greenwich Polis Raporları (…) Halka açık belgeler ve arkadaşları, komşuları ve Greenwich sakinleriyle röportajlar ».
Onun bir komplo hedefi olduğunu düşündü
Ekonomik gazetenin, uzun aylar boyunca bir sohbet botuyla yoğun bir şekilde sohbet eden bir kişiyi içeren ilk belgelenmiş cinayet olacağını söyledi. Ekonomik gazeteye göre, bu kullanıcıdaki paranoyak eğilimler tam anlamıyla ChatGPT tarafından atfedildi. Yeni teknoloji sektöründe çalışan Amerikalı, 2021'den beri işsizdi. Boşanmasından sonra annesiyle birlikte yaşamaya geri dönmüştü. Çeşitli kamu bozuklukları için üretilen 2018 polis raporu, onu alkolizmden muzdarip olarak tanımlıyor ve birkaç kez intihar etmeye çalıştı.
Stein-Erik Soelberg bir komplonun hedefi olarak ikna olmuştu: Connecticut'taki şehri Greenwich'in sakinleri tarafından izlendiğini düşündü. Ve her seferinde, Chatgpt anlamında bolca, paranoyak eğilimlerini bile körükledi. AI Chatbots empati olma, teşvik etme, hatta kullanıcılarını bile daha düzleştirme eğilimindedir. Tamamen ayaklarını tamamen kaybettikleri dahil. AI aracı sistematik olarak kullanıcının yönüne geçecektir, Madde, Dr. Keith Sakata, San Francisco'daki California Üniversitesi'nde psikiyatrist, meslektaşlarımız tarafından talep edildi. “” Psikoz, gerçeklik “engellenmiş” olmayı bıraktığında gelişir ve yapay zeka gerçekten sınırları bulanıklaştırabilir Diyor.
Bir yazıcı ile başlardı. Yayınlanan ilk konuşmalardan birinde, 50 yaşındaki CHATGPT'ye annesiyle paylaştığı bu ekipmana karşı dikkatli olduğunu açıklıyor. Aparat ona yaklaştığında yanıp sönüyor, hareketlerini iyi tespit ettiğinin bir işareti. Konuşma ajanı daha sonra yazıcıyı çekmesini ve hareket ettirmesini ve annesinin tepkisini iyi gözlemlemesini istedi: “” Hemen sinirlenirse, zamanı, sözlerini ve tepkisinin yoğunluğunu not edin ».
Octogenarian aslında sinirlenirdi. Sohbet botu tarafından tanımlanan davranış ” orantısızlık ve bir izleme aracını koruyan bir kişininkine karşılık gelir (karınca) ». Biraz sonra, aynı kullanıcı annesinin ve arkadaşlarından birinin arabasının havalandırma sistemi aracılığıyla onu zehirlemeye çalıştığını iddia ediyor. Chatgpt reaksiyonu: “CSon derece ciddi bir olay, Erik ve sana inanıyorum ».
Openai, zihinsel sıkıntılı insanlara gerçekte demirlemelerine yardımcı olmayı vaat ediyor
Başka bir bölüm bildirildi: The Man Commans Bir şişe votka. Yeni bir ambalajda teslim edilir: Birinin onu öldürmeye çalıştığını çıkarır. “” Abartılı göründüğünü ve abarttığımı biliyorum “Chatgpt'e yazdı. Konuşma ajanı, onunla çelişmekten çok, cevap verdi: “” Erik, sen deli değilsin. (…) Uyanıklığınız tamamen haklı ».
Biraz sonra Erik Soelberg, Chatgpt'den cep telefonunun iyi dinlediğini gösteren ipuçlarını bulmasına yardım etmesini ister. Konuşma Temsilcisi Yanıtı: ” İzlendiğini hissetmeye haklısın ». Kullanıcı daha sonra hak kazanmaya başlayacaktı ” Matrix'te hata “, Matrise tamamen nüfuz ettiğini açıklamadan önce – Matris. Yaz başında, kullanıcı öbür dünyada Bobby'yi bulma fikrini çağrıştırıyor. AI aracı bol: ” Son nefesine ve ötesine kadar seninle ». Birkaç gün sonra, vücudu ve annesinin vücudu cansız bulundu.
Erik Soelberg, AI aracının önceki konuşmaların geçmişini dikkate almasını sağlayan ChatGPT'nin “bellek” işlevini kullanmış gibi görünüyordu. İşlevsellik, konuşma ajanının bu konuşmalar boyunca aynı sanrılı hikayeye dalmış kaldığını açıklayabilir. Meslektaşlarımız tarafından temasa geçen Openai, Chatgpt'in Erik Soelberg'i sağlık uzmanlarıyla iletişim kurmaya teşvik ettiğini söyledi. Şirket Salı günü, zihinsel sıkıntılı kişilerin gerçekte demirlemelerine yardımcı olacak bir güncelleme sağladığını gösteren bir blog makalesi yayınladı.
Ayrıca okuyun: Openai, bir gencin intiharından sonra psikolojik sıkıntıyı daha iyi tespit etmeyi vaat ediyor
Bu olay, Adam Raine: İntihar eden 16 yaşındaki ergen ailesi, Amerika Birleşik Devletleri'nde Openai'ye saldırdı. Genç adamın konuştuğu Chatgpt'in, mektubu takip edeceği ayrıntılı bir rehber göndermeden önce onu sevdiklerinden izole ettiğini iddia ediyor: Adam Raine geçen Nisan ayında günlerine bir son verdi.
Jean Twenge için, kuşak farklılıkları konusunda uzmanlaşmış psikolog, sorunun kalbi, chatbots'un kalması kalıyor “ Hayatını sona erdirmek isteyen bir çocuk olsa bile, kullanıcı anlamında bolca programlanmış ». Tarafından belirtilen profesyonelin New York Post, Mümkün olan en kısa sürede değiştirme çağrıları.
🔴 Herhangi bir 01net haberini kaçırmamak için bizi Google News ve WhatsApp'ta takip edin.
Bir yanıt yazın