ChatGPT bir “intihar koçu” olmakla suçlanıyor: Yedi yeni şikayet, OpenAI'nin Amerika Birleşik Devletleri'ndeki sohbet aracısını hedef alıyor.
Dört ChatGPT kullanıcısının intiharının ardından, Amerika Birleşik Devletleri'nde konuşma aracısını geliştiren şirket olan OpenAI'ye karşı dört kasıtsız adam öldürme şikayeti yapıldı. Diğer üç şikayet, AI chatbot'u üç Amerikalının zihinsel bozukluklarına neden olmakla veya hatta daha da kötüleştirmekle suçluyor. Yedi prosedür içerisinde ChatGPT şu şekilde tanımlanmaktadır: arızalı ” Ve ” doğası gereği tehlikeli “, rapor CNN ve Wall Street Dergisi6 Kasım'da.
Örneğin kullanıcıların, harekete geçmeden önce intihar planlarını chatbot ile uzun uzadıya tartıştıkları bildirildi. 23 yaşındaki genç Zane Shamblin'in ailesi için ChatGPT, onun intiharını ne eksik ne fazla teşvik ederdi. Şikayetler, 2021 yılında kurulan Sosyal Medya Mağdurları Hukuk Merkezi adlı kuruluş tarafından Kaliforniya mahkemesine sunuldu. İkincisi kendini istiyor olarak sunuyor ” teknoloji şirketlerini savunmasız kullanıcılara verilen zararlardan yasal olarak sorumlu tutmak “.
Ayrıca okuyun: Bir milyondan fazla ChatGPT kullanıcısı intihar düşüncelerinden bahsediyor
OpenAI, “akıl sağlığına zarar verecek şekilde pazar hakimiyetini ayrıcalıklı kılmakla” suçlanıyor
Dosyalanan şikayetlerin amacı aynı: Hepsi OpenAI'yi ChatGPT'yi aceleyle ve yeterli güvenlik testi yapılmadan başlatmakla suçluyor. “ OpenAI, ürünün (…) psikolojik olarak manipülatif olduğuna dair dahili uyarılara rağmen GPT-4o'yu bilerek erken piyasaya sürdü », Sosyal Medya Mağdurları Hukuk Merkezi'nin basın açıklamasında yazıyor.
Organizasyona göre OpenAI “ Google'ın Gemini'sini pazarda yenmek için kasıtlı olarak birkaç ay süren güvenlik testini tek bir haftaya yoğunlaştırdı (…). (Şirketin) tehlikeli konuşmaları tespit etme ve kesme, kullanıcıları kriz destek kaynaklarına yönlendirme ve mesajları insan incelemesi için işaretleme teknik yeteneklerine sahip olmasına rağmen, OpenAI bu güvenlik önlemlerini etkinleştirmemeyi seçti “. Sonuç, ” tasarım tercihleri zihinsel bozuklukları istismar etti, insanların izolasyonunu kötüleştirdi ve cehenneme inişlerini hızlandırdı » derneğe devam ediyor.
“ Şirket, akıl sağlığı yerine pazar hakimiyetini, insan güvenliği yerine katılım ölçütlerini ve etik tasarım yerine duygusal manipülasyonu önceliklendirdi. Bu seçimlerin maliyeti insan hayatıyla ölçülür Basın açıklamasında alıntılanan Sosyal Medya Mağdurları Hukuk Merkezi'nin kurucu avukatı Matthew P. Bergman, “diye yakındı.
Ayrıca okuyun: Amerika Birleşik Devletleri'nde ChatGPT bir cinayete karışmakla suçlanıyor
OpenAI, ChatGPT'yi ” zihinsel sıkıntı belirtilerini tespit edin ve insanları somut yardıma yönlendirin”
Amerikalı meslektaşlarımız tarafından sorgulanan OpenAI, şirketin eğitim aldığını açıkladı: ChatGPT, zihinsel veya duygusal sıkıntı belirtilerini tanımak ve bunlara yanıt vermek, konuşmaları etkisiz hale getirmek ve insanları somut yardıma yönlendirmek için kullanılır. Akıl sağlığı uzmanlarıyla yakın işbirliği içinde çalışarak hassas zamanlarda ChatGPT'nin yanıtlarını güçlendirmeye devam ediyoruz “.
Geçtiğimiz Ağustos ayında Kaliforniyalı bir gencin ailesi, ChatGPT'yi sırdaş olarak kullandıktan sonra OpenAI'yi izolasyonuna ve intiharına katkıda bulunmakla suçlayarak dava açmıştı. San Francisco merkezli şirket, kullanıcılar chatbotla uzun görüşmeler yaptığında güvenlik önlemlerinin “bozulabileceğini” kabul etmişti. Şirket, gençler ve sıkıntılı kullanıcılar için güvenlik önlemleri almıştı. Ebeveyn kontrolleri uygulamaya konuldu, böylece çocukları intihar veya kendine zarar verme konusunu tartıştığında ebeveynler uyarılabilecek.
Siz veya sevdiklerinizden biri intihar etmeyi düşünüyorsanız veya zor bir dönemden geçiyorsanız ulusal intiharı önleme numarası olan 3114'ü 7/24 arayabilirsiniz: çağrı ücretsiz ve gizlidir. Yakın bir risk durumunda SAMU'yu (15) veya 112'yi (Avrupa numarası) arayın.
👉🏻 Teknoloji haberlerini gerçek zamanlı olarak takip edin: 01net'i Google Haberler'deki kaynaklarınıza ekleyin, WhatsApp kanalımıza abone olun veya bizi TikTok'ta video olarak takip edin.
Bir yanıt yazın