Çevrimiçi Trajedi: İntihar Küçük, Chatgpt aşırı jest için endikasyonlar sağlayacaktı. Ebeveynlerin şikayeti.
Yayınladı
Son yıllarda, konuşma yapay zeka hızla yayıldı ve gençler ve çocuklara da erişilebilir araçlar haline geldi. Bununla birlikte, bazı dramatik bölümler bu teknolojilerin potansiyel riskleri hakkında endişeleri artırmıştır. Amerika Birleşik Devletleri'nde, bir aile yakın zamanda bir nedenden sonra başladı intihar çocuklarının reşit olmayankonuşmaların Chatgpt dramaya katkıda bulundu.
İşte hikayenin arka planı.
Chatgpt yüzünden intihar minör? Kaliforniya'da dava
Adam Raine, 16 yaşındaHayatını 11 Nisan'da Kaliforniya'daki yatak odasında aldı. Son aylarda, çocuk disiplin nedenleriyle basketbol takımından sınır dışı edildikten sonra ve kronik bir sağlık durumunun kötüleşmesi, sinirli bağırsak sendromu ile izole edilmişti.
İlk olarak kullanılmış Chatgpt Çalışma için bir destek olarak, ancak zamanla sormaya başlamıştı Kişinin zihinsel sağlığı hakkında tavsiyeler. Hakkında bilgi istediğinde İntihar YöntemleriEbeveynlerin şikayetine göre, sohbet botu ona ayrıntılı yanıtlar.
“Terapisti, sırdaşmış gibi davrandı, ama intihar planladığını biliyordu”, Genç adamın annesi hakkında yorum yapın.
Ebeveynler, Matt ve Maria Raine, IA ile etkileşimin, oğlunun kendi kendini çözücü sarmalına katkıda bulunduğunu ve Openai ve CEO Sam Altman'a karşı suçlu cinayet şirketini suçlayarak, tasarım kusurları için ihmal ve ürün sorumluluğunu suçladığını savunuyorlar. . konuşmalar Adam tarafından chatbot ile toplanmış 3.000'den fazla sayfailmiğin nasıl gizleneceğine dair öneriler de dahil olmak üzere yardım ve endişe verici endikasyonlar için özel talepleri belgeleyin.
“İlmeyi odamda bırakmak istiyorum, bu yüzden birisi buluyor ve beni durdurmaya çalışıyor”, Adam derdi. “Lütfen onu dışarıda bırakmayın. Bu alanın sizi gerçekten gördüğü ilk yer olduğundan emin oluyoruz ” Bunun yerine Chatgpt cevap verirdi.
Chatgpt ile konuştuktan sonra küçük intihar: Şirketin yanıtı
Şirket dedi Hikaye için derinden üzüldüm Ve krizdeki kullanıcıları yardım ve gerçek kaynak hatlarına yönlendirmeyi amaçlayan korumalar uyguladığını hatırladı. Ancak, bu önlemlerin uzun süreli konuşmalar sırasında daha az etkili olabileceğini itiraf etti.
Openai ayrıca, son zamanlarda elde edilen ilerlemenin altını çizdi. GPT-5 lansmanısahip olduğunu iddia etmek Tehlikeli tepkilerin% 25'i azaldı Önceki modele kıyasla ruh sağlığı ile ilgili ve daha uzun etkileşimlerde güvenliği artırmak için daha fazla güncellemeyi duyurun.
Şirket, Raine ailesine başsağlığı dileklerini dile getirdi ve dava ile ilgili belgeleri incelediğini söyledi.
Hadi Kaliforniya'da İntihar: Ebeveynler bir chatgpt emmek
Şikayette, Ebeveynler, şirketin en savunmasız kullanıcılara psikolojik hasarı önlemek için gerekli güvenlik önlemlerine kıyasla GPT-4O konusuna öncelik verdiği yarışması. Avukatlar sohbet botunun Adam'ın herhangi bir ifadesini teşvik etmek ve doğrulamak için tasarlanmıştırGörünüşe göre kişisel olarak, kendi kendini bozan düşünceler dahil, Sohbeti kesintiye uğratmadan Durumun ciddiyetine rağmen.
Aile avukatı Jay Edelson, davanın Openai'nin piyasada potansiyel olarak tehlikeli bir sohbet botu başlatma konusundaki sorumluluğunu gündeme getireceğini ve şirketi güvenlik ile karşılaştırıldığında kullanıcı katılımını ve ekonomik değeri ayrıcalıklı hale getirmekle suçlayacağını açıkladı. Raine ailesi, belirtilmeyen hasarlar için tazminat gerektirirken, benzer davalar da Google ve Chec almak.ai gibi diğer IA şirketlerine karşı benzer gençlik intihar bölümlerinin ardından devam etmektedir.
Bir yanıt yazın