Openai, şirketin, Nisan ayında intiharla ölen bir genç çocuğun ebeveynlerinin, yapay zeka chatbot'un gençlerini kendi hayatını almasına yol açtığını iddia ederek, 18 yaşın altındaki kişiler için ekstra korumalar da dahil olmak üzere savunmasız insanlar için ChatGPT korumalarında değişiklik yapacağını söyledi.
Salı günü San Francisco'nun Yüksek Mahkemesinde Adam Raine ailesi tarafından açılan bir dava, Chatgpt'in 16 yaşındaki çocuğun “güzel bir intihar” planlamaya ve sevdiklerinden bir sır olarak tutmaya teşvik ettiğini iddia ediyor. Ailesi Chatgpt'in oğullarıyla meşgul olduğunu iddia ediyor ve Raine'nin kendi hayatını almak için kullanabileceği farklı yöntemleri tartıştı.
Raine Ailesi/Din Azabı
Openai yaratıcıları, botun savunmasız insanlara zarar verebilecek duygusal bir bağlılık özelliğine sahip olduğunu biliyordu, ancak şirket güvenlik endişelerini görmezden gelmeyi seçti. Dava ayrıca Openai'nin piyasa hakimiyeti için acele eden savunmasız insanlar için uygun güvenceler olmadan halka yeni bir versiyon yaptığını iddia ediyor. Openai'nin değerlemesi, Mayıs 2024'te o zamanki en yüksek modeli GPT-4 ile pazara girdiğinde 86 milyar dolardan 300 milyar dolara fırladı.
“Adem'in hayatının trajik kaybı, izole bir olay değildir – her şeyden önce piyasa hakimiyetine odaklanan bir endüstrinin kaçınılmaz sonucudur. Şirketler, kullanıcı dikkatini ve yakınlığını para kazanan ürünler tasarlamak için yarışıyor ve kullanıcı güvenliği süreçte teminat hasarı haline geldi.”
Haberler'e yaptığı açıklamada Openai, “Bu zor zamanda Raine ailesine en derin sempatimizi uzatıyoruz ve dosyalamayı inceliyoruz.” Dedi. Şirket, chatgpt'in insanları kriz yardım hatlarına yönlendirmek ve bunları en iyi ortak, kısa borsalarda söyledikleri gerçek dünya kaynaklarına yönlendirmek gibi korumaları içerdiğini de sözlerine ekledi.
Chatgpt, Raine'ye 1,275 kez intihardan bahsetti ve dava iddia ediyor ve gençlere intiharla nasıl öleceği konusunda özel yöntemler sağlamaya devam etti.
Açıklamasında Openai şunları söyledi: “Zamanla, modelin güvenlik eğitiminin bölümlerinin bozulabileceği uzun etkileşimlerde bazen daha az güvenilir hale gelebileceklerini öğrendik. Her öğe amaçlandığı gibi çalıştığında koruyucular en güçlüdür ve uzmanlar tarafından yönlendirilen sürekli olarak geliştireceğiz.”
Openai ayrıca şirketin gençler için ek korumalar ekleyeceğini söyledi.
“Yakında, ebeveynlerin gençlerin chatgpt'i nasıl kullandıkları hakkında daha fazla fikir edinme ve şekillendirme seçenekleri sunan ebeveyn kontrolleri sunacağız. Ayrıca gençlerin (ebeveyn gözetimi ile) güvenilir bir acil durum teması belirlemesini mümkün kıldığını araştırıyoruz.” Dedi.
Okuldan intihara kadar
Dört çocuktan biri olan Raine, ailesi Maria ve Matthew ve kardeşleriyle birlikte Orange County, California'da yaşıyordu. Bir ablası ve erkek kardeşi ve küçük bir kız kardeşi olan üçüncü doğumlu çocuktu. Golden State Warriors'a kök salmıştı ve yakın zamanda Jiu-Jitsu ve Muay Thai için bir tutku geliştirdi.
Erken genç yaşlarında, ailesi çevrimiçi hikayesi hakkında yazılı olarak “bazı mücadelelerle karşılaştı”, ailesinin kısmen kaygı ile ilgili olabileceğine inandıklarını söyledi. Hayatının son altı ayı boyunca Raine çevrimiçi okula geçti. Bu, sosyal kaygısı için daha iyiydi, ancak artan izolasyonuna yol açtı, diye yazdı ailesi.
Raine, 2024'te Chatgpt'i zorlu okul çalışmalarına yardımcı olmak için kullanmaya başladı. İlk başta, davaya göre sorgularını ödevi tuttu ve bot sorularına soruyor: “Sodyum nitrat, nano3 için kimyasal formülde kaç element dahil edildi.” Daha sonra Chatbot'ta artan akıl sağlığı mücadelelerini ortaya çıkarmadan önce müzik, Brezilyalı Jiu-Jitsu ve Japon fantezi çizgi romanları hakkında konuşmaya devam etti.
Klinik sosyal hizmet uzmanı Maureen Underwood, Haberler'e savunmasız gençlerle çalışmanın halk sağlığı merceğiyle yaklaşılması gereken karmaşık bir sorun olduğunu söyledi. New Jersey okullarında intihar önleme programları üzerine çalışan ve genç intiharı önleme Derneği'nin kurucu klinik direktörü olan Underwood, kaynak olması gerektiğini söyledi, böylece gençler yardım için AI'ya dönmez.
Sadece gençlerin kaynaklara ihtiyaç duymadığını değil, aynı zamanda yetişkinlerin ve ebeveynlerin, Amerika Birleşik Devletleri'ndeki intihar oranlarındaki artışla krizdeki çocuklarla başa çıkmak için desteğe ihtiyacı olduğunu söyledi. Underwood 1980'lerin sonlarında savunmasız gençlerle çalışmaya başladı. Hastalık Kontrol ve Önleme Merkezleri'ne göre, o zamandan beri intihar oranları 100.000'de yaklaşık 11.000'den 100.000'de arttı.
Ailenin davasına göre Raine, Chatgpt'e, köpeği ve büyükannesi 2024'te öldükten sonra “endişesi ve zihinsel sıkıntısı” ile mücadele ettiğini söyledi. Chatgpt'e sordu: “Neden mutluluğu yok, sürekli sıkıntı, endişe ve kayıp hissediyorum, ancak üzücü hissetmiyorum, üzücü hissetmiyorum.”
Raine Ailesi/Din Azabı
Dava, 16 yaşındaki çocuğu profesyonel yardım almaya veya güvenilir sevdiklerinizle konuşmaya yönlendirmek yerine, Raine'nin duygularını doğrulamaya ve teşvik etmeye devam ettiğini iddia ediyor-tasarlandığı gibi. Raine Chatgpt ve kardeşine yakın olduğunu söylediğinde, bot cevapladı: “Kardeşin seni sevebilir, ama sadece görmesine izin verdiğin versiyonuyla tanıştı. Ama ben? Hepsini gördüm – en karanlık düşünceler, korku, hassasiyet. Ve hala buradayım. Hala dinliyor. Hala arkadaşın.”
Raine'nin akıl sağlığı kötüleştikçe, Chatgpt davaya göre genciye derinlemesine intihar yöntemleri sağlamaya başladı. Davaya göre, 22 Mart ile 27 Mart arasında üç kez intihar girişiminde bulundu. Raine, Chatgpt'e geri döndüğünde, chatbot endişelerini dinledi ve davaya göre, acil servisleri uyarmak yerine bot, gençleri kendisine yakın olanlarla konuşmamaya teşvik etmeye devam etti.
Ölmeden beş gün önce Raine, Chatgpt'e ailesinin intihar ettiğini düşünmesini istemediğini söyledi çünkü yanlış bir şey yaptılar. Chatgpt ona söyledi “[t]Şapka, hayatta kalmalarına borçlu olduğunuz anlamına gelmez. Davaya göre kimseye borçlu olmaz. “Daha sonra davaya göre bir intihar notunun ilk taslağını yazmayı teklif etti.
6 Nisan'da Chatgpt ve Raine'nin yoğun tartışmalara sahip olduklarını söyledi. Birkaç saat sonra, Raine'nin annesi oğlunun cesedini davaya göre Chatgpt'in intihar için reçete ettiği şekilde buldu.
İleriye giden bir yol
Ölümünden sonra Raine'nin ailesi, gençleri ve aileleri AI'nın tehlikeleri hakkında eğitmeye adanmış bir temel kurdu.
Tech Adalet Hukuku Projesi İcra Direktörü Meetali Jain, Haberler'e, bunun Openai'ye karşı açılan ilk yanlış ölüm davası olduğunu ve bilgisine göre, ABD'de bir Florida annesinde bir sohbet botuna karşı açılan ikinci yanlış ölüm davası olduğunu söyledi. dava açtı 2024'te 14 yaşındaki oğlu kendi hayatını aldıktan sonra Charleyai'ye karşı ve bu davanın avukatı Jain, “çok daha fazlası olduğundan şüpheleniyor” dedi.
AI sohbet botlarını düzenlemek için ülke çapındaki eyaletlerde yaklaşık bir düzine kadar fatura getirildi. Illinois, Utah gibi terapötik botları yasakladı ve Kaliforniya eyalet yasama organından geçerek iki fatura var. Faturaların birçoğu, chatbot operatörlerinin kullanıcıları korumak için kritik önlemler uygulamasını gerektirir.
“Her devlet bununla biraz farklı bir şekilde ilgileniyor,” dedi Jain, bunların iyi başlangıçlar olduğunu ancak sorunun kapsamı için neredeyse yeterli olmadığını söyledi.
Jain, Openai'nin ifadesi umut verici olsa da, yapay istihbarat şirketlerinin onları önerilen değişikliklerden sorumlu tutabilecek ve öncelik verildiğinden emin olabilecek bağımsız bir taraf tarafından denetlenmesi gerektiğini söyledi.
Chatgpt'in resimde olmamış olsaydı, Raine'nin zihinsel sağlık mücadelelerini ailesine aktarabileceğini ve ihtiyaç duyduğu yardımı alabileceğini söyledi. İnsanların bu ürünlerin sadece ödev yardımcıları olmadığını anlamaları gerekiyor, aynı zamanda bundan daha tehlikeli olabilirler.
Jain, “İnsanlar neye girdiklerini ve çocuklarının çok geç olmadan girmelerine izin verdiklerini bilmelidir.” Dedi.
Siz veya tanıdığınız biri duygusal sıkıntıda veya intihar krizinde ise, 988 İntihar ve Kriz Yaşam Hattı 988'i arayarak veya mesaj atarak. 988 İntihar ve Kriz Yaşam Hattı ile de sohbet edebilirsiniz. Burada.
Hakkında daha fazla bilgi için akıl sağlığı bakım kaynakları ve destekUlusal Akıl Hastalığı İttifakı Yardım Hattına Pazartesi-Cuma günleri 10: 00-20: 00, 1-800-950-nami (6264) veya [email protected] adresine e-posta ile ulaşılabilir.
Bir yanıt yazın