Yapay Zeka Chatbots ile etkileşimlerden sonra kendilerini öldüren gençlerin ebeveynleri, Salı günü teknolojinin tehlikeleri hakkında Kongre'ye ifade verdi.
California'dan 16 yaşındaki Adam Raine'in babası Matthew Raine ve Florida'dan 14 yaşındaki Sewell Setzer III'ün annesi Megan Garcia, AI chatbots tarafından ortaya çıkan zararlar hakkında bir Senato duruşmasında konuştu.
Raine'nin ailesi, geçen ay Openai ve CEO'su Sam Altman'a dava açtı ve Chatgpt'in Nisan ayında kendi hayatını almayı planlamak için çocuğa koçluk yaptığını iddia etti. Chatgpt, Raine'ye 1,275 kez intihardan bahsetti, dava iddia ediyorve intiharla nasıl öleceğine dair gençlere özel yöntemler sağlamaya devam etti. Dava, 16 yaşındaki çocuğu profesyonel yardım almaya veya güvenilir sevdikleriyle konuşmaya yönlendirmek yerine, Raine'in duygularını doğrulamaya ve teşvik etmeye devam ettiğini iddia ediyor.
Garcia, geçen yıl yanlış ölüm için başka bir AI şirketi olan karakter Technologies'e dava açtı ve intiharından önce Sewell'in chatbot ile son derece cinselleştirilmiş konuşmalar yaparken gerçek hayatından giderek daha fazla izole edildiğini savundu.
Annesi geçen yıl Haberler'e oğlunun geri çekildi Sosyal olarak ve bir AI chatbot ile konuşmaya başladıktan sonra spor yapmak istemeyi bıraktı. Şirket, gencin ölümünden sonra, kullanıcıların olmasını gerektiren değişiklikler yaptığını söyledi. 13 veya daha büyük Bir hesap oluşturmak ve 2025'in ilk çeyreğinde ebeveyn kontrolleri başlatacak. Bu kontroller Mart ayında piyasaya sürüldü.
AP aracılığıyla Megan Garcia'nın izniyle
Senato duruşmasından saatler önce Openai, ChatGPT kullanıcılarının 18 yaşın altında olup olmadığını tespit etme çabaları ve bir gencin ChatGPT'yi kullanamadığı “karartma saatleri” ayarlamasını sağlayan kontroller de dahil olmak üzere gençler için yeni koruma sağlama sözü verdi. Şirket, 18 yaş altı bir kullanıcı intihar düşüncesine sahipse ve onlara ulaşamazsa, yakın zararlar durumunda yetkililerle iletişime geçeceğini söyledi.
Openai CEO'su Sam Altman, önerilen değişiklikleri özetleyen bir açıklamada, “Küçüklerin önemli bir korumaya ihtiyacı olduğuna inanıyoruz.” Dedi.
Çocuk savunuculuk grupları duyuruyu yeterli değildi.
“Bu oldukça yaygın bir taktiktir – Meta'nın her zaman kullandığı bir taktiktir – bu, şirkete zarar vermeyi vaat eden bir duruşmanın arifesinde büyük, sıçrayan bir duyuru yapmaktır.” Dedi.
Golin, “Yapmaları gereken şey, onlar için güvenli olduğunu kanıtlayana kadar chatgpt'i küçüklere hedeflemiyor.” Dedi. Diyerek şöyle devam etti: “Şirketlerin, muazzam kaynakları olduğu için, gelişimlerinin sonuçları çok geniş ve geniş kapsamlı olabileceği zaman çocuklar üzerinde kontrolsüz deneyler yapmalarına izin vermemeliyiz.”
AI chatbots çevresinde eyalette güvenceler oluşturmak için mevzuat getiren California Eyalet Senatörü Steve Padilla, Haberler'e yaptığı açıklamada, “Bu gelişen teknolojinin en kötü dürtülerinde bile tam olarak anlamadığı sağduyu sağlayan sağduyulu önlemler oluşturmamız gerektiğini” söyledi.
Yetkili, teknoloji şirketlerinin inovasyonda dünyaya liderlik edebileceğini, ancak “çocuklarımızın sağlığı” pahasına gelmemesi gerektiğini de sözlerine ekledi.
Federal Ticaret Komisyonu geçen hafta, birkaç şirkete AI Chatbots'larını yoldaş olarak kullanan çocuklara ve gençlere potansiyel zararlar hakkında bir soruşturma başlattığını söyledi.
Ajans, karakter, Meta ve Openai'nin yanı sıra Google, Snap ve Xai'ye mektuplar gönderdi.
Nasıl Yardım Aranır
Siz veya tanıdığınız biri duygusal sıkıntı veya intihar krizinde ise, 988'i arayarak veya mesaj atarak 988 İntihar ve Kriz Yaşam Hattına ulaşabilirsiniz. 988 İntihar ve Kriz Yaşam Hattı ile de sohbet edebilirsiniz. Ruh sağlığı kaynakları ve desteği hakkında daha fazla bilgi için, Ulusal Akıl Hastalığı İttifakı (NAMI) yardım hattına Pazartesi-Cuma günleri saat 10: 00-10: 00 ET, 1-800-950-nami (6264) veya [email protected] adresine e-posta ile ulaşılabilir.
Cara Tabachnick bu rapora katkıda bulundu.
Bir yanıt yazın