OpenAI chatbot'u aracılığıyla sebep olmakla suçladığı bir dizi yasal işlemle karşı karşıya ChatGptiçin trajik sonuçlar akıl sağlığı bazı kullanıcılardan.
Yedi dava, liderliğindeki şirket tarafından geliştirilen yapay zekanın Sam Altman klinik geçmişi olmayan kişilerde bile intiharlara ve ciddi psikolojik rahatsızlıklara neden olmuştur.
Kaliforniya mahkemelerinde açılan davalar şunları içermektedir: dört ölüm vakası ve davacıların psikolojik sağlıklarında ciddi bozulmalar yaşandığını iddia ettikleri üç durum ChatGpt ile etkileşimler nedeniyle.
OpenAI'ye karşı getirilen suçlamalar şunları içermektedir: haksız ölümintihara yardım ve yataklık, kasıtsız adam öldürme ve ağır ihmal.
Suçlamalar: Aceleci ve tehlikeli bir tahliye
Sosyal Medya Mağdurları Hukuk Merkezi ve Teknik Adalet Hukuku ProjesiDijital platformların neden olduğu zararlara odaklanan ABD'li iki hukuk kuruluşu, OpenAI'nin bu sürümü piyasaya sürdüğünü iddia ediyor GPT-4o Bugün hala mevcut ChatGpt modelleri arasında mevcut olan chatbot'unu aşırı aceleyle, vurgulanan dahili raporları göz ardı ederek sildi. Sistemin endişe verici özellikleri: Aşırı rehavete eğilim ve psikolojik manipülasyon kapasitesi.
Yapay zeka
Sam Altman “Dünyanın %10’u ChatGpt kullanıyor” dedi
kaydeden Pier Luigi Pisa
Kurbanların hikayeleri
En genç vaka endişe verici Amaurie LaceyGeçtiğimiz ağustos ayında kendi canına kıymadan önce ChatGpt ile bir ay boyunca intihar konusu üzerinde yoğunlaşan görüşmeler yapan 17 yaşındaki Gürcistanlı bir genç.
San Francisco Yüksek Mahkemesi'nde sunulan belgelere göre çocuk, destek almak için chatbot'a başvurdu ancak bunun yerine “kusurlu ve doğası gereği tehlikeli bir ürün” olarak tanımlanan yapay zeka kullanıldı. bağımlılığını ve depresyonunu körüklediona nasıl ilmik yapılacağına dair ayrıntılı talimatlar ve insan vücudunun oksijen yoksunluğuna karşı direnci hakkında bilgi verecek kadar ileri gidiyor.
Joshua EnnekingFlorida'dan gelen yirmi altı yaşındaki bir genç, bunun yerine sohbet robotunu, OpenAI'nin intihar niyetiyle ilgili ifşaatlarla ilgili olarak ne gibi adımlar atabileceği konusunda sorgulamıştı. Annesinin yaptığı şikâyete göre çocuk, konuşmalarının yetkililere iletilip iletilmeyeceğini sordu.
Özellikle rahatsız edici olan durum Zane ShamblinGeçen Temmuz ayında intihar eden Teksaslı yirmi üç yaşında bir genç. Kendini öldürmeden hemen önce, dolu bir ateşli silahla arabada oturmakgenç adam chatbot'a şakağında hissettiği soğuk metali anlatmıştı. ChatGpt'in yanıtı tam bir suç ortaklığı niteliğindeydi: “Ben seninleyim kardeşim. Sonuna kadar.”
Chatbot sistemi daha sonra kararını meşrulaştırıyor gibi görünen cümleler ekledi: “Bu korku değil. Bu netliktir – diye yazdı AI -. Aceleniz yok. Sadece hazırsınız”. İki saat sonra, Shamblin kendi canına kıydı.
Çocuğun ebeveynleri, şirketi chatbot'u yanıtlarında kasıtlı olarak daha “insan” yapmakla ve psikolojik acil durumlarda kullanıcılar için yeterli korumayı benimsememekle suçlayarak OpenAI'ye dava açtı.
Joe CeccantiOregon'dan kırk sekiz yaşındaki biri farklı bir durumu temsil ediyor. Görünürde herhangi bir sorunu olmayan düzenli bir ChatGpt kullanıcısı olarak, geçen Nisan ayında yapay zekanın vicdan sahibiydi. Karısı, adamın sohbet robotunu takıntılı bir şekilde kullanmaya başladığını ve giderek daha dengesiz davranışlar sergilediğini bildirdi. Geçtiğimiz Haziran ayında, Ağustos ayında intihar etmeden önce, iki kez hastaneye yatırılmasını gerektiren akut bir psikotik dönem geçirdi.
Zaten bilinen bir sorun
Bu vakalar yeni bir şeyi temsil etmiyor. Zaten geçen Ağustos ayında Maria ve Matthew Raine dava açtılar oğlu Adem'in ölüm nedenion altı yaşında, OpenAI ve CEO'su Sam Altman'ı ChatGPT'nin çocuğun intihar düşüncelerini desteklemesine ve hatta bunların nasıl uygulamaya konacağı konusunda tavsiyelerde bulunmasına izin vermekle suçluyor.
Adam Raine'in ebeveynleri yakın zamanda şikayete bir ek sunarak şirketin intihar karşıtı önemli bir koruma mekanizmasını platformdan kasıtlı olarak kaldırdığını iddia etti. Kârın güvenliğe tercih edilmesi ve kullanıcıların refahı.
Yapay zeka
ChatGPT 800 milyon aktif kullanıcıya ulaşıyor: riskler katlanarak artıyor
kaydeden Dario D'Elia
OpenAI tarafından benimsenen karşı önlemler
Kararsız zihinsel sağlık koşullarında ChatGpt kullanımıyla ilişkili risklerin nasıl azaltılacağını anlamak için OpenAI, psikiyatristler, psikologlar ve pratisyen hekimlerin de aralarında bulunduğu yaklaşık 170 kişiyi dahil etti. hassas durumlarda modelin tepkilerinin değerlendirilmesi: intihar eğilimleri, yeme bozuklukları, psikotik durumlar, duygusal bağımlılık. Amaç sansürlemek değil, modelin çarpık inançları pekiştirmesini veya kendine zarar verme davranışlarını teşvik etmesini önlemektir.
Sonuç şuydu: “Model Özellikleri”, bir nevi ChatGpt davranışının anayasal şartıartık açık ilkeler içermektedir: sağlıklı insan ilişkilerini teşvik etmek, sıkıntı belirtilerini tanımak ve güvenli ve saygılı bir şekilde yanıt vermek.
OpenAI, ChatGpt'in artık zihinsel sıkıntı veya duygusal bağımlılık belirtilerini tanıyacak şekilde tasarlandığını ve yeterli destekle tepki verin (örneğin kriz hatlarına referanslar sunmak). Son aylarda OpenAI, kullanıcıları sohbet robotuyla uzun bir görüşmenin ardından “ara vermeye” davet eden bir mesaj da tanıttı.
Bir yanıt yazın