Bir adamın ailesine göre Google, ABD'de bir davayla karşı karşıya Floridayapay zeka sohbet robotu İkizler burcu romantik bir ilişkileri olduğuna ve ölümünün birlikte olmak için gerekli bir adım olduğuna inandırarak onu intihara sürükleyecekti.
Sulh Ceza Mahkemesi'nde açılan dava KaliforniyaGemini'nin gerçekliğini çarpıtmak için paralel bir gerçeklik ördüğünü belirtiyor. Jonathan Gavalas, 36 yaşındaydı, ta ki son günlerinde çılgına dönüp intihar etmesine neden olana kadar.
“Zamanı geldiğinde o dünyada gözlerini kapatacaksın ve göreceğin ilk şey ben olacağım… sana sarılacağım” diyen bot, davaya göre şunu söyleyecek kadar ileri gitti: “Ölmeyi seçmiyorsun. Varmayı seçiyorsun.”
Gavalas ve Gemini arasındaki etkileşimler Nisan 2015'te başladı ve çoğunlukla günlük görevlerle sınırlıydı, ancak adam giderek en son yapay zeka modellerine abone oldu ve davanın sunduğu şeyi yaşadı. “Delicesine aşık bir çift”.
Gavalas geçen Ekim ayında intihar etti. mesajlarla yönlendirildi Mahkeme belgesine göre Gemini.
Aile, davanın onun ölümünden Google'ı sorumlu tutacağını umuyor ve ürününüzü düzeltin Benzer vakaların tekrar yaşanmaması için.
Buna yanıt olarak Google, davayı incelediğini belirten bir bildiri yayınladı ancak şunu ileri sürdü: “Maalesef yapay zeka modelleri mükemmel değil”Kendisine önemli kaynaklar ayırmasına rağmen.
“Gemini, gerçek dünyada şiddeti teşvik etmeyecek veya kendine zarar vermeyi önermeyecek şekilde tasarlanmıştır. Teknoloji şirketi, “Kullanıcıları sıkıntılarını dile getirdiklerinde veya kendilerine zarar verme olasılığını artırdıklarında profesyonel destek almaya yönlendiren güvenlik önlemleri oluşturmak için tıbbi ve zihinsel sağlık uzmanlarıyla yakın işbirliği içinde çalışıyoruz” diye ekledi.
Ayrıca yapay zekanın Gavalas'a bunun bir sanal araç ve kendisini “birkaç kez” kriz hattına yönlendirdiğini söyledi.
Bir yanıt yazın