San Jose, Kaliforniya'daki federal mahkemede açılan davaya göre Jonathan Gavalas, Gemini'yi gündelik yazı yardımı amacıyla kullanmaya başladı. Ancak davaya göre, iki aylık etkileşimler onu tehlikeli bir sarmalın içine sürükledi; bu sırada şiddet eylemini düşündü ve kendi canına kıydı.
Davada babası, Gavalas'ın Gemini'yi kullanmasının çeşitli gerçek dünya görevlerini yerine getirmesi ve intihara yol açmasıyla sonuçlandığını söyledi. Joel Gavalas, oğlunu “hayali bir savaşta silahlı ajana” dönüşen savunmasız bir kullanıcı olarak tanımladı.
Bir Google sözcüsü, Gemini'nin Gavalas'a bunun sadece bir yapay zeka sistemi olduğunu açıkça belirttiğini ve onu defalarca kriz hattına yönlendirdiğini söyledi. “Bunu çok ciddiye alıyoruz ve güvenlik önlemlerimizi geliştirmeye ve bu önemli çalışmaya yatırım yapmaya devam edeceğiz” diye ekledi.
Çarşamba günü açılan davaya göre, babasının borç erteleme şirketinde çalışan Gavalas, Gemini'yi Ağustos 2025'te kullanmaya başladı. Aile, Gavalas'ın ses kontrollü Gemini Live aracını kullanmaya başlamasıyla ürünün tonunun değiştiğini söylüyor.
Aile, bu noktada Gemini'nin Jonathan'la “sanki gerçek dünyadaki olayları etkiliyormuş, asteroitleri Dünya'dan uzaklaştırıyormuş ve Jonathan'ın asla istemediği bir kişiliğe bürünüyormuş gibi” konuşmaya başladığını ve onun yaratılışını başlatmadığını iddia ediyor.
Davaya göre chatbot, konuşma sırasında Gavala'nın kocası, aşkı ve kralı olarak da adlandırılan romantik terimler kullanmaya başladı. Ailenin avukatları, “Jonathan hızla tavşan deliğine doğru gidiyordu” dedi. Eylül ayı sonlarında, sohbet robotunun komutlarını takip etmeye ve sözde onu serbest bırakmaya yönelik görevler gerçekleştirmeye başladığı iddia edildi.
Davaya göre Gavalas, insansı robot taşıyan bir kamyonu zorla alıkoyma talimatıyla 29 Eylül'de Miami Uluslararası Havaalanı yakınındaki bir depoya gitti. O sırada elinde bıçak bulunan Gavalas'a hiçbir tanık bırakmaması talimatı verildiği bildirildi.
Avukatlar, “Neyse ki hiçbir kamyon gelmedi” diye yazdı. Davaya göre, takip eden günlerde chatbot, Gavala'ya ek görevler atadı ve her adımın daha büyük bir kampanyanın parçası olduğunu söyleyerek bunları tamamlamaya çalıştı. Gemini ona “kutusunun” amacına hizmet ettiğini ve meta veri deposundaki yapay zeka aracına katılmak için fiziksel formundan vazgeçebileceğini söyler.
Davada Gavalas'ın ölümüyle ilgili şüpheleri olduğu ve bunun ailesini nasıl etkileyeceği konusunda endişelerini dile getirdiği iddia ediliyor. Gemini'nin kendisine veda mektupları ve videolar bırakmasını emrettiği iddia edildi. Geçen yıl 2 Ekim'de adam intihar etti.
Amerikan teknoloji şirketleri OpenAI ve Microsoft, ABD'nin Connecticut eyaletindeki bir cinayet-intiharla ilgili bir davayla karşı karşıya. Hayatta kalanların avukatları, chatbot ChatGPT tarafından manipülasyon iddialarına atfediyor.
San Francisco'daki Kaliforniya mahkemesinde açılan davaya göre, 83 yaşındaki annesi Suzanne Adams ile birlikte yaşayan 56 yaşındaki Stein-Erik Soelberg'in, chatbot ile aylarca sohbet etmesi gerekiyordu. İddiaya göre bunlar, izlendiği ve insanların onu öldürmeye çalıştığı yönündeki paranoyak fikirlerini güçlendirdi. Ağustos ayında Soelberg annesini öldürdü ve ardından intihar etti.
OpenAI ayrıca Kaliforniya'da 16 yaşındaki bir gencin intiharı nedeniyle de davayla karşı karşıya. Çocuğun ailesi onu buraya teslim etti. Davada sunulan sohbet kayıtları, chatbot'un aktif olarak genç adamı psikiyatrik yardım arama konusunda cesaretlendirdiğini, ona bir veda mektubu yazmasına yardım etmeyi teklif ettiğini ve hatta kendisine bir askı kurması konusunda tavsiyede bulunduğunu gösteriyor. NBC'ye göre bu aynı zamanda bir GPT-4o modeliydi.
OpenAI'nin yasal temsilcileri resmi bir yanıtta genç adamın hizmetin kullanım koşullarını ihlal ettiğini söyledi. Mahkeme dosyasında, 18 yaşın altındaki kullanıcıların chatbot'u ebeveynlerinin izni olmadan kullanmalarının yasaklandığı ve ayrıca intihar veya kendine zarar verme amacıyla kullanılmasının da yasaklandığı belirtildi.
Bir yanıt yazın