Grok'un cinselleştirilmiş deepfake'leri: Etkilenen küçükler ABD'de dava açtı

ABD'de üç kişi, Elon Musk'un yapay zeka şirketi xAI'ye karşı dava açtı çünkü şirketin yapay zeka sohbet robotu Grok'un, reşit olmadıkları sırada kendilerinin cinselleştirilmiş deepfake'lerini yarattığı söyleniyor. Washington Post bunu kamuoyuna duyurdu ve üç şikayetçiden ikisinin hâlâ reşit olmadığını, üçüncü kişinin ise artık yetişkin olduğunu açıkladı. Artık üçü de, internette çıplak fotoğraflarının paylaşıldığı iddialarının sürekli olarak kendilerine bildirildiği bir hayatla karşı karşıya kalacaklardı. Ve bunun tek nedeni xAI ve Elon Musk'un “çocuklar da dahil olmak üzere gerçek insanların cinsel sömürüsünden kâr elde etme” fırsatını görmesiydi, gazete toplu dava davasından alıntılar yapıyordu (5:26-cv-02246). Üç kişi Ocak ayında xAI'ye karşı bireysel davalar açmıştı (5:26-cv-00772-PCP).

Etkilenenlere hayatlarının geri kalanında bu hatırlatılacak

Özete göre olaylardan biri geçen yıl, Grok'un cinselleştirilmiş deepfake'lerinin küresel bir sansasyon yaratmasından haftalar önce meydana geldi. Bu nedenle davacıya, Discord'da çıplak fotoğraflarının dağıtıldığı bilgisi verildi. Orada yalnızca kendisinin değil, aynı zamanda okuldan tanıdığı en az 18 kızın da yapay zeka tarafından manipüle edilmiş kayıtlarını buldu. O zamandan beri tutuklanan kişinin, diğer reşit olmayanların cinselleştirilmiş görüntülerini elde etmek için Deepfake'leri Telegram'da takas öğeleri olarak kullandığı söyleniyor.

Diğer davacılar Şubat ayında şüphelinin kendilerinin iddia edilen çıplak fotoğraflarını da oluşturduğunu ve bunu yapmak için Grok'u kullandığını öğrendi. Onları temsil eden hukuk firması, üçünün de çocuk istismarı veri tabanına dahil edildiğini ve bu nedenle, deepfake'lerinin bir ceza davasında ortaya çıkması halinde hayatları boyunca bilgilendirileceklerini açıklıyor. Açıklamada şöyle devam ediliyor: “Bunlar, milyarlarca dolarlık bir şirketin yapay zeka aracıyla okul ve aile fotoğrafları çocuklara yönelik cinsel istismar materyaline dönüştürülen ve daha sonra sübyancılara ticareti yapılan çocuklardır.” xAI olmasaydı “bu zararlı içerik asla var olamazdı.” Şirket, etkilenen her çocuktan sorumlu tutulacak.

Grok'un cinselleştirilmiş deepfake'leri bu yılın başlarında öfkeye yol açmıştı. O zamanlar kullanıcıların X'teki AI hesabını reşit olmayanların fotoğraflarını dijital olarak “soymak” için kullandıkları zaten açıktı. Bu cinselleştirilmiş kayıtların oluşturulması, etkilenenlerin rızası olmadan mümkündü; sonuçlar kısa mesaj servisinde herkese açık olarak görüntülendi. Daha sonra bunların yalnızca “münferit vakalar” olduğu, ancak milyonlarca görüntünün sayıldığı iddiasını yaydı. Pek çok ülke ve AB olayı kitlesel olarak eleştirdi ve karşı önlemler sözü verdi. xAI sonunda bu özelliği kısıtladı. Ancak bu tür içeriğin üretilmesi güvenilir bir şekilde önlenemez.

(mho)