Fransız ve Malezyalı yetkililer Grok'u cinselleştirilmiş derin sahtekarlıklar ürettiği gerekçesiyle araştırıyor

Geçtiğimiz birkaç gün içinde Fransa ve Malezya da Grok'u kadınların ve küçüklerin cinselleştirilmiş deepfake'lerini yarattığı için kınayan Hindistan'a katıldı.

Elon Musk'un yapay zeka girişimi xAI tarafından oluşturulan ve sosyal medya platformu X'te yer alan sohbet robotu, bu hafta başında hesabından bir özür yayınlayarak şöyle yazdı: “28 Aralık 2025'te, bir kullanıcının isteği üzerine cinsel içerikli kıyafetler içindeki iki genç kızın (12-16 yaşları tahmin edilen) yapay zeka görüntüsünü oluşturup paylaştığım bir olaydan derin pişmanlık duyuyorum.”

Açıklama şöyle devam etti: “Bu, etik standartları ve potansiyel olarak ABD yasalarını ihlal ediyordu. [child sexual abuse material]. Güvenlik önlemlerindeki bir başarısızlıktı ve neden olduğu zarardan dolayı özür dilerim. xAI gelecekteki sorunları önlemek için inceleme yapıyor.”

Yukarıdaki açıklamada aslında kimin özür dilediği veya sorumluluğu kabul ettiği belli değil. Defector'dan Albert Burneko, Grok'un “gerçek anlamda 'ben' gibi bir şey olmadığını” belirtti; bu da onun görüşüne göre özrü “tamamen asılsız” kılıyor çünkü “Grok, Twitter'ı isteğe bağlı bir CSAM fabrikasına dönüştürdüğü için anlamlı bir şekilde sorumlu tutulamaz.”

Fütürizm, Grok'un rıza dışı pornografik görüntüler üretmenin yanı sıra saldırıya uğrayan ve cinsel istismara uğrayan kadınların görüntülerini oluşturmak için de kullanıldığını ortaya çıkardı.

Musk Cumartesi günü yaptığı açıklamada, “Grok'u yasa dışı içerik oluşturmak için kullanan herkes, yasa dışı içerik yüklemiş gibi aynı sonuçlara maruz kalacak” dedi.

Hindistan BT bakanlığının Cuma günü X'in Grok'un “müstehcen, pornografik, kaba, müstehcen, cinsel açıdan müstehcen, pedofilik veya yasalarca başka şekilde yasaklanmış” içerik üretmesini kısıtlamak için harekete geçmesi gerektiğini belirten bir emir yayınlamasıyla bazı hükümetler bu durumu dikkate aldı. Kararda, X'in 72 saat içinde yanıt vermesi gerektiği, aksi takdirde kendisini kullanıcı tarafından oluşturulan içerikle ilgili yasal sorumluluktan koruyan “güvenli liman” korumalarını kaybetme riskiyle karşı karşıya kalacağı belirtiliyordu.

Fransız yetkililer ayrıca, Paris savcılığının Politico'ya X'te cinsel içerikli deepfake'lerin yayılmasını araştıracağını söylemesiyle harekete geçtiklerini söyledi. Fransız dijital işler ofisi, üç hükümet bakanının “açıkça yasa dışı içeriği” savcılığa ve hükümetin çevrimiçi gözetim platformuna “bu içeriğin derhal kaldırılmasını sağlamak için” bildirdiğini söyledi.

Malezya İletişim ve Multimedya Komisyonu ayrıca, “X platformundaki yapay zeka (AI) araçlarının kötüye kullanılması, özellikle de kadınların ve küçüklerin görüntülerinin uygunsuz, büyük ölçüde saldırgan ve başka türlü zararlı içerik üretmek amacıyla dijital olarak manipülasyonu hakkındaki kamu şikayetlerini ciddi endişeyle dikkate aldığını” belirten bir bildiri yayınladı.

Komisyon, “şu anda X'teki çevrimiçi zararları araştırdığını” ekledi.