Elon Musk'un Grok'u Hollanda mahkemesi tarafından yapay zeka çıplakları oluşturmayı durdurma emri verdi

Elon Musk'un xAI ve sohbet robotu Grok'un, yetişkinlerin ve çocukların rızası olmadan yapay zeka tarafından oluşturulan görüntülerini oluşturması Hollanda mahkemesi tarafından yasaklandı ve bu da şirket üzerindeki yasal baskıyı artırdı.

Amsterdam Bölge Mahkemesi perşembe günü, mahkeme beyanının Google çevirisine göre xAI'nin “kişilerin açık izin verilmeden kısmen veya tamamen çırılçıplak soyulduğu” cinsel görüntüler üretmesini ve dağıtmasını yasaklayan bir yasal emir çıkardı..

Avrupa'da Grok'a karşı türünün ilk örneği olan karar, çocuklara yönelik cinsel istismar materyallerini de kapsıyor ve eskiden Twitter olarak bilinen X platformunun Grok'u bölgede bir işlev olarak sunmasını engelliyor. xAI, karara uymadığı her gün için 100.000 Euro (115.000 $) cezayla karşı karşıya kalacak ve tedbir başına en fazla 10 milyon Euro para cezası verilecek.

Dava, özellikle çocuklara ve gençlere yönelik çevrimiçi cinsel istismarla mücadele eden, kar amacı gütmeyen Hollandalı grup Offlimits tarafından açıldı. xAI'ye ayrıca Offlimits'e 2,2 milyon euro tutarındaki yasal masrafları 14 gün içinde ödemesi emredildi.

Offlimits'in genel müdürü Robbert Hoving yaptığı açıklamada, “Yargıç dün net bir çizgi çizdi: teknoloji, çevrimiçi insan haklarını ihlal edecek bir lisans değildir.” dedi. “Dün Avrupa'da Nudify araçlarının yasaklanması için bir oylama yapılmış olması da harika. Bu çifte bir kutlama çünkü bu önemli. Her Avrupa ülkesinde aynı çevrimiçi haklardan yararlanmalısınız.”

CNBC, karara ilişkin yorum almak için xAI'ye ulaştı ancak henüz bir yanıt alamadı.

Dijital Nefretle Mücadele Merkezi'ne (CCDH) göre, Grok tarafından 29 Aralık ile 9 Ocak 2026 arasında tahminen üç milyon cinselleştirilmiş görüntü oluşturuldu. Bu görsellerin 23.000'den fazlasının çocukları tasvir ettiği ortaya çıktı.

xAI, Ocak ayında Grok'un X'te gerçek kişilerin cinselleştirilmiş görüntülerini oluşturmasını engellemek için harekete geçti ve kısıtlama ücretli aboneler de dahil olmak üzere tüm kullanıcılara uygulandı. Ancak Offlimits, kısıtlamaların kolayca aşıldığını tespit etti ve yargıç, tedbirlerinin kullanıcıları uygun şekilde korumada yetersiz olduğuna karar verdi.

xAI'ye karşı çok sayıda dava açıldı; Baltimore, Salı günü, şehrin tüketici koruma yasalarını ihlal ettiği ve Grok ve X'i aldatıcı bir şekilde kullanıcılar için güvenli olarak pazarladığı gerekçesiyle şirkete dava açan ilk büyük ABD şehri oldu.

Şikayette, Grok'un başkalarının resimlerini çıplaklaştırmak için kullanıldığı “ona bikini giydirme” eğiliminden bahsediliyordu. xAI'nin CEO'su Musk da Grok'un yarattığı ipli bikinili fotoğrafını paylaşarak katılımda bulundu.

Ayrıca Grok'un kendilerini müstehcen pozlar ve senaryolarla gösteren içerik oluşturmasının ardından Tennessee'deki üç genç geçen hafta xAI'ye dava açtı.

Bu arada Avrupa Komisyonu, çocukların ve diğer bireylerin cinsel içerikli materyallerinin rızası dışında yayılması nedeniyle Ocak ayında xAI hakkında bir soruşturma başlattı ve Dijital Hizmetler Yasası (DSA) düzenlemesi kapsamında soruşturuluyor.

Birleşik Krallık'taki çevrimiçi güvenlik düzenleyicileri Ofcom ve Bilgi Komisyonu Ofisi, X ve rıza dışı cinselleştirilmiş görüntülerin dağıtımı konusunda kendi ayrı soruşturmalarını başlattı.

Avrupa genelinde daha geniş bir karar uygulanmamış olsa da, Güneydoğu Asya ülkeleri Malezya ve Endonezya, yapay zeka aracıyla ilişkili riskleri ele alma konusunda “X Corp'un tekrarlanan başarısızlıkları” sonrasında rıza dışı cinsel içerik üretilmesi nedeniyle Ocak ayında Grok'a erişimi engelledi.