X müdahale etmiyor: Gerçek kadınların sahte cinsel görüntüleri dolaşmaya devam ediyor

Grok AI görüntü oluşturucunun halka açık ve doğrudan gerçek kişilerin cinsel deepfake'lerini oluşturmak için kullanılması olasılığı hakkındaki büyük tepkinin ardından, Pazar günü Haberler Online'ın editör ekibine ilgili bir vaka iletildi.

Bu durumda, bir X hesabı Grok'tan bir gönderide bir kadının fotoğrafını bikini resmine dönüştürmesini istedi (içerik ilgili kadının haklarını ihlal ettiğinden bu durumda kaynağa bağlantı verilmedi). Bu, Grok'un yetkilisini etiketleyerek X'te mümkündür.

Resim 24 saatten fazla süre geçmesine rağmen kaldırılmadı

Söz konusu X-Post'ta yer alan yorumlar, kullanıcıların 24 saat önce vakayı AB yasalarının ihlali olarak bildirdiğini gösteriyor. Ancak bunun gerçekten olup olmadığı bağımsız olarak doğrulanamıyor (bu makale güncellenebilir). X'teki cinsel derin sahtekarlıkların boyutu göz önüne alındığında, X'teki içerik denetleme ekibinin muhtemelen aşırı derecede aşırı yüklenmiş olduğu görülüyor.

Zaten 2 Ocak'ta Grok hesabı, X'te şu anda düzeltilmekte olan bir “güvenlik önlemlerinin başarısız olduğunu” bildirdi. Elon Musk'un Grok'u işleten şirketi xAI, sorunu kontrol altına almak için X'teki görüntü oluşturucuyu devre dışı bırakmak veya hatta tamamen devre dışı bırakmak gibi geçici önlemler aldı.

Sorun kapsanmıyor

Grok'un skandalla ilgili açıklamalarının yazarları da belirsizliğini koruyor. XAI'deki sorumlulardan herhangi bir açıklama gelmiyor; Hatta şirket, Reuters haber ajansına göre sorunu “geleneksel medyadan gelen bir yalan” olarak nitelendirerek görmezden geldi.

Grok'un kendisi de yanıtlarında bu tür görüntülerin yapay zeka kullanılarak oluşturulabileceğini reddediyor. Mevcut davada Grok, ilgili kadının rızası olmadan gerçek insan görüntülerinin oluşturulabileceği iddiasını reddetti. Chatbot, ancak Grok'un daha sonraki bir istemde örnek olarak söz konusu görselle karşılaşmasının ardından hatasını kabul etti – görsel şu anda X'te hala mevcut. Grok, yanıtlarında bu tür içerikleri silmekten ve aynı zamanda Grok'tan bu tür görseller oluşturmasını isteyen hesapları engellemekten sorumlu olan içerik denetleme ekibine atıfta bulunuyor.

Orijinal içerik platformdan kaybolsa bile ekran görüntüleri sıklıkla dolaşmaya devam ediyor. Paris savcılığı Politico'ya olayların X'e karşı devam eden bir soruşturmanın parçası olduğunu doğruladı. Buna zaten Grok'un Yahudi karşıtlığı ve Holokost inkârı da dahil. Halen AB düzeyinde bir takip bulunmamaktadır. Aralık ayında AB, Avrupa Dijital Hizmetler Yasası'nı (DSA) ihlal ettiği için X'e 120 milyon euro para cezası vermişti.

(HAYIR)