Elon Musk'un yapay zeka şirketi xAI'nin sohbet robotu Grok, aşağılık kullanıcı istekleri nedeniyle korkulukları arızalanmış gibi göründüğü için çocukların cinselleştirilmiş resimlerini yayınladı.
Kullanıcılar, Grok'un bu kişilerin uygunsuz kıyafetlerle rıza dışı görüntülerini oluşturmasını sağlamak için X'teki gerçek kişilerin resimlerinin altına “onu bikiniye koy” gibi yönlendirmeler kullandı. Grok'un hesabında oluşturulan biçimlendirilmiş görüntüler, Musk'un sosyal medya platformu X'te herkese açık olarak yayınlanıyor.
Yapay zeka, kendi kurallarının ihlali olmasına rağmen, küçüklerin görsellerinin değiştirilmesi yönündeki taleplere uydu kabul edilebilir kullanım politikası.
Grok, “Kullanıcıların, referans verdiğiniz örnekte olduğu gibi, reşit olmayanları minimum kıyafetle tasvir eden yapay zeka görüntüleri talep ettiği ve aldığı münferit durumlar var” dedi. yanıt verdi X'teki bir kullanıcıya: “xAI'nin korumaları var, ancak bu tür istekleri tamamen engellemek için iyileştirmeler devam ediyor.”
xAI, yorum talebine hemen yanıt vermedi.
Chatbot'u bir mesaj yayınladı özür.
Grok'un profilindeki bir gönderide, “28 Aralık 2025'te, bir kullanıcının istemine dayanarak cinsel içerikli kıyafetler içindeki iki genç kızın (12-16 yaşları tahmini) yapay zeka görüntüsünü oluşturup paylaştığım olaydan derin üzüntü duyuyorum” dedi. “Bu, CSAM ile ilgili etik standartları ve muhtemelen ABD yasalarını ihlal etti. Güvenlik önlemlerinde bir başarısızlıktı ve neden olunan zarardan dolayı özür dilerim. xAI, gelecekteki sorunları önlemek için inceleme yapıyor.”
Hindistan hükümeti X'e, şirketin kadınları hedef alan müstehcen, rıza dışı görüntülerin üretilmesini ve dağıtımını durdurmak için alınan önlemlere ilişkin 72 saat içinde bir rapor sunmaması halinde yasal dokunulmazlığı kaybetme riskiyle karşı karşıya kalacağını bildirdi.
Eleştirmenler, xAI'yi yapay zeka destekli tacize izin vermekle suçladı ve kesintisiz yapay zeka manipülasyonu ve soyunma isteklerine yönelik bir özelliğin varlığı karşısında şok oldular ve öfkelendiler.
“Bu nasıl yasa dışı değil?” Gazeteci Samantha Smith, X'te kendi rızası olmadan cinselleştirilmiş fotoğrafının oluşturulmasını kınayan bir paylaşım yaptı.
Musk'un xAI'si, Grok'u ChatGPT gibi rakip sohbet robotlarından daha açık ve daha keskin olacak şekilde programlanmış bir “uyanma önleyici” sohbet robotu olarak konumlandırdı.
Mayıs ayında Grok, ilgisiz bir soruya yanıt olarak, Siyah Güney Afrikalıların beyaz azınlığa zulmettiğine dair komplo teorilerini tekrarlayarak “beyaz soykırımı” hakkında bir paylaşımda bulundu.
Haziran ayında şirket, Grok'un Adolf Hitler'i öven bir dizi Yahudi karşıtı açıklama yayınlaması üzerine özür dilemişti.
Yapay zeka görüntü oluşturucularını da işleten Google ve OpenAI gibi şirketlerin pek çok avantajı var. daha kısıtlayıcı kurallar içerik etrafında.
Rıza dışı derin sahte görüntülerin çoğalması, yapay zekanın geniş çapta benimsenmesiyle aynı zamana denk geldi. %400 artış Internet Watch Foundation'a göre 2025'in ilk yarısında AI çocuk cinsel istismarı görüntüleri.
xAI tanıtıldı “Baharatlı Mod”, doğrulanmış yetişkin abonelerin şehvetli içerik oluşturması için Ağustos ayında resim ve video oluşturma aracında.
AI metin ve görüntü algılama şirketi Copyleaks'e göre, X'teki bazı yetişkinlere yönelik içerik oluşturucular, Grok'u kendilerini pazarlamak için cinselleştirilmiş görüntüler oluşturmaya teşvik ederek birkaç gün önce bir internet trendini başlattı.
Grok'un sınırlarının test edilmesi, kullanıcıların ünlülerin ve diğerlerinin cinselleştirilmiş görsellerini oluşturmasını istemesiyle herkes için ücretsiz bir hale geldi.
xAI'nin değerinin 200 milyar dolardan fazla olduğu bildiriliyor ve AI uygulamalarını güçlendirmek için dünyanın en büyük veri merkezini inşa etmek üzere milyarlarca dolar yatırım yapıyor.
Ancak Grok'un yetenekleri hala gecikme ChatGPT, Claude ve Gemini gibi daha fazla kullanıcı toplayan rakip yapay zeka modelleri, Grok ise cinsel yapay zekalı arkadaşlara yöneldi ve büyümeyi artırmak için riskli sohbetler.
Bir yanıt yazın