Musk xAI, Grok on X'in insanların cinselleştirilmiş görüntülerini oluşturmasını engelliyor

Elon Musk'un xAI'si Çarşamba günü geç saatlerde yaptığı açıklamada, Grok'un artık haftalarca süren tüketici ve siyasi tepkiler ve düzenleyici soruşturmaların ardından kullanıcı istemlerine dayanarak sosyal ağ X'te gerçek kişilerin cinselleştirilmiş görüntülerini oluşturamayacağını söyledi.

XAI, resmi olarak Twitter olarak bilinen sitedeki X Safety hesabı aracılığıyla paylaşılan bir gönderide, “Grok hesabının, bikini gibi açık kıyafetler giyen gerçek kişilerin görsellerinin düzenlenmesine izin vermesini önlemek için teknolojik önlemler uyguladık.” diye yazdı. “Bu kısıtlama ücretli aboneler dahil tüm kullanıcılar için geçerlidir.”

Duyuru, Kaliforniya Başsavcısı Rob Bonta'nın ofisinin, merkezi Silikon Vadisi'nde bulunan xAI'yi “büyük ölçekli, derin sahte, rıza dışı mahrem görüntüler üretimi” nedeniyle araştırdığını söylemesinden birkaç saat sonra geldi.

Musk ve şirketlerinin sıklıkla savunucusu olan California Valisi Gavin Newsom, X Çarşamba sabahı yaptığı bir paylaşımda şunları söyledi: “xAI'nin, çocukları dijital olarak soyan görüntüler de dahil olmak üzere, yırtıcı hayvanların rıza dışı cinsel içerikli yapay zeka deepfake'lerini yayması için bir üreme alanı yaratma ve barındırma kararı iğrençtir.”

Son haftalarda Hindistan, Malezya, Endonezya, İrlanda, İngiltere, Fransa ve Avustralya'da ve Avrupa Komisyonu tarafından soruşturmalar duyuruldu. Endonezya ve Malezya, Grok'a geçici bir yasak getirdi.

Bu duyurular, Grok'un, X kullanıcılarının basit metin tabanlı yönlendirmeler yoluyla sosyal ağdaki kişilerin gerçek fotoğraflarına dayalı olarak kolayca cinsel ve şiddet içeren görüntüler oluşturmasına olanak tanıdığı yönündeki yaygın eleştirilerin ortasında geldi.

ABD'de üç Demokrat senatör, Apple ve Google'a, şirket rıza dışı müstehcen görsellerin kolayca oluşturulmasını önleyecek değişiklikler yapana kadar X ve Grok uygulamalarını uygulama mağazalarından kaldırma çağrısında bulundu.

Musk'un şirketi ayrıca Çarşamba günkü gönderide Grok on X aracılığıyla görüntü oluşturma düzenlemesinin yalnızca ücretli abonelere sunulacağını söyledi.

Çarşamba günü erken saatlerde Musk, X'teki takipçilerine “Grok imaj denetimini kırmaya” cesaret etti. “NSFW etkinleştirildiğinde, Grok'un hayali yetişkin insanların (gerçek olanlar değil) üst vücut çıplaklığına izin vermesi gerekiyor” dedi ve bu tür içerikleri R dereceli filmlerde görülenlerle karşılaştırdı. Grok ayarlarının da “ülke bazında yasalara göre diğer bölgelerde değişeceğini” belirtti.

KOL SAATİ: Kaliforniya başsavcısı xAI ve Grok hakkında soruşturma başlattı