Son günlerde yoğunlaşan kampanyanın ardından Elon Musk'un X platformu yapay zeka chatbotu Grok'un gerçek kişilerin fotoğraflarını cinsel görüntülere dönüştürmesini engelleyecek tedbirleri duyurdu.
Protokol, kullanıcıların Grok'a özellikle kadın ve çocuklardan bu tür içerik üretilmesi yönündeki taleplerine yönelik sert eleştirilerin ardından uygulanıyor. Bu aracın siyaset ve sanayi dünyasından önemli isimlerin yer aldığı alaycı kullanımları da vardı.
X, bunun tüm Grok ve X kullanıcılarının görsellerini oluşturma yeteneğini “coğrafi olarak engelleyeceğini” söyledi. “bikini, iç çamaşırı ve benzeri kıyafetler” giyen insanlar bu tür eylemlerin yasa dışı kabul edildiği yargı bölgelerinde.
X'in güvenlik ekibi yaptığı açıklamada, “Grok'un hesabının, bikini gibi açık kıyafetler giyen gerçek kişilerin görsellerinin düzenlenmesine izin vermesini önlemek için teknolojik önlemler uyguladık.” dedi.
“Bu kısıtlama, ödeme yapan aboneler de dahil olmak üzere tüm kullanıcılar için geçerlidir” diye ekledi.
Duyuru bundan sonra gelir Kaliforniya savcılığı Eyalet Başsavcısı Rob Bonta yaptığı açıklamada, Musk'un yapay zeka şirketi xAI hakkında “özellikle sosyal ağ X aracılığıyla internette kadınları ve kızları taciz etmek için kullanılan rıza dışı mahrem montajların (deepfake) büyük ölçekli üretimini kolaylaştırmak” nedeniyle soruşturma başlattığını söyledi.
Savcı, “Rıza dışı mahrem görüntülerin veya pedopornografik materyallerin yapay zeka ile oluşturulmasına ve yayılmasına sıfır toleransımız var” diye ekledi. Soruşturma “xAI'nin yasayı ihlal edip etmediğini ve nasıl ihlal ettiğini” belirleyecek.
Grok'a ve özellikle sosyal ağ X'te yayınlanan görselleri değiştirme olanağına karşı uluslararası öfke hareketi son haftalarda yoğunlaştı.
Bu seçenek, kullanıcıların aşağıdaki gibi istemleri kullanarak kadınların ve küçüklerin cinselleştirilmiş “derin sahtelerini” oluşturmasına olanak tanıyordu. “Ona bikini giydirin” veya “elbiselerini çıkarın.”
Geçen hafta Grok denedi Yeni para kazanma politikasıyla eleştirileri saptırınX'te görsellerin oluşturulması ve düzenlenmesinin “ücret ödeyen abonelerle sınırlı” olduğunu duyurdu.
Ancak bu duyuru yalnızca öfkeyi daha da artırdı: İngiltere Başbakanı Keir Starmer'ın ofisi bu hareketi kınadı. kurbanlara hakaret İngiliz medya düzenleyicisi Ofcom Pazartesi günü yaptığı açıklamada, X'in cinsel görüntülerle ilgili Birleşik Krallık yasasını ihlal edip etmediğini belirlemek için bir soruşturma başlattığını söyledi.
Endonezya ve Malezya, Grok'a erişimi engellerken Hindistan, X'in şikayetlerine yanıt olarak binlerce gönderiyi ve yüzlerce kullanıcı hesabını sildiğini söyledi.
Fransız çocuklardan sorumlu komisyon üyesi Sarah El Hairy Salı günü yaptığı açıklamada, Grok tarafından oluşturulan görüntüleri Fransız savcılara, medya düzenleyicisi Arcom'a ve Avrupa Birliği'ne ilettiğini söyledi. İkincisi, bu tür içeriğin üretilmesinin tamamen durdurulmasını talep etti.
Geçen hafta, Grok tarafından oluşturulan 20.000'den fazla görüntü üzerinde STK AI Forensics tarafından gerçekleştirilen bir analiz, yarıdan fazlasının az giyimli insanları temsil ettiğini, bunların %81'inin kadın ve %2'sinin reşit olmadığını ortaya çıkardı.
Bir yanıt yazın