Elon Musk'un Perşembe günü Grok sohbet robotu, kullanıcıların ve hükümetlerin küresel tepkisinin ardından ödeme yapmayan kullanıcıların derin sahte, cinselleştirilmiş görüntüler oluşturma yeteneğini kısıtlamaya başladı.
Geçen ayın sonlarında bazı kullanıcılar, X'te gerçek kişilerin rızası olmayan görüntülerini oluşturmak için Grok'u Musk'un sosyal medya platformu X'te “ona bikini giydirin” gibi yönlendirmelerle etiketlemeye başladı.
Ünlülerin, politikacıların ve bazı reşit olmayanların görüntüleri de dahil olmak üzere değiştirilmiş görüntüler Grok tarafından oluşturuldu ve X'te herkese açık olarak yayınlandı.
Mevcut kısıtlamalar yürürlüğe girmeden önce Musk, Grok'a kendisinin bikinili fotoğraflarını oluşturması talimatını vererek yapay zeka soyunma trendine katıldı.
Kullanıcılar ve yetkililer şikayette bulundu ve X'i dava etmek veya cezalandırmakla tehdit etti. Grok başlangıçta çocuklara benzeyen uygunsuz fotoğraflar nedeniyle özür diledi.
Artık X, Grok'un tartışmalı geçiş yeteneklerini bir ödeme duvarının arkasına koydu.
Birleşik Krallık ve Avrupa Komisyonu da dahil olmak üzere hükümetler, görüntü oluşturma ve düzenleme yeteneğinin hâlâ mevcut olmaması nedeniyle X'in sağladığı güvenlik önlemlerinden memnun olmadıklarını söyledi. mevcut ödeme yapan kullanıcılara.
Refuge'de teknolojiyle kolaylaştırılmış kötüye kullanım ve ekonomik güçlendirme başkanı Emma Pickering, yaptığı açıklamada, “Yapay zeka görüntü oluşturmayı ücretli kullanıcılarla sınırlandırmak, hacmi marjinal olarak azaltabilir ve izlenebilirliği artırabilir ancak kötüye kullanım durdurulmadı. Basitçe bir ödeme duvarının arkasına yerleştirildi ve X'in zarardan kar elde etmesine izin verildi” dedi.
Pek çok kişinin yapay zeka destekli taciz olarak adlandırdığı olaya karşı halkın öfkesi arttıkça, düzenleyiciler bunu dikkate aldı ve X'in kendi ülkelerinde yasaklanması yönünde bazı teklifler sundu.
İngiltere Başbakanı Keir Starmer, X'in bu “iğrenç” eğilimi “yakalaması gerektiğini” söyledi. Starmer, “Bu konuda harekete geçeceğiz çünkü bu kesinlikle kabul edilebilir bir durum değil” dedi.
Musk örtülü bir geri itmeyle Birleşik Krallık düzenleyicilerini eleştiriyor gibi göründü öfke ChatGPT'nin yaratıcı, açık olmayan yönlendirmeler yoluyla gerçek olmayan bir kişinin bikini görüntüsünün oluşturulmasına da izin verdiği iddiasını yeniden yayınlayarak.
Grok'u cinselleştirilmiş görüntüler ürettiği için kınadıktan sonra Avrupa Komisyonu, X'e, kurallarına uygunluğu sağlamak için Grok ile ilgili tüm belgeleri saklamasını emretti.
Komisyon sözcüsü, “Açıkça talep edersek bunlara erişebilmemiz gerekiyor” dedi. basın toplantısı.
Fransa, Hindistan, Malezya ve Brezilya da platformu inceliyor.
Kamuya mal olmuş kişiler yapay zekanın soyunmasının ilk hedefleri olsa da, kısa sürede özel kişilere de devredildi. Yapay zeka tespit şirketi Copyleaks'in yaptığı bir analize göre, 3 Ocak'ta bir kullanıcı Grok'u günde 50 kez işyeri ortamlarındaki kadınların rızası olmayan, cinselleştirilmiş görüntülerini oluşturmaya yönlendirdi.
Cinsiyet adaleti grubu Ultraviolet, X'in çocuklara yönelik cinsel istismar kurallarını ihlal ettiği gerekçesiyle Apple ve Google'a X'i ilgili uygulama mağazalarından kaldırmaları yönünde baskı yapmak için bir kampanya başlattı.
Musk, chatbot'unu Gemini, ChatGPT ve Claude gibi daha fazla özelliğe sahip alternatiflere kıyasla daha keskin bir alternatif olarak konumlandırdı. kısıtlayıcı kurallar açık içerik istekleri etrafında.
Bir yanıt yazın