Malezya ve Endonezya, X'in sohbet robotunun, kadın ve çocuklara yönelik açık yapay zeka tarafından oluşturulan deepfake'lerin X üzerinde oluşturulup yayılmasını önlemek için yeterli güvenlik önlemlerine sahip olmadığını iddia ederek Grok'u engelleyen ilk ülkeler oldu. Endonezya, Pazar günü Malezya'nın yaptığı gibi Cumartesi günü Grok'a erişimi geçici olarak engelledi. Associated Press raporlar. Bu arada Birleşik Krallık medya düzenleyicisi Ofcom, Çevrimiçi Güvenlik Yasası kapsamında X hakkında resmi bir soruşturma başlattı.
Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid yaptığı açıklamada, “Hükümet, rıza dışı cinsel deepfake'leri dijital alanda insan haklarının, onurunun ve vatandaşların güvenliğinin ciddi bir ihlali olarak görüyor.” dedi. Ülkedeki yetkililer, ilk bulguların Grok'un, kullanıcıların Endonezya sakinlerinin fotoğraflarına dayanan cinsel içerikli derin sahtekarlıklar oluşturmasını ve paylaşmasını engelleyecek etkili kontrollerden yoksun olduğunu gösterdiğini söyledi. Ülkenin dijital alan denetimi genel müdürü Alexander Sabar, fotoğraflar izinsiz paylaşıldığında veya değiştirildiğinde deepfake oluşturmanın bireylerin imajını ve gizlilik haklarını ihlal edebileceğini ve bunların itibar, sosyal ve psikolojik zarara yol açabileceğini söyledi.
Malezya İletişim ve Multimedya Komisyonu, Grok'un, bazıları kadınları ve çocukları da içeren, açık ve rıza dışı deepfake oluşturmak için “tekrar tekrar kötüye kullanıldığını” belirtti. Düzenleyici, X Corp ve ana şirket xAI yeterince güçlü güvenlik önlemleri alana kadar Grok'un ülkede bloke kalacağını söyledi.
Ofcom'un soruşturması, X'in “Birleşik Krallık'taki insanları Birleşik Krallık'ta yasa dışı olan içerikten koruma görevlerine uyup uymadığına” odaklanacak. Bu, X'in Birleşik Krallık'taki kullanıcılarının CSAM ve rıza dışı mahrem görüntüler gibi “öncelikli” yasa dışı içeriği görmesini önlemek için uygun önlemleri alıp almadığını; platformun yasa dışı içeriğin farkına vardıktan hemen sonra kaldırması; ve X'in platformda “herhangi bir önemli değişiklik” yapmadan önce güncellenmiş bir risk değerlendirmesi yapıp yapmadığı. Soruşturma ayrıca X'in, platformunun Birleşik Krallık'taki çocuklar için oluşturduğu riski değerlendirip değerlendirmediğini ve “Birleşik Krallık'taki çocukları pornografi görmekten korumak için oldukça etkili bir yaş güvencesine” sahip olup olmadığını da değerlendirecek.
Düzenleyici, X ile 5 Ocak'ta iletişime geçtiğini ve son tarih olan 9 Ocak'a kadar bir yanıt aldığını söyledi. Ofcom, “acil bir durum olarak mevcut kanıtların hızlandırılmış bir değerlendirmesini” yürütüyor ve xAI'den şirketin İngiltere'deki kullanıcıları korumak için attığı adımlara ilişkin “acil açıklama” istediğini ekledi.
Bir Ofcom sözcüsü, “Grok'un yasadışı, rıza dışı mahrem görüntüler ve çocukların cinsel istismarı materyallerini X üzerinde oluşturmak ve paylaşmak için kullanıldığına dair raporlar son derece endişe verici” dedi. “Platformlar, Birleşik Krallık'taki insanları Birleşik Krallık'ta yasa dışı olan içerikten korumalıdır ve şirketlerin görevlerini yerine getirmediğinden şüphelendiğimiz noktaları, özellikle de çocuklara zarar verme riskinin bulunduğu durumları araştırmaktan çekinmeyiz. Bu soruşturmayı en yüksek öncelikli konu olarak ilerletirken, yasal süreci takip ettiğimizden de emin olacağız. Birleşik Krallık'ın bağımsız çevrimiçi güvenlik uygulama kurumu olarak, soruşturmalarımızın yasal olarak sağlam ve adil bir şekilde karara bağlanmış olduğundan emin olmamız önemlidir.”
Ofcom, bir şirketin yasayı ihlal ettiğine karar verirse, “platformların uyum sağlamak veya ihlalin neden olduğu zararı telafi etmek için belirli adımlar atmasını talep edebilir.” Düzenleyici ayrıca, iki rakamdan hangisi daha yüksekse, 18 milyon £'a (24,3 milyon $) kadar veya “nitelikli” dünya çapındaki gelirin yüzde 10'u kadar para cezası uygulayabilir. Ayrıca, ödeme sağlayıcıların veya reklamverenlerin bir platformla çalışmasının durdurulması veya internet servis sağlayıcılarının Birleşik Krallık'ta bir siteyi engellemesini zorunlu kılmak için mahkeme emri talep edebilir. Birleşik Krallık hükümeti, Ofcom'un X'e karşı yapacağı her türlü eylemi destekleyeceğini söyledi.
Hafta sonu gelen raporlar, İngiltere'nin Grok tarafından üretilen deepfake'lere koordineli bir yanıt konusunda müttefikleriyle görüşmelerde bulunduğunu ileri sürdü. Hindistan ve Avrupa Birliği de dahil olmak üzere başka yerlerdeki düzenleyiciler de X'i araştırıyor.
Geçen hafta Grok, X kullanıcılarına resim oluşturma ve düzenleme araçlarının ödeme yapan abonelerle sınırlı olduğunu anlatmaya başladı. Ancak Pazartesi itibarıyla, ödeme yapmayan kullanıcıların X web sitesi ve uygulamasındaki Grok sekmesi aracılığıyla görsel oluşturması hâlâ mümkündü.
Bir yanıt yazın