Hindistan, Musk'a X'e Grok'u 'müstehcen' yapay zeka içeriği nedeniyle düzeltmesi emrini verdi

Hindistan, kullanıcıların ve milletvekillerinin araç kullanılarak oluşturulan yapay zeka tarafından değiştirilmiş kadın görüntüleri de dahil olmak üzere “müstehcen” içerik üretimini işaretlemesinin ardından Elon Musk'un X'ine yapay zeka sohbet robotu Grok'ta derhal teknik ve prosedürel değişiklikler yapması talimatını verdi.

Cuma günü, Hindistan'ın BT bakanlığı, Musk'un X'ine, “çıplaklık, cinselleştirme, müstehcen veya başka bir şekilde yasa dışı” materyal içeren içerik üretiminin kısıtlanması da dahil olmak üzere Grok hakkında düzeltici önlemler alması talimatını veren emri yayınladı. Bakanlık ayrıca sosyal medya platformuna, “müstehcen, pornografik, kaba, uygunsuz, cinsel açıdan müstehcen, pedofilik veya yasalar uyarınca yasaklanmış” olarak değerlendirilen içeriğin barındırılmasını veya yayılmasını önlemek için attığı adımların ayrıntılarını içeren bir eylem raporu sunması için 72 saat verdi.

Tmzilla tarafından incelenen emir, uymamanın X'in “güvenli liman” korumalarını – Hindistan yasalarına göre kullanıcı tarafından oluşturulan içerikten yasal muafiyet – tehlikeye atabileceği konusunda uyardı.

Hindistan'ın bu hamlesi, Grok'un bikini giymiş gibi görünmek için bireylerin (özellikle kadınların) resimlerini değiştirmeye teşvik edildiğine dair örnekleri paylaşan kullanıcılar tarafından dile getirilen endişelerin ardından geldi ve bu durum Hintli parlamenter Priyanka Chaturvedi'nin resmi şikayetine yol açtı. Ayrı olarak, son raporlar, AI sohbet robotunun reşit olmayanları içeren cinselleştirilmiş görüntüler oluşturduğu örnekleri işaretledi; X, Cuma günü erken saatlerde kabul ettiği bir sorunun, güvenlik önlemlerindeki eksikliklerden kaynaklandığını kabul etti. Daha sonra bu görüntüler kaldırıldı.

Ancak Tmzilla, Grok kullanılarak oluşturulan ve yapay zeka değişikliği yoluyla kadınların bikini giyiyormuş gibi görünmesini sağlayan görüntülerin yayınlandığı tarihte X'te erişilebilir durumda olduğunu tespit etti.

En son emir, Hindistan BT bakanlığının Pazartesi günü sosyal medya platformlarına müstehcen ve müstehcen içerikleri düzenleyen yerel yasalara uymanın, kullanıcı tarafından oluşturulan materyallere ilişkin sorumluluktan yasal muafiyetin korunması için bir ön koşul olduğunu hatırlatan, Tmzilla tarafından da incelenen daha geniş bir tavsiye niteliğindeki Pazartesi günü yayınlanmasından birkaç gün sonra geldi. Danışman, şirketleri iç koruma önlemlerini güçlendirmeye çağırdı ve bunu yapmamanın Hindistan'ın bilişim ve ceza yasaları kapsamında yasal işlem başlatılmasına yol açabileceği konusunda uyardı.

Kararda, “Yukarıdaki gerekliliklere uyulmamasının ciddi bir şekilde ele alınacağı ve platformunuza, sorumlu görevlilerine ve platformda yasayı ihlal eden kullanıcılara karşı başka bir bildirime gerek kalmaksızın katı hukuki sonuçlara yol açabileceği bir kez daha vurgulanmaktadır” denildi.

Hindistan hükümeti, uyumsuzluğun Hindistan'ın bilişim kanunu ve ceza kanunları uyarınca X'e karşı dava açılmasına yol açabileceğini söyledi.

Dünyanın en büyük dijital pazarlarından biri olan Hindistan, hükümetlerin yapay zeka tarafından oluşturulan içerikten platformları sorumlu tutma konusunda ne kadar ileri gitmeye istekli olduklarını gösteren kritik bir test örneği olarak ortaya çıktı. Ülkedeki yaptırımların sıkılaştırılması, birden fazla yargı bölgesinde faaliyet gösteren küresel teknoloji şirketleri için dalgalanma etkileri yaratabilir.

Karar, Musk'un X'in, platform engelleme direktiflerinin çoğuna uysa bile, federal hükümetin yayından kaldırma riskinin aşırı erişime yol açtığını ileri sürerek Hindistan'ın içerik düzenleme kurallarının bazı yönlerini mahkemede sorgulamaya devam etmesiyle birlikte geldi. Aynı zamanda Grok, X kullanıcıları tarafından gerçek zamanlı bilgi doğrulama ve haber olayları hakkında yorum yapmak için giderek daha fazla kullanılıyor ve çıktılarını bağımsız yapay zeka araçlarına göre daha görünür ve politik açıdan daha hassas hale getiriyor.

X ve xAI, Hindistan hükümetinin emriyle ilgili yorum taleplerine hemen yanıt vermedi.