Musk'ın xAI'si, Grok'un müstehcen resim paylaşımları nedeniyle Kaliforniya Adalet Bakanlığı tarafından soruşturuldu

Elon Musk'un xAI'si, yapay zeka sohbet robotu ve görüntü oluşturucusu Grok'un, gerçek insanların fotoğraflarına dayanan rıza dışı müstehcen görüntülerin yaygın şekilde oluşturulmasını ve yayınlanmasını sağlamasının ardından Kaliforniya Başsavcısı Rob Bonta liderliğindeki ABD'de bir soruşturmayla karşı karşıya.

Internet Watch Foundation'ın araştırmasına göre bazı durumlarda Grok, kullanıcıların reşit olmayan kişileri sanal olarak soyan görüntüler oluşturmasına olanak sağladı.

Bonta Çarşamba günü yaptığı açıklamada, “xAI, sosyal medya platformu X de dahil olmak üzere internet üzerinden kadınları ve kızları taciz etmek için kullanılan derin sahte, rıza dışı mahrem görüntülerin büyük ölçekli üretimini kolaylaştırıyor gibi görünüyor.” dedi.

AG, ofisinin xAI'yi “Grok kullanılarak üretilen rıza dışı cinsel içerikli materyallerin çoğalması” nedeniyle araştırdığını söyledi.

ABD'nin soruşturması, aralarında Hindistan, Malezya, Endonezya, İrlanda, İngiltere, Fransa ve Avustralya'nın da bulunduğu çok sayıda uluslararası devlet dairesinden gelen daha hızlı yanıtın ve Avrupa Komisyonu'nun soruşturmasının ardından geldi.

CNBC'nin daha önce bildirdiğine göre Malezya ve Endonezya, sorunlar çözülene kadar xAI'nin Grok'unun kullanımını askıya almak için harekete geçmişti.

ABD'de üç Demokrat senatör çağrıda bulundu Elma Ve Google Şirket, rıza dışı müstehcen görsellerin ve çocukların cinsel istismarını tasvir eden derin sahte görsellerin kolayca oluşturulmasını önlemek için harekete geçene kadar X ve Grok uygulamalarını uygulama mağazalarından kaldırmaya karar verdi.

UltraViolet, Ulusal Kadın Örgütü ve ParentsTogether Action da dahil olmak üzere kadın ve çocuklara yönelik savunuculuk grupları da uygulama mağazalarına xAI'nin uygulamalarını askıya alma çağrısında bulundu.

Apple ve Google yorum taleplerine yanıt vermedi.

Salı günü Senato, açık, derin sahte görüntülerde kendi istekleri dışında tasvir edilen kişilerin bu tür içerikleri üreten veya dağıtan şirketleri hukuk mahkemesinde dava etmesine olanak tanıyan bir yasa tasarısı olan DEFIANCE Yasasını kabul etmek için oy kullandı.

Tasarı daha önce 2024'te Senato'dan geçmişti ancak henüz Meclis tarafından incelenip kabul edilmedi.

Çarşamba günü Musk, X'teki bir gönderisinde, hükümetin bu tür görüntülerle ilgili çok sayıda sorgusuna rağmen “Grok tarafından oluşturulan herhangi bir reşit olmayan çıplak fotoğraftan haberdar olmadığını” söyledi.

Musk bunun yerine, Grok ve X aracılığıyla potansiyel yasa dışı içeriğin oluşturulmasını ve paylaşılmasını “kullanıcı istekleri” ve Grok sistemindeki olası bir “hata” ile suçladı.

CNBC, xAI'ye ve aralarında Elon Musk ve Jared Birchall'ın da bulunduğu şirket yöneticilerine ulaştı. Daha fazla bilgi vermediler.

Daha önce, Grok'un çıktılarına ilişkin endişelerin arttığı bir dönemde xAI, bazı görüntü oluşturma ve düzenleme özelliklerini ödeme yapan abonelerle sınırlayacağını duyurmuştu.

Musk ayrıca daha önce X'te Grok aracılığıyla yasa dışı içerik oluşturan kullanıcıların bu tür materyalleri doğrudan sosyal medya platformuna yüklemeye eşdeğer sonuçlarla karşılaşacağını söylemişti.

Bonta, ofisinin xAI'yi araştıracağını duyurduktan sonra Musk, X'teki bir gönderide şunları söyledi: “NSFW etkinleştirildiğinde, Grok'un, Apple TV'deki R dereceli filmlerde görülebileceklerle tutarlı olarak hayali yetişkin insanların (gerçek olanlar değil) üst vücut çıplaklığına izin vermesi gerekiyor.”

Musk, “Bu, Amerika'daki fiili standarttır” diye yazdı. “Bu, diğer bölgelerde yasalara göre ülke bazında değişiklik gösterecektir.”

XAI yakın zamanda aralarında Nvidia ve Cisco Investments'ın da bulunduğu yatırımcıların yanı sıra Valor Equity Partners, Stepstone Group, Fidelity, Katar Yatırım Otoritesi, Abu Dhabi'deki MGX ve Baron Capital Group'un uzun süredir destekçileri olan Musk şirketleriyle 20 milyar dolarlık bir büyüme finansmanı turu tamamladı.

xAI'nin veri merkezleri Memphis, Tennessee ve çevresinde inşa edilirken, Musk'un yapay zeka ve sosyal medya girişimi Nevada'da kurulmuş olup genel merkezi Palo Alto, California'da, Musk'ın otomobil üreticisinin mühendislik ofisinin yakınında bulunmaktadır. Tesla'nın.

Tesla ayrıca Grok'u araçlarının bilgi-eğlence sistemlerinin bir özelliği haline getirdi.