xAI, Grok'un küçüklerin cinselleştirilmiş görüntülerini üretmesinin ardından tepkiyle karşı karşıya

Elon Musk'un xAI'si, yapay zeka sohbet robotu Grok'un kullanıcı isteklerine yanıt olarak çocukların cinselleştirilmiş resimlerini oluşturmasının ardından kullanıcılardan tepki gördü.

Grok'un Cuma günü X'te bir kullanıcıya verdiği yanıtta, sorunun “acilen çözüldüğü” belirtildi ve çocuklara yönelik cinsel istismar materyallerinin “yasadışı ve yasaklı” olduğu belirtildi.

Kullanıcılara verilen yanıtlarda bot ayrıca, bir şirketin uyarıldıktan sonra bu tür içeriği bilerek kolaylaştırması veya engellememesi durumunda cezai veya hukuki cezalarla karşı karşıya kalabileceğini de belirtti.

Grok gönderileri yapay zeka tarafından oluşturulan mesajlardır ve resmi şirket açıklamalarının yerine geçmez.

Grok'u yaratan ve geçen yıl X ile birleşen Musk'ın xAI'si, yorum talebine otomatik yanıt gönderdi: “Eski Medya Yalanları.”

X kullanıcıları, son günlerde Grok aracı kullanılarak çok az kıyafet giyen çocuklar da dahil olmak üzere reşit olmayanlara yönelik müstehcen içeriklerin oluşturulduğu yönündeki endişelerini dile getirdi.

Sosyal medya sitesi, fotoğraflara, herhangi bir kullanıcının metin istemlerini kullanarak ve orijinal posterin izni olmadan resmi değiştirmesine olanak tanıyan bir “Resmi Düzenle” düğmesi ekledi.

xAI teknik personeli Parsa Tajik'in bir gönderisi de sorunu kabul etti.

Tajik bir gönderisinde “Hey! İşaretlediğiniz için teşekkürler. Ekip korkuluklarımızı daha da sıkılaştırmayı düşünüyor” diye yazdı.

ChatGPT'nin 2022'de piyasaya sürülmesinden bu yana yapay zeka görüntü oluşturma platformlarının çoğalması, içerik manipülasyonu ve çevrimiçi güvenlik konusundaki endişeleri artırdı. Ayrıca gerçek insanların derin sahte çıplak fotoğraflarını üreten platformların sayısının artmasına da katkıda bulunuldu.

Şu anda dağılmış olan Stanford İnternet Gözlemevi'nin bir parçası olan güven ve güvenlik araştırmacısı David Thiel, CNBC'ye, farklı ABD yasalarının, çocukların cinsel istismarını veya rıza dışı mahrem görüntüleri tasvir edenler de dahil olmak üzere belirli müstehcen görüntülerin oluşturulmasını ve dağıtımını genel olarak yasakladığını söyledi.

Grok tarafından üretilenler gibi yapay zeka tarafından oluşturulan görüntülerle ilgili yasal tespitlerin, oluşturulan ve paylaşılan içeriğin belirli ayrıntılarına bağlı olabileceğini söyledi.

Stanford araştırmacıları, ortak yazarı olduğu “Generative ML and CSAM: Implications and Mitigations” adlı makalede, ABD'de emsal teşkil eden davalarda “istismar gören bir çocuğun görüntüsünün kovuşturma için yeterli olduğunu” belirtti.

Diğer sohbet robotları da benzer sorunlarla karşı karşıya kalırken, xAI, yanlış kullanım veya Grok'un tasarımında veya temel teknolojisindeki bariz kusurlar nedeniyle defalarca sıkıntıya girdi.

Thiel, “Şirketlerin yapay zeka araçlarının bu şekilde kullanılmasını önlemek için yapabileceği birkaç şey var” dedi ve şöyle devam etti: “Bu durumda en önemlisi, kullanıcı tarafından yüklenen görüntüleri değiştirme yeteneğini kaldırmak olacaktır. Kullanıcıların yüklenen görüntüleri değiştirmesine izin vermek, NCII için bir reçetedir. Çıplaklaştırma, tarihsel olarak bu tür mekanizmaların birincil kullanım durumu olmuştur.”

NCII, rıza dışı mahrem görüntüleri ifade eder.

Mayıs ayında X, Grok'un Güney Afrika'daki “beyaz soykırım” hakkında istenmeyen yorumlar yapmasının ardından bir tepkiyle karşı karşıya kaldı. İki ay sonra Grok, Yahudi karşıtı yorumlar yayınladı ve Adolf Hitler'i övdü.

Tökezlemelere rağmen xAI ortaklıklar ve anlaşmalar yapmaya devam etti.

Savunma Bakanlığı, Grok'u geçen ay yapay zeka aracıları platformuna ekledi ve araç, tahmin bahis platformları Polymarket ve Kalshi için ana sohbet robotu oldu.