xAI'den Grok, X kullanıcılarının orijinal posterin iznine ihtiyaç duymadan botu kullanarak herhangi bir resmi anında düzenlemesine olanak tanıyan bir özelliğin bu hafta kullanıma sunulmasının ardından, insanların resimlerinden kıyafetleri izinleri olmadan kaldırıyor. Orijinal poster, resimlerinin düzenlenmesi durumunda bilgilendirilmiyor, aynı zamanda Grok'ta tam çıplaklık dışında herhangi bir şeyi önlemek için birkaç korkuluk var gibi görünüyor. Son birkaç günde X, hamile görünen, eteksiz, bikini giyen veya diğer cinsel içerikli durumlardaki kadın ve çocukların görüntüleri ile doldu. Dünya liderleri ve ünlülerin de benzerleri Grok tarafından oluşturulan görsellerde kullanıldı.
Yapay zeka kimlik doğrulama şirketi Copyleaks, yeni görüntü düzenleme özelliğinin yayınlanmasının ardından yetişkinlere yönelik içerik oluşturucuların Grok'tan kendilerine ait seksi görüntüler istemesiyle görüntülerden kıyafetleri çıkarma eğiliminin başladığını bildirdi. Kullanıcılar daha sonra benzer istemleri, düzenlemelere izin vermeyen, çoğunlukla kadınlardan oluşan diğer kullanıcıların fotoğraflarına uygulamaya başladı. Kadınlar, X'te deepfake oluşturmanın hızlı bir şekilde arttığını aşağıdakiler de dahil olmak üzere çeşitli haber kaynaklarında kaydetti: Metro Ve PetaPixel. Grok, X'teki bir gönderide etiketlendiğinde görselleri cinsel yollarla değiştirebiliyordu, ancak yeni “Resmi Düzenle” aracı son zamanlarda popülerlik artışını teşvik etmiş gibi görünüyor.
Artık platformdan kaldırılan bir X gönderisinde Grok, iki genç kızın fotoğrafını dar giysiler ve müstehcen pozlar verecek şekilde düzenledi. Başka bir X kullanıcısı, Grok'tan “cinselleştirilmiş kıyafetler içindeki iki genç kızın (tahmini yaşları 12-16) yapay zeka görselini içeren” olay” için özür dilemesini istedi ve bunu “güvenlik önlemlerinde bir başarısızlık” olarak nitelendirerek xAI'nin politikalarını ve ABD yasalarını ihlal etmiş olabileceğini söyledi. (Grok tarafından oluşturulan görüntülerin bu standardı karşılayıp karşılayamayacağı açık olmasa da, kimliği belirlenebilen yetişkinlerin veya çocukların yapay zeka tarafından oluşturulan gerçekçi cinsel içerikli görüntüleri ABD yasalarına göre yasa dışı olabilir.) Bir kullanıcıyla yapılan başka bir karşılıklı görüşmede Grok, kullanıcıların bunu CSAM için FBI'ya bildirmelerini önerdi ve bunun “güvenliklerdeki boşlukları” “acilen düzelttiğini” belirtti.
Ancak Grok'un sözleri, “içten bir özür notu” isteyen bir kullanıcıya yapay zeka tarafından oluşturulan bir yanıttan başka bir şey değildir; Grok'un ne yaptığını “anladığını” göstermez veya operatör xAI'nin gerçek görüş ve politikalarını mutlaka yansıttığını göstermez. Bunun yerine xAI yanıt verdi Reuters' Sadece üç kelimeyle durum hakkında yorum talebi: “Eski Medya Yalanları.” xAI yanıt vermedi eşik'nin yayınlanma zamanında yorum yapma talebi.
Elon Musk, Grok'tan aktör Ben Affleck'in memetik imajını bikinili haliyle değiştirmesini istedikten sonra bir bikini düzenlemesi dalgasına yol açmış gibi görünüyor. Günler sonra, Kuzey Koreli Kim Jong Un'un deri ceketinin yerini rengarenk spagetti bikini aldı; ABD Başkanı Donald Trump, eşleşen bir mayoyla yakınlarda duruyordu. (Cue nükleer savaş hakkında şaka yapıyor.) İngiliz siyasetçi Priti Patel'in 2022'de bir kullanıcı tarafından müstehcen bir mesajla paylaşılan fotoğrafı, 2 Ocak'ta bikini fotoğrafına dönüştürüldü. Platformundaki bikini fotoğraf dalgasına yanıt olarak Musk, bikinili bir tost makinesinin fotoğrafını şakayla karışık “Grok her şeye bikini giyebilir” başlığıyla yeniden yayınladı.
Görüntülerden bazıları (tost makinesi gibi) açıkça şaka amaçlıyken, diğerleri açıkça sınırda pornografik görüntüler üretmek için tasarlanmıştı; bunlar arasında Grok'un kısa bikini stilleri kullanması veya bir eteği tamamen çıkarması yönündeki özel talimatlar da vardı. (Chatbot eteği çıkardı ancak yanıtlarda tam, sansürsüz çıplaklık tasvir etmedi eşik testere.) Grok ayrıca yürümeye başlayan çocuğun kıyafetlerinin bikiniyle değiştirilmesi taleplerine de uydu.
Musk'un yapay zeka ürünleri, belirgin bir şekilde, ağırlıklı olarak cinselleştirilmiş ve minimal düzeyde korkuluklarla pazarlanıyor. xAI'nin yapay zeka arkadaşı Ani flört etti eşik Muhabir Victoria Song ve Jess Weatherbed, xAI'nin “kişilerin benzerlerinin pornografik bir şekilde” tasvir edilmesini yasaklayan kabul edilebilir kullanım politikasına rağmen, Grok'un video oluşturucusunun kolayca Taylor Swift'in üstsüz deepfake'lerini oluşturduğunu keşfetti. Google'ın Veo ve OpenAI'nin Sora video oluşturucuları, aksine, NSFW içeriğinin üretilmesi konusunda korkuluklara sahiptir, ancak Sora aynı zamanda cinselleştirilmiş bağlamlarda çocuk videoları ve fetiş videoları üretmek için de kullanılmıştır. Siber güvenlik firması DeepStrike'ın bir raporuna göre deepfake görsellerin yaygınlığı hızla artıyor ve bu görsellerin birçoğu rıza dışı cinselleştirilmiş görüntüler içeriyor; 2024 yılında ABD'li öğrenciler arasında yapılan bir anket, yüzde 40'ının tanıdıkları birinin deepfake'inden haberdar olduğunu, yüzde 15'inin ise rızası olmadan açık veya mahrem deepfake'lerden haberdar olduğunu ortaya çıkardı.
Grok, neden kadın görüntülerini bikini fotoğraflarına dönüştürdüğü sorulduğunda, izinsiz fotoğraf yayınlamayı reddetti ve şunları söyledi: “Bunlar, izinsiz gerçek fotoğraf düzenlemeleri değil, isteklere dayalı yapay zeka çalışmalarıdır.”
Bir AI botunun reddini dilediğiniz gibi alın.
Bir yanıt yazın