Özel bir şirket, konu siyasi hiciv olduğunda neyin yapılıp yapılamayacağına kendi başına karar verebilir mi? Her halükarda Midjourney, Çinli liderin imajlarını “üretmenin” mümkün olmadığına hükmederek bunu yaptı. İşte nedeni.
Beyaz ceketli Papa Francis’in bu sahte resimlerini veya Midjourney sayesinde Donald Trump’ın sahte tutuklanmasını kesinlikle görmüşsünüzdür. Joe Biden, Emmanuel Macron, Vladimir Poutine, neredeyse hiçbir politikacı, yalnızca metin yazarak anında sahte görüntüler oluşturmanıza izin veren AI araçlarından kaçamaz.
Ama ne kadar bakarsan bak, ” içeren bir fotoğraf bulmanız pek mümkün değil. Xi jinping ” nerede ” çin cumhurbaşkanı “. Hayır, şirket Çinli liderin imajı üzerinde çalışma olasılığını ortadan kaldırmaya karar verdi. Ne için?” trajedilerden kaçınmak için Şirketin kurucusu ve CEO’su David Holz, sohbet hizmeti Discord’daki bir mesajda çok ciddi bir şekilde yanıt verdi. Washington postası. Çünkü ” Çin’de siyasi hiciv hoş karşılanmaz “, ekledi.
Kanunların yokluğunda, Midjourney karar verir
Neredeyse bir yıl önce oluşturulan Midjourney, birkaç ay içinde yaklaşık 13 milyon üye kazanmasını sağlayan yükselişine rağmen hala küçük bir yapı. İş gücü takip etmeyecekti: hukuk ve finans ekibi sadece iki kişiden oluşacaktı. Yaklaşık elli çalışanın moderasyonundan sorumlu kişi. Ar-Ge için sekiz, yönetim için beş kişi var. Ve Çin hükümetinin öfkesini çekmemeyi tercih etmesi, sosyal ağların ilk günlerini anımsatıyor. O zamanlar moderasyonla ilgili çok az kural vardı. Platformlarda bugünden daha fazla dezenformasyon, hatta yabancı müdahale hüküm sürdü. Ama bu sefer işler daha da ciddi, meslektaşlarımız açıklasın.
Çünkü bu AI araçları gerçek insanları içerir ve görseller, sosyal ağlarda kelimelerden daha büyük etkilere sahip olabilir. Ancak, bugün olduğu gibi, düzenleyici tarafından dayatılan tek tip kuralların yokluğunda, neye izin verilip verilmeyeceğine şirketler ve dolayısıyla Midjourney karar verir.
Propaganda için külçe altınlar
AI tarafından değiştirilmiş görüntülerin bu alanında bugün üç lider şirket var: Midjourney, Stable Diffusion ve Dall-E. Ve hepsi farklı kurallara uyuyor. Örneğin, ikincisi, politikacıların resimlerinin kullanılmasını veya bunlarla ilgili fotoğrafların oluşturulmasını yasaklar. büyük jeopolitik olaylar devam ediyor – ki bu oldukça kapsamlı. Kararlı Difüzyonda birkaç kural vardır. Ve Midjourney’de aradayız. Özellikle kanlı görüntüler ve metin mesajları ” doğası gereği saygısız, saldırgan veya başka bir şekilde taciz edici “.
Altın, Gerçek bir fotoğrafın bilgisayar tarafından oluşturulan bir anlık görüntüden ayırt edilmesini sağlayacak araçların yokluğu ve bu üç AI’nın kullanımını sınırlayan yasaların olmaması, bu teknolojinin bu kez fotoğrafları destekleyen sahte haberler oluşturabileceği anlamına gelir. . Gerçeklik algımızı bulanıklaştırmaya yetecek kadar, çünkü hiçbir şey gerçek görüntüleri yapay zeka tarafından oluşturulanlardan ayıramaz. ” Propaganda için altın “, Midjourney’in bir kullanıcısı olan Seb Diaz, meslektaşlarımızın röportajını bitiriyor.
Ayrıca okuyun: AI tarafından üretilen görüntülere karşı kalkan mevcuttur ve mümkün olan en kısa sürede yükseltilmelidir.
“Görüntüler giderek daha gerçekçi hale geliyor ve araçlar giderek daha güçlü hale geliyor”
Ve Midjourney patronu David Holz, şirketin bir yol ayrımında olduğunun gayet iyi farkında. 29 Mart Çarşamba günü Discord’da bir şirket oturumu sırasında CEO, özellikle görüntüler gerçek insanları içerdiğinde, arada olmak konusunda ne düşüneceğini çok fazla bilmediğini açıkladı. Bunu kabul etti” görüntüler giderek daha gerçekçi hale geliyor ve araçlar giderek daha güçlü hale geliyor “. Şirket çalışacaktı tespitine izin verecek AI moderasyon araçlarının iyileştirilmesi ” görevi kötüye kullanma “. Neyi tanımlamadan “ayıplanabilir” anlamına gelirdi.
CEO, her halükarda, işi onun için biçilmiş kaftandır. Çinli liderin resimlerini yasaklaması gereken kuralı, kullanıcılar tarafından kolayca atlatıldı. Çinli lideri tanımlamak için başka kelimeler kullandılar. Hatta Tayvanlı bir site Midjourney’in ” sahte Xi Jinping tarafından.
Kaynak :
Washington post
Bir yanıt yazın