Yapay zeka devriminin karanlık tarafı da bu: Diğer insanların kimliklerini, hem görüntülerini hem de seslerini gasp etmek hiç bu kadar kolay olmamıştı. Yıldızları içeren iki örnek hızla art arda bize giderek daha gerçekçi olan deepfake’lerin tehlikelerini hatırlatıyor.
HAYIR, Tom Hanks sosyal medyada diş sigortası satmıyor. Gerçek aktör, Instagram hesabında, diş bakımıyla ilgili reklamlar yaptığını gördüğümüz videonun sahte olduğu konusunda uyardı. “ bununla hiçbir ilgim yok “, açıklıyor.
Reklam, Tom Hanks’in sesinin yapay zeka tarafından yeniden üretildiği sanal bir versiyonunu gösteriyor. Geçen Mayıs ayında aktör bir podcast’te bu teknolojilerin kendisini yeniden üretebileceğinden yakınmıştı ” 32 yaşında kıyamete kadar » : « Artık herkes yapay zeka veya deepfake ile her yaşta kendini yeniden yaratabiliyor (…) Bunun yapay zeka ile yapıldığını bilmenin dışında, hiçbir şey size bunun benimle ilgili olmadığını söyleyemez. “.
Hollywood’daki aktörlerin grevinin merkezinde yapay zeka ve onun stüdyolar tarafından kullanılması yer alıyor. Gerçek şu ki, özellikle deepfake’leri çıplak gözle tespit etmek giderek zorlaşıyor ve belirli bir videonun sahte olduğunu kesin olarak belirlemek için bu görüntülerle çok fazla deneyim gerekiyor.
Başka bir araç, başka bir izleyici kitlesi ama aynı sorun: Daha çok MrBeast takma adıyla tanınan ünlü YouTuber Jimmy Donaldson, hayranlarını TikTok’ta görebileceğimiz deepfake bir videonun dolaştığı konusunda uyardı. iPhone’ları kazanmak için bir yarışmayı duyuran çok ikna edici bir klon ; Katılmak için “basitçe” 2$ bağışta bulunmanız gerekiyor. MrBeast yarışmalara alışkındır ancak bu, verileri ve hatta banka bilgilerini hortumlamaya yönelik bir dolandırıcılıktır.
Pek çok insan benim bu deepfake dolandırıcılık reklamımı alıyor… sosyal medya platformları AI deepfake’lerinin yükselişini karşılamaya hazır mı? Bu ciddi bir sorun pic.twitter.com/llkhxswQSw
— MrBeast (@MrBeast) 3 Ekim 2023
TikTok deepfake’leri yasaklayabilir ancak dolandırıcılar her zaman güvenliği aşmanın yollarını bulur. YouTuber, sosyal medya platformlarının bu tür giderek gerçekçi hale gelen dolandırıcılıklarla nasıl başa çıkacağını merak ediyor. Bu soru aslında sorulmaya değer.
Facebook’tan kritik karar
Facebook bir cevabın başlangıcını sağlayabilir. Sosyal ağın izleme komitesi önümüzdeki günlerde iletişim Açık Joe Biden’ın Facebook’ta dolaşan “düzenlenmiş” videosunun kaldırılması. Bu klasör ” Meta platformlarındaki içeriğin manipülasyonuyla ilgili konuları ve özellikle seçim dönemlerinde şirketin dezenformasyona ilişkin şeffaflık politikalarını inceleyecek “.
Komite, söz konusu video hakkında ayrıntılı bilgi vermiyor ancak alınacak kararlar Facebook’ta bir emsal teşkil edebilir ve her şeyden önce ileriye yönelik net bir yol sağlayabilir. Aslında şirketin politikası, üzerinde oynanmış videolar konusunda oldukça belirsizdir: deepfake’ler normalde yasaktır… öyle olmadıkları durumlar hariç! Bir sonraki Amerikan seçimlerine yönelik seçim kampanyasının yapay zeka tarafından oluşturulan sahte videolarla boğulma riski nedeniyle açıklama daha da hayati önem taşıyor.
Yapay zeka siyasi derin sahtekarlıkların çoğaltılmasını mümkün kıldığında okuyun
Kanala abone olun
Bir yanıt yazın