YouTube, yapay zekanın en rahatsız edici kullanımlarından biri olan, gerçek insanların kimliğine bürünen derin sahte videolara karşı mücadelesini hızlandırıyor. Şirket, benzerlik tespit teknolojisini gazetecilerden, hükümet yetkililerinden ve siyasi adaylardan oluşan bir pilot gruba genişleteceğini duyurdu. Bu, tanınmış kişileri yapay zekanın yarattığı kimliğe bürünmeye karşı korumayı amaçlayan bir hamle.
Bu özellik, yüzler için bir şekilde Content ID'ye benzer şekilde çalışır. Katılımcılar, sistemin kendi benzerliklerini öğrenebilmesi için kısa bir video ve resmi kimlik belgesi gönderir. YouTube, kaydolduktan sonra yüklemeleri, görünümlerini taklit eden yapay zeka tarafından oluşturulan videolar açısından tarar. Bu tür bir içeriğin ortaya çıkması durumunda, kişi bunu inceleyebilir ve potansiyel olarak kaldırılmasını talep edebilir.
Yapay zeka kimliğine bürünmeye karşı yeni bir kalkan
YouTube, YouTube İş Ortağı Programındaki içerik oluşturucular için benzerlik tespitini ilk kez geçen yıl başlattı. Şirket artık bir sonraki önceliğin, kimlikleri özellikle seçimler ve siyasi söylemler etrafında yanlış bilgilendirme kampanyalarında sıklıkla kullanılan tanınmış kişileri korumak olduğuna inanıyor.
Deepfake'ler, üretken yapay zeka araçları sayesinde giderek daha gerçekçi hale geldi ve insanların aslında hiç yapmadıkları şeyleri söylediği veya yaptığı ikna edici videolar oluşturmayı kolaylaştırdı. Siyasette ve gazetecilikte bu risk, yanlış bilgilendirmeden itibarın zedelenmesine kadar ciddi sonuçlar doğurabilir. Ancak sistem basit bir “sil düğmesi” değildir. YouTube, kaldırma taleplerinin hâlâ mevcut gizlilik ve denetleme kurallarına tabi olacağını, yani bazı videoların parodi, hiciv veya meşru yorum olarak nitelendirilmeleri durumunda çevrimiçi kalabileceği anlamına geliyor.
İlginçtir ki YouTube, içerik oluşturuculara orijinal sunumun çok fazla yayından kaldırmaya yol açmadığını söylüyor. Tespit edilen içeriğin çoğunun nispeten zararsız olduğu ortaya çıktı, ancak şirket, hedefli deepfake saldırılarına karşı daha yüksek riskle karşı karşıya olan tanınmış kişiler ve siyasi liderler için durumun farklı olmasını bekliyor.
Şimdilik program halktan ziyade nüfuz sahibi kişilerle sınırlı kalacak. Ancak genişleme, teknoloji endüstrisinde daha geniş bir değişime işaret ediyor: Yapay zeka tarafından üretilen medyanın gerçeklikten ayırt edilmesi imkansız hale gelmeden önce korkuluklar inşa etmek için hızla hareket etmek.
Bir yanıt yazın