Yapay zeka kendi deepfake'lerini nasıl açığa çıkarıyor?

Yapay zeka yardımıyla oluşturulan görüntü ve videoların ezilmiş veya eksik parmaklarla güvenilir bir şekilde tespit edilebildiği günler artık geride kaldı. Günümüzün büyük dil modelleri yalnızca anatomik olarak doğru uzuvları temsil etmekle kalmıyor, aynı zamanda gerçekçi gölgeler oluşturabiliyor ve hatta kalp atışını taklit edebiliyor. Bu, gerçek ile sahtekarlık arasında, gerçek bir kayıt ile derin sahte arasında ayrım yapmayı zorlaştırıyor.

Deepfake'ler uzun zamandır büyük bir sorun olmuştur. AB'nin planladığı yasaları sıkılaştırmasının herhangi bir şeyi değiştirip değiştirmeyeceği de şüpheli. Bu nedenle sahte içeriği güvenilir bir şekilde tespit etmek için teknik çözümler bulma çabaları vardır; sürekli gelişen modeller göz önüne alındığında bunu söylemek yapmaktan daha kolaydır.

Deepfake tespitine hibrit yaklaşım

Federal Bilgi Güvenliği Dairesi (BSI), “Özellikle otomatik tespit yöntemleri söz konusu olduğunda, bunların genellikle yalnızca belirli koşullar altında güvenilir bir şekilde çalıştıklarına dikkat edilmelidir” diye yazıyor. Fraunhofer Optronik Enstitüsü, Sistem Teknolojisi ve Görüntü Analizi IOSB ile birlikte BSI, sahteciliğe karşı yeni yöntemler üzerinde çalışıyor. RealOrRender ile yalnızca derin sahtekarlıkları tespit etmekle kalmayıp aynı zamanda bunları açıklanabilir yapay zeka anlamında anlaşılır hale getiren .

RealOrRender iki bölümlü bir yaklaşım izliyor: “İlk adımda görüntüyü bir AI görüntü oluşturucuyla yeniden oluşturuyoruz. Daha sonra bir AI modeli sınıflandırmayı devralıyor ve yeniden yapılandırma hatasını hibrit bir şekilde hesaplıyor” diyor IOSB Video Tabanlı Güvenlik ve Destek Sistemleri araştırma grubunda Kıdemli Bilim Adamı Andreas Specker bir basın bülteninde.

Geliştirilen yöntem, bu görüntüyü yüzde 100 olasılıkla deepfake olarak algılıyor. (Fotoğraf: Fraunhofer IOSB)

Basit bir ifadeyle, sistem bir görüntüyü alır ve onu önceden eğitilmiş bir yayılma modeli kullanarak işler. Bir yapay zeka, tabiri caizse orijinali geriye doğru “boyar”, böylece hem bir gürültü haritası, hem görüntünün matematiksel bir parmak izi hem de sonunda yeniden yapılanma oluşturulur. Bu nedenle orijinalin kasıtlı olarak yeniden sahtesi yapılmıştır.

Yazılım deepfake'i nasıl tanır?

Aynı zamanda sistem görüntüyü hatalara karşı tarar. Fikir: Orijinal bir deepfake ise, matematiksel parmak izi de RealOrRender'ın yeniden yapılandırmasına benzer. Ancak orijinal fotoğraf gerçek bir fotoğrafsa, gerçek fotoğraf daha fazla hata ve doğal gürültü içerdiğinden daha fazla yeniden yapılandırma hatası meydana gelecektir.

Sistem, 18 görüntü oluşturucudan gelen yaklaşık 120.000 görüntüden oluşan bir eğitim veri seti kullanarak şüpheli sapmayı hesaplıyor ve sonuçta bunun deepfake olup olmadığına dair bir değerlendirme yapıyor. IOSB araştırmacılarının yazdığına göre tanıma performansının yüzde 85 ile 91 arasında olması gerekiyor.

Isı haritası olarak yeniden yapılandırılmış görüntü: Bir kişinin sahte olduğu kabul edilen görüntü için XAI açıklamaları. (Resim: Fraunhofer IOSB)

RealOrRender'da deepfake'lerin tanımlanması, açıklanabilirlik bileşeni olan anahtar kelimeyle açıklanabilir yapay zekayı (XAI) içerecek şekilde genişletildi. Analizin sonunda sistem, “yüz, saç ve eller gibi özelliklerin yanı sıra arka planda nesnelerin dahil edilmesi de dahil olmak üzere” orijinalin sahte olduğunu gösteren ayrıntılarını vurgulayan bir ısı haritası oluşturuyor.

Bu, hem uzmanların hem de muhtemelen bir gün kullanıcıların, sistemin hangi ayrıntıları deepfake kanıtı olarak bulduğunu daha iyi anlayabilecekleri anlamına geliyor. XAI yaklaşımları aynı zamanda modellere ve onların sonuçlarına güvenmeye de yardımcı olur. RealOrRender halihazırda BSI içerisinde bir gösterici biçiminde kullanılıyor.

Bu yazı ilk sırada t3n.de göründü.

(jle)