Brezilya, ünlülerin görüntülerini ve videolarını çevrimiçi dolandırıcılık amacıyla manipüle etmek için yapay zeka araçlarının artan kullanımına karşı harekete geçiyor. Geçtiğimiz hafta Brezilya'nın beş eyaletindeki polis, bu tür çevrimiçi dolandırıcılıkla bağlantılı çok sayıda tutuklama emri çıkardı ve varlıkları dondurdu. Bu, Brezilya'nın günlük O Globo gazetesi tarafından bildirildi.
“Modo Selva” (“Jungle Modus”) operasyonu), 20 milyon reali (3,2 milyon euro) değerinde deceon dolandırıcılığı gerçekleştiren bir grup dolandırıcıya yönelikti. Polise göre grup, Brezilyalı model Gisele Bündchen ve diğer ünlülerin yapay zeka (AI) yardımıyla sahte videolar üretti ve kurbanlara Instagram üzerinden satın alma yaptırdı, bu sayede yalnızca nakliye maliyetleri hesaplandı.
Gisele Bündchen, Ağustos ayında sosyal ağlarda portresinin yapay zeka tarafından kötüye kullanılmasını kınamıştı. O dönemde model, takipçilerini aslında sahte olan sponsorlu bir içerik konusunda uyarmıştı. “Yapay zeka tarafından manipüle edilen resmim ve sesim ile sahte reklam yapan birçok hesap var. Dolandırıcılığın kurbanı olmamak için dikkatli olun. Bildirin!” Yazdı.
İçeriklerden sosyal medya platformları sorumludur
Haziran ayında Brezilya Yüksek Mahkemesi, sosyal medya platformlarının kullanıcılarından gelen yasa dışı içerikten sorumlu tutulabileceğine karar verdi. İlgili katkıların silinmesi için önceden verilmiş bir yargı kararı gerekli değildir. Instagram'ın ana şirketi Meta, Reuters haber ajansına göre, yönergelerinin “insanları kandırmak için kamusal yaşamda hileli bir şekilde kullanan” reklamları yasakladığını söyledi. Bu tür reklamlar “keşfedilirse” kaldırılacaktır. Birinde ayrıca “ünlü yemini tanımak için özel sistemler” var. Şirket, “eğitimli inceleme ekiplerine büyük yatırım yaptığını, dolandırıcılığı önlemeye yönelik ipuçları aktardığını ve olası ihlalleri bildirmek için araçlar sunduğunu” açıkladı.
O Globo'ya göre Brezilya'daki soruşturma, yalnızca 44,57 Real (7,12 euro) değerindeki dolandırıcılık kurbanının polise başvurmasının ardından başladı. Bündchen'in “ücretsiz kırışıklık önleyici set” kampanyasını yürüttüğü manipüle edilmiş bir videonun görülebildiği bir Instagram reklamı tarafından aldatıldı. Polis, “Suçlular, Gisele Bündchen'in resmi ve sesinin yer aldığı ve modelin gerçekte var olmayan bir ürünün reklamını yaptığı izlenimini veren bir Deepfake videosu oluşturmuşlardı” dedi.
Reuters'e göre mağdurların çoğu, genellikle 100 Real'den (16 Euro) az olmak üzere yalnızca küçük miktarlar kaybetti ve genellikle suçları belirtmediler. Bir polis sözcüsü yaptığı açıklamada, “Bu, suçluların bir tür 'istatistiksel dokunulmazlığa' sahip olduğu ters bir duruma yol açtı. Çoğu insanın onları göstermeyeceğini biliyorlardı ve bu nedenle büyük ölçekte korkusuzca hareket ettiler.” dedi.
(Akın)
Bir yanıt yazın