Sosyal medyadaki yüz binlerce takipçisinin “Tıbbi Mythbuster” olarak bilinen bir doktor olan Dr. Joel Bervell, yanlış sağlık iddialarını çevrimiçi olarak reddetmekle ün kazandı.
Bu yılın başlarında, bu takipçilerin bazıları onu tam olarak ona benzeyen bir adamı içeren başka bir hesapta bir videoya uyardı. Yüz onun idi. Ses değildi.
Haberler'e “Çoğunlukla korktum,” dedi. “Bana benziyordu. Bana benzemedi … ama geçmişte asla tanıtmadığım bir ürünü benim olmayan bir sesle tanıtıyordu.”
Siber güvenlik uzmanlarına göre, derin bir müjde – fabrikasyon tıp uzmanlarına sahip ve büyüyen bir kitleye ulaşan bir içerik örneği. Bervell'in benzerliğiyle video, birden fazla platformda ortaya çıktı – Tiktok, Instagram, Facebook ve YouTube.
Geçtiğimiz ay boyunca yapılan bir CBS haber soruşturması, sosyal medya sitelerinde düzinelerce hesap ve 100'den fazla video buldu, bazıları gerçek doktorların kimliklerini kullanan, öncelikle güzellik, sağlıklı yaşam ve kilo kaybı ile ilgili ürün satmaya çalıştı. Çoğu Tiktok ve Instagram'da bulundu ve bazıları milyonlarca kez görüntülendi.
Haberler tarafından incelenen çoğu video, bağımsız web siteleri veya tanınmış çevrimiçi pazarlar aracılığıyla ürün satmaya çalışıyordu. Sık sık cesur iddialarda bulundular. Bir video “Ozempic'ten% 96 daha etkili” bir ürünü tanıttı.
Siber güvenlik şirketi ESET de yakın zamanda bu tür içeriği araştırdı. ESET'in güvenlik araştırmacısı Martina López'e göre, Tiktok ve Instagram'da AI tarafından üretilen doktorları kullanarak 20'den fazla hesap tespit etti.
“İster bazı videoların viral gitmesi veya daha fazla takipçi kazanması nedeniyle olsun, bu tür içerik giderek daha geniş bir kitleye ulaşıyor” dedi.
Haberler, politikaları hakkında netlik elde etmek için Instagram'ın ana şirketi Tiktok ve Meta ile temasa geçti. Her iki şirket de platform politikalarını ihlal ettiklerini söyleyerek Haberler tarafından işaretlenen videoları kaldırdı. Haberler ayrıca Gizlilik Talep sürecinin “kullanıcıların izinsiz olarak gerçekçi bir şekilde simüle eden AI tarafından oluşturulan içeriğin kaldırılmasını talep etmelerini” sağlayan YouTube'a ulaştı.
YouTube, Haberler tarafından sağlanan videoların topluluk yönergelerini ihlal etmediğini ve platformda kalacağını söyledi. Youtube, “Politikalarımız, yerel sağlık otoritesi (LHA) belirli sağlık koşulları ve maddeler hakkında rehberlikle çelişen tıbbi yanlış bilgilendirme yayarak ciddi bir zarar riski oluşturan içeriği yasaklıyor.” Dedi.
Tiktok, Ocak ve Mart arasında, yapay zeka tarafından oluşturulan içerik üzerindeki politikalarını ihlal eden içeriğin% 94'ünden fazlasını proaktif olarak kaldırdığını söylüyor.
Haberler Meta ile temasa geçtikten sonra şirket, reklam standartlarını ihlal eden videoları kaldırdığını ve sağlık ve sağlıklı yaşam politikalarını ihlal eden diğer videoları kısıtladığını ve onları sadece 18 yaş ve üstü için erişilebilir hale getirdiğini söyledi.
Meta ayrıca kötü aktörlerin, uygulanmadan kaçmaya çalışmak için taktiklerini sürekli geliştirdiklerini söyledi.
Tony Anscombe, dolandırıcıların içeriğinin kalitesini önemli ölçüde artırmak için hazır bulunabilen AI araçlarını kullandıklarını ve küçük cihazlarda videoları görüntülemenin görsel tutarsızlıkları tespit etmeyi zorlaştırdığını söyledi.
ESET, bir kişinin titreme, bulanık kenarlar veya bir kişinin yüzünde garip bozulmalar gibi aksaklıklar da dahil olmak üzere AI tarafından üretilen içeriği tespit etmesine yardımcı olabilecek bazı kırmızı bayraklar olduğunu söyledi. Görsellerin ötesinde, robotik görünen veya doğal insan duygularından yoksun bir ses, yapay zekanın olası bir göstergesidir.
Son olarak, izleyicilerin mesajın kendisine şüpheci olmaları ve dijital dolandırıcılıklarda yaygın taktikler olan “mucize tedavileri” veya “garantili sonuçlar” gibi abartılı iddiaları sorgulamaları gerektiğini söyledi.
“Hiçbir şeye güven, her şeyi doğrulayın,” dedi Anscombe. “Yani bir şey görürseniz ve bilirsiniz, bu mucize tedavisi olduğunu iddia ediyorsa ve bu mucize tedavisi X'den geliyor, gidip X'den kontrol edin … ve bağımsız olarak yapın. Bağlantıları takip etmeyin. Aslında gidip göz atın, arayın ve kendinizi doğrulayın.”
Bervell, takipçilerinden onları rapor etmelerini istedikten sonra benzerliğini içeren derin peynir videolarının kaldırıldığını söyledi.
Haberler üzerinden Dr. Joel Bervell
Ayrıca, bunun gibi videoların tıpa halkın güvenini zayıflatacağını söyledi.
“Orada kurgu olduğunda, doğru olmayabilecek bir şey söyleyen bir alanda uzman olduğu düşünülen şeylere sahibiz” dedi. Diyerek şöyle devam etti: “Bu, gerçeğin ne olduğunu bozar ve halkın bir doktordan, genel olarak sağlık sisteminden bilimden çıkan herhangi bir şeye inanmasını zorlaştırır.”
Bir yanıt yazın