Çocuk istismarı görselleri içeren Instagram reklamları

İngiliz yayın kuruluşu BBC tarafından yapılan araştırma, Instagram'da çocuklara yönelik cinsel şiddet tasvirleriyle mücadelede şok edici başarısızlıkları gün ışığına çıkarıyor: Instagram operatörü Meta, görünüşe göre platformdaki bu tür reklamlara karşı yalnızca sınırlı bir önlem alıyor ve bu tür görsellerin ticareti için kullanıcıları Hint dilindeki Telegram gruplarına yönlendiriyor. Meta eylemsizliğini reddederken, Hindistan'ın en kıdemli eski yargıçlarından biri acil bir adalet ihtiyacı görüyor.

Yetişkin kadınlara ait cinsel içerik barındıran çeşitli hesaplardan oluşan bir yapıyı kullanan BBC gazetecileri, Instagram algoritmasını açıkça Hint pornografik içeriğini gösterecek şekilde kandırmayı başardılar. İkincisini yaymak, reşit olmayanları ilgilendirip etkilemediğine bakılmaksızın Hindistan'da başlı başına yasa dışıdır. Ancak araştırma daha da kötü bir şeyi ortaya çıkardı: Bu koşullar altında algoritma, çocuklara yönelik cinsel şiddet içeren sahneleri, çocukların yer aldığı cinsel içerikli içerikleri veya az önce yaşadıkları istismar deneyimlerini gözyaşları içinde aktaran çocukları tekrar tekrar gösterdi ve kullanıcılara şu çağrıyı yaptı: Daha fazlası için buraya tıklayın!

Kötüye kullanım tasvirleri için pazar yerlerine bağlantılar

BBC'ye göre, ilgili bir bağlantı, reklamı yapılan videoların daha sonra düşük fiyatlarla sunulduğu bir Telegram grubuna yönlendirdi; bazıları 99 Hint rupisi (yaklaşık 90 euro sent) karşılığında. BBC bu ve benzeri toplam 30 vakayı bildiriyor. Gazeteciler yetişkinlere yönelik pornografiye yönelik 20 ek reklam tespit edebildiler. Daha ayrıntılı olarak açıklanan bir vakada gazeteciler bulgularıyla Meta'ya başvurdu. Şirket 24 saat içinde yanıt verdi ve topluluk kurallarını açıkça ihlal etmediği için söz konusu içeriğin kaldırılmadığını açıkladı. Başka bir durumda Meta aynı modeli kullanarak yanıt verdi. Bu özellikle şaşırtıcı çünkü Meta'nın reklamverenlere yönelik yönergeleri çıplaklığın, cinsel organların ve çocuk istismarının gösterilmesini yasaklıyor. BBC ayrıca Instagram reklamlarının arkasındaki ilgili grupları Telegram'a bildirdi. Telegram bunları çoğunlukla kaldırsa da bir grup bir süre sonra hala aktifti.

Meta genellikle reklamverenlerinin içeriğini otomatik olarak kontrol eder. Kontrolde kullanılan görseller, videolar, metin ve ses parçalarının yanı sıra bağlantılar da yer alıyor. Sistem burada çalışmıyor gibi görünüyor. Meta daha sonra BBC'ye yaptığı açıklamada şunları itiraf etti: “Hiçbir sistem mükemmel değildir ve ihlallerin denetim süreçlerimiz tarafından tespit edilememesi mümkündür.” Tespit edilen çocuk istismarı vakaları, çocuk istismarıyla mücadele eden bir ABD kurumu olan Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi'ne (NCMEC) bildirilecek.

Meta sorunlu reklamlardan para kazanıyor

Madan Lokur, Hindistan Yüksek Mahkemesinin eski bir yargıcıdır. Kendisi, Hindistan yasalarının standartlarına göre Meta'nın halihazırda para kazanmak için cinsel reklam içeriği uygulamalarını kullanarak suç faaliyetleri yürüttüğünden korkuyor. Ona göre bu durum, yargının “suo moto cognizance” ilkesine göre hareket etmesine kadar varıyor: Mahkeme, önceden delil olmaksızın, örneğin soruşturma veya dava gibi bir suça karşı işlem yapabilir.

Meta'nın sosyal platformlarındaki reklamlar şirkete gelirinin büyük çoğunluğunu sağlıyor. 2025 yıllık raporuna göre 200,1 milyar doların yaklaşık 196,2 milyar doları. Bir dizi sahte reklam dahil. Meta bunlarla şüpheli bir sistem izliyor: Otomatik bir sistem, her reklam için dolandırıcılık olasılığını hesaplıyor. Engelleme yalnızca bu oran yüzde 95'in üzerinde olduğunda gerçekleşir. Aşağıdaki değerler daha yüksek olduğunda Meta para kazanır: Reklam verenler, beraberlerinde getirdikleri risk nedeniyle reklamları için ekstra ödeme yapmak zorunda kalırlar. Dolandırıcılık alanında Meta, potansiyel olarak sorunlu reklamlardan kesinlikle kar elde ediyor.

Eski Başkan Yardımcısı: Meta, kullanıcıları yeterince korumuyor

Bu, Meta'nın Hindistan'daki çocuk pornografisiyle ilgili sorunlarını vurguluyor. BBC ayrıca bu konu hakkında eski Meta başkan yardımcısı Brian Boland ile de görüştü. 2009'dan 2020'ye kadar Meta'nın reklamcılık işinden de sorumluydu. Ayrıca çok sayıda sorunlu reklam gönderisini de kaldırdı. Ancak zamanla Meta'nın rotası burada değişti. “'Zararlı içerikten korunmak yerine daha fazla kullanıcı etkileşimi' gibi takas yapmak Meta'nın temel konularından biri haline geldi” diye eleştiriyor. Meta'nın algoritması, kullanıcılara her zaman “daha ekstrem ve baştan çıkarıcı şeyler” göstererek kullanıcıları platformlarda tutmak için tasarlandı. Algoritma, kelimenin tam anlamıyla “insanları sübyancıya dönüştürmek” için tasarlanmamıştır. Ancak Meta'dan sorumlu olanların kullanıcılar konusunda agresif bir şekilde koruyucu bir yol izlememesi durumunda bu olası bir sonuçtur.

Meta, kendi algoritmasını ve sorunlu reklamları yönetmedeki sorunu göz ardı ediyor. Meta, BBC'ye bilerek ve kasıtlı olarak çocukları içeren reklamları pedofil eğilimi olan kullanıcılara göstermesinin “kategorik olarak kesin olmayan” bir temsil olduğunu vurguladı. Çocuk istismarı acımasız bir suçtur ve Meta, uygulamalarında bununla agresif bir şekilde mücadele edecektir. 2025 yılında yaklaşık dört milyon hesap, “potansiyel olarak şüpheli davranışların yeterli işaretlerini” gösterdikten sonra otomatik olarak devre dışı bırakıldı. Meta'nın uzmanları, seks suçlularını durdurmak için sürekli olarak yeni teknolojiler üzerinde çalışacak ve bulgularını diğer şirketlerle paylaşacak.

Almanya'da bu tür içeriklere karşı mücadele büyük ölçüde ABD'den gelen bu tür bilgilere bağlı. Geçmişte Avrupa'daki WhatsApp, Instagram, Microsoft ve Google gibi şirketler, içerikleri otomatik programlarla tarayabiliyor ve yasaklı içerikleri NCMEC'e bildirebiliyordu. Örgüt, bu tür bilgileri dünya çapındaki kolluk kuvvetlerine, Almanya'da Federal Kriminal Polis Dairesine iletir. Bunu mümkün kılan ise görünüşe göre Hindistan'da çalışmayan otomatik sistemler. Ancak AB'de WhatsApp, Instagram ve Co.'daki sohbetlerin olası suçlara karşı taranmasına izin verilmesi tehlikede. Gelecek hafta AB Parlamentosu, çevrimiçi platformların özel iletişimleri aramasına izin veren Avrupa veri koruma kurallarına yönelik bir istisnayı genişletmeyi değerlendirecek.

Baden-Württemberg'li iki bakan, bir mektupta projeyi desteklemeleri için AB milletvekillerine çağrıda bulundu: Mektupta “2024 ve 2025'te Federal Kriminal Polis Ofisine 200.000'den fazla ihbar gönderildi” deniyor. İçişleri Bakanı Manuel Hagel ve Adalet Bakanı Moritz Oppelt (her ikisi de CDU), bunların yarısından fazlasının suçla ilgili olduğunun ortaya çıktığını yazmaya devam ediyor.

Meta'nın eski reklam patronu Boland, geçen yıl Instagram hesabını kendisi silmişti. Elbette olumlu bir değişim şansı olarak gördüğü tek yol bu. “Fakat yalnızca kitleler 'Yeter, unut gitsin, ben buradan gidiyorum' dediğinde Meta eninde sonunda tepki verecektir.”

(HAYIR)