Sosyal ağlar aşırı canlı şiddete nasıl tepki veriyor?

Brenda del Castillo (20), Morena Verdi (20) ve Lara Morena Gutiérrez (15) 'in Florencio Varela'nın üçlü suçunun dehşeti, Narco Revenge iddiasıgerçeğin kendisi kadar rahatsız edici bir tarafa maruz kaldı: vahşetin bir kısmı canlı yayın başından sonuna kadar Instagram.

Araştırmacılar tarafından onaylandığı gibi, en azından 45 kişi işkence ve cinayet oturumunu özel bir hesaptan gerçek zamanlı olarak gördüsavcıların mafya disiplini olarak yorumlanması.

Dava, teknoloji endüstrisinde zaten oynayan bir alarm yaktı: Platform Kontrolleri önünde açık şiddet Ne zaman canlı yayınlanıyor?

Daha sonra kontrol edilebilen düzenlenmiş bir gönderiden farklı olarak, Canlı akışlar çok daha büyük bir zorluğu temsil ediyor. Dakikalar içinde, görüntüler moderatörlerin erişebileceği şekilde çoğalabilir, indirebilir ve dolaşabilir.

Danışmanlıktan önce ZurnaHedef resmi olarak ilan edilmedi, sistemlerinin potansiyel bir teknik başarısızlığı çok daha az tanındı.

Sosyal ağlar var Grafik içerikte katı standartlar. Örneğin düzenlemelerinde, Tiktok Uyarı etiketleri altındaki şiddet sahnelerinin görünürlüğünü kısıtlamanın yanı sıra parçalanmış, katliam, infazlar veya maruz kalan visera gösteren herhangi bir iletimi ortadan kaldırdığına dikkat çekiyor.

İçinde AmaçInstagram'ın sahibi, benzer kriterler uygulanır: Nefret eden veya aşırı şiddeti gösteren içeriğin yayınlanmasını yasaklarlar, bu bir izleme ile algoritmaları ve insan müdahalesini birleştirir.

Parçalanmalar, maruz kalan visera, katliam, infazlar veya yanmış insanlar ve her türlü aşırı hayvan zulmü, intihar veya cinsel istismar gösteren videolar da topluluk normlarının dışındadır.

Bu tür içerik canlı bir yayında görünürse, hedef Akışı hemen kesin ve sorumlu hesaba yaptırımlar uygulayabilir.

Bununla birlikte, bazı istisnalar vardır. Sistem, belirli hassas malzemelerin yayılabileceğini düşünür. İçerik uyarıları veya yaş sınırlamalarıörneğin ameliyatlar, tıbbi acil durumlar veya silahlı çatışmaların veya felaketlerin gazetecilik kapsamında.

Bu durumlarda, platform uygulanır uyarı etiketleri Ve yalnızca 18 yaşın üzerindeki kullanıcıların bu görüntüleri görmek isteyip istemediklerine karar vermelerini sağlar. Diğer sosyal ağ politikaları ihlal edilmediği sürece bu kategorilere girmeyen her şey – günlük müzik, spor, eğlence veya bilgi aktarımlarına izin verilir.

Canlı yayın da var Moderatörler ve gerçek zamanlı rapor araçlarıancak bunlar zaten konsolide içerik hakkında her ikinci hesabın önünden daha iyi çalışan filtrelerdir.

Bir suç yayınının ilk kez küresel eleştiriyi ortaya çıkardığı ilk kez değil. Mart 2019'da, beyaz bir üstünlükçü, Yeni Zelanda'daki iki Camu De Christchurch'teki 50 kişiyi öldürdü ve Facebook Live'a saldırı yaptı. Görüntüler yüksek hızda dolaştı ve Sosyal ağ onları ortadan kaldırmak için saatler aldıdüzenlenen kopyalar diğer platformlarda kontrol olmadan çoğaltılmıştır.

Öfke dalgası zorla Facebook (bugün hedef) Kurallarınızı sertleştirin canlı yayın.

Diğer önlemlerin yanı sıra, şirket daha önce topluluk standartlarını ihlal eden ve yatırım yapan kullanıcıların işlevine erişimi kısıtladı. tanımlayabilen ve engelleyebilen yazılımR Hızlı Videoların Sürümlerini Düzenledi. Yine de, bölüm, iğrenç görüntülerin gerçek zamanlı olarak yayılmasını durdurma konusunda hiçbir filtrenin yanılmaz olmadığını açıkça belirtti.

Tiktoker'in öldürülmesinden sonra tema daha da acil oldu Valeria Márquez2024'te Meksika'da canlı bir yayın yaparken vurulduğunda meydana geldi.

Tiktok'ta binlerce takipçi biriktiren genç kadın, takipçileri canlı olanları izlerken kameranın önünde öldü. Suç, kamuoyunu şok etti ve platformların gerçek zamanlı olarak ortaya çıkan aşırı şiddet durumlarında daha hızlı hareket etme iddialarını yeniden canlandırdı.

O Márquez davası İki merkezi ikilem sundu: Tiktok'un şiddet içeren içerik ve ağların etik sorumluluğu, kan gerçeklerinin dijital bir gösteri olmasına izin vermemede tespit edildiğinde canlı yayınları kesmek için teknik kapasitesi.

Şirket videoyu kısa bir süre sonra ortadan kaldırmasına rağmen, materyal mevcut sistemlerin sınırlamalarını gösteren diğer hesaplarda zaten çoğaltılmıştı.

Platformların rolü hakkındaki tartışma tekrar yoğunlaştı 2025'in başında, Meta, Instagram'da belirli kullanıcılara, öldürülen veya sakatlanmış kişilerin sahnelerinin gösterildiği bazı kullanıcılara grafik videoları öneren bir hatadan sonra özür dilediğinde.

Yayınlandığı gibi Wall Street Journalbu videolardan bazıları görselleştirmelerini büyük ölçüde teşvik eden “hassas içerik” uyarısını bile içermiyordu.

Şirket, tavsiye sistemlerinde bir başarısızlık olduğunu ve sorunu çözdüğünü iddia etti. Bununla birlikte, bölüm alarmları yaktı çünkü öneri algoritmalarının saniyeler içinde nasıl yükselebileceğini sundu, Topluluk normlarının kendilerini yasakladığı içerik.

Meta, olayın harici veri doğrulama programını sona erdirme kararıyla bağlantılı olmadığını açıklamasına rağmen – Facebook, Instagram ve konulardaki topluluk notları modeliyle değiştirilse de, hata otomatik ve insan kontrollerinin gösterdiğini gösterdi. Her zaman ulaşmazlar Şiddet içeren görüntülerin dolaşımını durdurmak için.

Florencio Varela'nın üçlü suçu gibi vakalar, ifade özgürlüğü ile toplum koruması arasındaki gerilimi tekrar kanıtlıyor.

Teknoloji şirketleri canlı formatı bir özgünlük alanı ve kitleyle doğrudan bağlantı, ancak kontrol edilmesi en zor senaryo olduğunu kabul edin.

Paralel olarak, dijital hukuk uzmanları, mevcut filtrelerin bir disiplin biçimi olarak şiddetlerini sergilemeye çalışan suç örgütlerine karşı yeterli olmadığını savunmaktadır.

Bazıları için durum, platformları mekanizmaları uygulamaya zorlayan düzenleyici değişiklikleri hızlandırabilir. “Otomatik Kesim” Aşırı şiddetin tespit edildiği iletimlerde, bugün deney aşamasında olan bir şey.