Gizlilik ve dijital haklar savunucuları, birçoğunun tezahürat yapmasını beklediği bir yasa üzerinde alarmlar yükseltiyor: intikam pornosu ve AI tarafından üretilen derin dişler üzerine federal bir baskı.
Yeni imzalanan Take It Down Yasası, gerçek veya AI tarafından oluşturulan rıza dışı açık görüntüler yayınlamayı yasadışı hale getirir ve bir kurbanın yayından kaldırma talebine veya yüz sorumluluğuna uymak için platformlara sadece 48 saat verir. Mağdurlar için uzun süredir devam eden bir galibiyet olarak övülürken, uzmanlar da belirsiz dilini, iddiaları doğrulamak için gevşek standartları uyardı ve sıkı uyum penceresi aşırı erişim, meşru içeriğin sansürü ve hatta gözetim yolunu açabilir.
Dijital haklar kuruluşu Electronic Frontier Foundation'daki Federal İşler Direktörü Hindistan McKinney, Tmzilla'a verdiği demeçte, “Ölçekli içerik denetimi çok sorunlu ve her zaman önemli ve gerekli konuşmanın sansürlenmesi ile sonuçlanıyor” dedi.
Çevrimiçi platformların, rıza dışı samimi görüntüleri (NCII) kaldırmak için bir süreç oluşturmak için bir yılı vardır. Yasa, kurbanlardan veya temsilcilerinden yayından kaldırma taleplerinin gelmesini gerektirse de, sadece fiziksel veya elektronik bir imza ister – fotoğraf kimliği veya başka bir doğrulama biçimi gerekmez. Bu muhtemelen mağdurların engellerini azaltmayı amaçlamaktadır, ancak kötüye kullanım için bir fırsat yaratabilir.
McKinney, “Bu konuda gerçekten yanlış olmak istiyorum, ama bence ilişkilerde queer ve trans insanları tasvir eden görüntüleri devralmak için daha fazla istek olacak ve hatta bundan daha fazlası, bence rızaya dayalı porno olacak” dedi.
Take It Down Act'ın ortak sponsoru olan Senatör Marsha Blackburn (R-TN), çocukları çevrimiçi olarak zararlı içerikten korumak için platformlara koyan Çocuk Çevrimiçi Güvenlik Yasası'na sponsor oldu. Blackburn, transseksüel insanlarla ilgili içeriğin çocuklar için zararlı olduğuna inandığını söyledi. Benzer şekilde, Miras Vakfı – Project 2025'in arkasındaki muhafazakar düşünce kuruluşu – “trans içeriğini çocuklardan uzak tutmak çocukları koruyor” dedi.
Platformların bir talep aldıktan sonraki 48 saat içinde bir görüntüyü devirmedikleri takdirde karşılaştıkları yükümlülük nedeniyle, “Varsayılan, bunun gerçekten NCII olup olmadığını veya başka bir korumalı konuşma olup olmadığını veya isteği yapan kişiyle bile ilgili olup olmadığını görmek için herhangi bir araştırma yapmadan indirmeleri olacaktır” dedi McKinney.
Snapchat ve Meta, yasayı desteklediklerini söylediler, ancak ikisi de Tmzilla'ın bir yayından kaldırma isteyen kişinin kurban olup olmadığını nasıl doğrulayacakları hakkında daha fazla bilgi taleplerine yanıt vermedi.
Başkalarının katılabileceği kendi amiral gemisi sunucusunu barındıran merkezi olmayan bir platform olan Mastodon, Tmzilla'a kurbanı doğrulamak çok zor olsaydı kaldırmaya eğileceğini söyledi.
Mastodon ve Bluesky veya Pixelfed gibi diğer merkezi olmayan platformlar, 48 saatlik yayından kaldırma kuralının ürpertici etkisine karşı özellikle savunmasız olabilir. Bu ağlar, genellikle kâr amacı gütmeyen kuruluşlar veya bireyler tarafından işletilen bağımsız olarak çalıştırılan sunuculara güvenir. Yasa uyarınca, FTC, ev sahibi ticari bir varlık olmasa bile, yayından kaldırma taleplerine “makul bir şekilde uymayan” herhangi bir platformu “haksız veya aldatıcı bir eylem veya uygulama” yaparak tedavi edebilir.
“Bu, yüzünde rahatsız edicidir, ancak özellikle FTC Başkanı, ajansı siyasallaştırmak için benzeri görülmemiş adımlar attığında ve ajansın gücünü, platformları ve hizmetleri ilkeli, temelde bir ideolojik olarak cezalandırmak için kullanmaya söz verdiğinde,” siber sivil haklar başlatıcısı olarak, intikamlı bir şekilde sonuçlanıyor, kârlı bir açıklama.
Proaktif izleme
McKinney, platformların yayılmadan önce içeriği denetlemeye başlayacağını tahmin ediyor, böylece gelecekte daha az sorunlu yayınları var.
Platformlar zaten zararlı içerik izlemek için AI kullanıyor.
AI tarafından üretilen içerik algılama başlangıç Hive CEO'su ve kurucu ortağı Kevin Guo, şirketinin derin dişleri ve çocuk cinsel istismar materyallerini (CSAM) tespit etmek için çevrimiçi platformlarla çalıştığını söyledi. Hive müşterilerinden bazıları Reddit, Giphy, Vevo, Bluesky ve Bereal'dir.
“Aslında bu Bill'i onaylayan teknoloji şirketlerinden biriydik,” dedi Guo Tmzilla'a. “Bazı oldukça önemli sorunların çözülmesine yardımcı olacak ve bu platformları daha proaktif çözümleri benimsemeye zorlayacak.”
Hive'ın modeli bir hizmet olarak bir yazılımdır, bu nedenle başlangıç, platformların içeriği işaretlemek veya kaldırmak için ürününü nasıl kullandığını kontrol etmez. Ancak Guo, birçok müşterinin topluluğa herhangi bir şey gönderilmeden önce izlemek için Hive API'sını yükleme noktasına yerleştirdiğini söyledi.
Bir Reddit sözcüsü, Tmzilla'a platformun NCII'yi ele almak ve kaldırmak için “sofistike dahili araçlar, süreçler ve ekipler” kullandığını söyledi. Reddit ayrıca, bilinen NCII veritabanına karşı maçlar için canlı trafiği tarayan ve doğru eşleşmeleri kaldıran StopNCII aracını dağıtmak için kar amacı gütmeyen SWGFL ile ortaklık kuruyor. Şirket, yayından kaldırmayı talep eden kişinin kurban olmasını nasıl sağlayacağını paylaşmadı.
McKinney, bu tür izlemenin gelecekte şifreli mesajlara yayılabileceği konusunda uyarıyor. Yasa, kamu veya yarı kamuya açık yayılmaya odaklanırken, platformların, rıza dışı samimi görüntülerin “yeniden yüklemesini önlemek için makul çabaları kaldırması ve yapması” gerektirir. Bunun şifreli alanlarda bile tüm içeriğin proaktif taramasını teşvik edebileceğini savunuyor. Yasa, WhatsApp, Signal veya IMessage gibi uçtan uca şifreli mesajlaşma hizmetleri için herhangi bir oyma çıkışı içermiyor.
Meta, Signal ve Apple, Tmzilla'ın şifreli mesajlaşma planları hakkında daha fazla bilgi talebine yanıt vermedi.
Daha geniş özgür konuşma sonuçları
4 Mart'ta Trump, Kongre'ye ortak bir adres verdi ve bu da Take Down Down Yasası'nı övdü ve yasaya imza atmayı dört gözle beklediğini söyledi.
“Ve eğer sakıncası yoksa bu faturayı kendim için de kullanacağım” diye ekledi. “Çevrimiçi olduğumdan daha kötü muamele gören kimse yok.”
Seyirci yoruma gülürken, herkes şaka olarak almadı. Trump, ana akım medya kuruluşlarını “Halkın Düşmanları” olarak etiketliyor, ister mahkeme emrine rağmen Oval Ofis'ten Associated Press'i engelleyen veya NPR ve PBS'den finansman çekiyor olsun, olumsuz konuşmaya karşı bastırmak veya misilleme yapmaktan çekinmedi.
Perşembe günü, Trump yönetimi Harvard Üniversitesi'nin yabancı öğrenci kabullerini kabul etmesini engelledi ve Harvard'ın Trump'ın müfredatında değişiklik yapması ve DEI ile ilgili içeriği ortadan kaldırma taleplerine uymayı reddettikten sonra başlayan bir çatışmayı artırdı. Misillemede Trump, Harvard'a federal fonları dondurdu ve üniversitenin vergiden muaf statüsünü iptal etmekle tehdit etti.
“Zaten okul kurullarının kitapları yasaklamaya çalıştığını gördüğümüz bir zamanda ve bazı politikacıların insanların görmelerini istemedikleri içerik türleri hakkında çok açık bir şekilde olduklarını görüyoruz, ister kritik ırk teorisi isterse kürtaj bilgileri ister iklim değişikliği hakkında bilgi olsun… Her iki partinin üyesini bu ölçekte açık bir şekilde takip etmek için içerik ılımlılığı konusundaki geçmiş çalışmalarımızla derinden rahatsız edici,” dedi McKinney.
Bir yanıt yazın