Ağları çocukları bağımlı yapacak şekilde mi tasarladılar?

Tarihi bir deneme Mark ZuckerbergMeta'nın (Facebook, Instagram, WhatsApp) kurucusu ve CEO'su, Los Angeles jürisi önünde, kendisini de hedef alan bir hukuk davasında YouTube: Bu platformları bağımlılık yapıcı olmakla ve “çocukluk döneminde ruh sağlığına zarar vermekle” suçluyorlar. Belirlemeye çalıştığımız şey, bu uygulamaların Bağımlılık yapacak şekilde tasarlandılar.

Teklifin bir bağlamı var: Avustralya, 2024 yılı sonunda 16 yaşın altındaki küçüklerin sosyal ağ kullanımını yasakladı, İspanya Geçtiğimiz ay da aynısını yaptı ve dünya çapındaki eğitim kurumları, oluşturdukları dağılım nedeniyle cep telefonu kullanımını kısıtladı.

Sebepler ise platformların ödül sisteminden nasıl yararlandığıyla ilgili. dopamin beğenileri, etkileşimleri, tanıtımını etkinleştiren çoklu görev (aynı anda birçok görevi yapmak) ve bunun ergenlerde özellikle hassas iki durum olan depresyon ve anksiyeteyi nasıl tetikleyebileceği.

9 Şubat'ta başlayan dava, dünyanın en zengin beşinci adamını yeniden kürsüye çıkarıyor. 2018'de Zuckerberg, Cambridge Analytica gizlilik skandalıyla ilgili yanıt vermek üzere ABD Kongre Binası'na çağrıldı. 2025 yılında Federal Ticaret Komisyonu (FTC) onu tekel nedeniyle araştırdı ve o da ifade vermek zorunda kaldı. Ama bu sefer durum farklı: İlk kez jüri karşısına çıkacak.

İle Facebook'ta 3,07 milyar kullanıcı (dünyanın en büyük sosyal ağı), 3 milyar instagram ve 2,5 milyar YouTubeBu platformlar, Kaliforniya'da gerçekleşmesine rağmen tüm dünyada yankıları olabilecek bir davayla karşı karşıya. Arjantin'de bile var Buenos Aires Eyaleti'nde bir yasa tasarısı bu da kullanımın kısıtlanması anlamına geliyor.

Burada üç uzman bu deneyin kapsamını açıklıyor.

Los Angeles Yüksek Mahkemesinde görülen davada, platformları suçlayan, KGM olarak tanımlanan Kuzey Kaliforniya'dan 19 yaşındaki bir kız davacı olarak yer alıyor. bağımlılık ve depresyon yarattı on yıldan fazla kullanımdan sonra ve belirtilmemiş hasarları talep ediyor.

Dava yeni bir hukuk teorisini test ediyor: sosyal ağların veya platformlarının belirli özelliklerinin dikkate alınabileceği “kusurlu ürünler” bağımlılık yaratacak şekilde tasarlanmıştır ve bu nedenle, aleyhine açılan davalara benzer şekilde kişisel yaralanma sorumluluğu yasalarına tabi hale gelir. tütün veya opioidler.

Aynı zamanda 230. maddenin kapsamına da meydan okuyor. İletişim Ahlakı YasasıBu, teknoloji şirketlerini kullanıcılar tarafından yayınlanan içeriklerin sorumluluğundan tarihsel olarak koruyan bir kuraldır.

“Amerika Birleşik Devletleri'nde bu yasanın 230. Maddesi, dijital platformların onlar sorumlu değil kullanıcıları tarafından yayınlanan içeriğe göre. Orijinal mantık şuydu: mantıklı onaylandığı dönemde, 1996: ilk internet hizmetlerinin, forumlarda yazdıkları nedeniyle dava açılmasını önlemek için. Beklenmeyen şey ise bu yasal kalkanın, sosyal ağların platformlarında olup bitenlerden sorumlu olmaksızın uzun süre faaliyet göstermesine olanak sağlamasıydı” diye anımsıyor. Zurna Luis García Balcarce, dijital haklar konusunda uzman avukat.

“Los Angeles'taki davanın tartışmaya getirdiği şey, kalkanın kendisi değil sınırlarıdır: kullanıcılar tarafından yüklenen, standart tarafından korunan içerik ile ve platformun kendi tasarım kararlarıgibi sonsuz kaydırmaöneri algoritması veya zorunlu bildirimler” diye ekliyor.

“Ayrıca otomatik oynatma [reproducción de un contenido tras otro]Algoritmalar ve estetik filtreler tarafından önerilen bildirimler, öneriler, küçüklerde bağımlılık yaratma ve uzun vadede ruh sağlıklarını etkileme kapasitesine sahiptir. İddialarının merkezinde, sosyal ağların bağımlılık yarattığı ve tasarımlarının bilinçli olarak bu sonuca odaklandığı yer alıyor” diye ekliyor kuruluşun Kamu Politikaları koordinatörü Lucía Camacho. Dijital Haklar.

Ancak platformların, “sosyal ağların kullanımını bağımlılık yaratan bir sonuçla nedensel olarak ilişkilendiren hiçbir kanıt bulunmadığı ve tıbbi veya klinik standartlar kapsamında sosyal ağlara bağımlılık gibi bir şeyin var olmamasını suçladıkları” gibi karşı argümanları olduğu konusunda uyarıyor.

Arjantin'de, olgunluk düzeyi düşük olsa da, ağ bağımlılığı konusunda tartışmalar var. “Bu tür bir kuralımız yok ve küçüklerin verilerine ilişkin belirli bir düzenleyici çerçevemiz yok. 2000 yılında çıkarılan 25.326 sayılı Kanun, bir yetişkinin verilerinin işlenmesi ile bir çocuğun verilerinin işlenmesi arasında ayrım yapmamaktadır. Onaylanmasından yirmi yıl sonra, García Balcarce, “Sosyal ağlar ülkede fatura verilerini işleyen herhangi bir şirketle aynı rejim altında çalışıyor” diye açıklıyor.

“Yasama düzeyinde bu konuyla ilgili çeşitli girişimler ortaya çıktı. Buenos Aires Yasama Meclisi'nde bu yıl, 13 yaşın altındaki çocukların platformlarda ve sosyal ağlarda hesap oluşturmasının veya hesap tutmasının istisnasız ve ebeveyn izniyle tamamlama olanağı olmaksızın yasaklanmasını öneren bir proje sunuldu. Proje, uygulaması gerekenlerin platformlar olduğunu ortaya koyuyor. denetlenebilir mekanizmalar para cezası altında yaş doğrulaması. Ne küçüğün ne de ailesinin cezalandırılması söz konusu değil. Şirkete yaptırım uygulandı” dedi.

Ve ulusal düzeyde, “şu anda mevcut yasayı uygulayan ve kontrol eden kurum olan AAIP tarafından hazırlanan Veri Koruma Yasası reform projesi, kız, erkek ve ergenlere ait verilerin işlenmesine yönelik özel bir rejim içeriyordu” diyor.

“Projeye göre; 16 yaşın altındaki çocuklar için İşleme, yalnızca ebeveyn sorumluluğunu yerine getiren kişinin rızası ile yasal olacaktır ve verilerin, faaliyet için kesinlikle gerekli olanın ötesinde uygulamalarda ve platformlarda işlenmesini açıkça yasaklar. Bu projede ayrıca, tedavinin bireylerin hakları açısından yüksek risk oluşturabileceği durumlarda, özellikle küçüklerin ve hassas verilerin etkilenebileceği durumlarda zorunlu olan, şirketlerin bir ön etki değerlendirmesi yapması gerekmektedir.” diye bitiriyor.

“Kuzey Amerika adaletinin kararları, genel olarak, Arjantin'deki bir Mahkemenin veya Mahkemenin Amerika Birleşik Devletleri'nde verilen bir karara ilişkin olarak yapabileceği (ve bu ülkede çok özel bir uygulama olan) dipnot alıntıları dışında, bölge ülkelerinde çok güçlü bir yankı uyandırmıyor. Şimdilik Latin Amerika, kendi ataletiyle, sosyal ağların ve dijital cihazların tüketiminin çocukluk çağındaki ruh sağlığı üzerindeki etkisini yasaklayıcı yaklaşımlarla ele almaya çalışan projeler üretiyor. Temel olarak, belirli bir seviyeye kadar yasaklama yoluyla. yaş sınırı” diye ekliyor Camacho.

“Bu eğilim doğrultusunda, Kolombiya ve Brezilya gibi ülkeler konuyu zaten düzenlemiş durumda. Kolombiya, 2025 yılında, çocukları ve ergenleri etkileyen platformlardan sorumlu öz-düzenleme modelini yeniden onayladığı için gerçekte mevcut paradigmayı değiştirmeyen bir Ruh Sağlığı Yasasını onayladı” diye devam ediyor.

Uzman, “Meksika (16 yaşından itibaren), Peru (16 yaşından itibaren), Arjantin (Buenos Aires Temsilciler Meclisi'nin bir projesine göre 13 yaşından itibaren) gibi ülkeler de kullanımı yasaklamaya, platformları zorunlu kılmaya ve hizmetlerinin kullanıcıları için yaş doğrulama mekanizmaları uygulamaya koymaya çalışıyor” diye hatırlatıyor.

Arjantin şu an için Eyaletin projesinin öncü olduğu bir gizem.

Uluslararası Af Örgütü gibi kuruluşlar, ağların diğer sorunlu tüketime benzer bir bağımlılık dinamiğine sahip olduğu konusunda uyarıyor. nasıl yapıldığına dair çalışmalardan “zevk merkezleri” Amerikalı psikologlar James Olds ve Peter Milner'ın 1950'lerden bu ödül talebi şemasındaki ağları değerlendiren mevcut çalışmalarına kadar, Amerikan Psikoloji Derneği gibi çeşitli kurumlar olumsuz etki konusunda uyarıda bulunuyor.

“İş modeli yapısal olarak dikkati, kalma süresini ve etkileşimi en üst düzeye çıkarmaya dayandığında, söz konusu olan, genellikle kızların, oğlanların ve ergenlerin refahı, mahremiyeti ve gelişimi pahasına tepki üreten içeriğin çoğaltılmasını teşvik eden ekonomik bir tasarımdır. Bu bağlamda, sorumluluk sorusu sistematiktir: Bu platformların mimarisine hangi tasarım kararları, hangi dahili ölçümler ve hangi reklam mantığı rehberlik ediyor? Bu sadece hangi içeriğin dolaşıma sokulduğu değil, nasıl dağıtıldığıyla da ilgilidir. Kime ve hangi teşviklerle gösterildiğine öncelik veriyorlar” diyor İletişim Bilimleri mezunu ve UBA profesörü Carolina Martínez Elebi.

“Reşit olmayanlarda standart daha zorlu olmalı. Kız, erkek ve ergenlerin beyinlerinin gelişim sürecinde olduğunu ve belirli mekanizmaların (sürekli bildirimler, sonsuz kaydırma ve aralıklı ödüller gibi) dikkat çekmek için tasarlandığını biliyorsak, o zaman bu kullanıcılara yalnızca “sorumlu kullanımlarını” önermek yeterli değildir. Güçlendirilmiş bir bakım görevi vardır. Bu, gözden geçirme anlamına gelir. öneri modelleriticari profil oluşturma uygulamalarını sınırlandırın, aşırı kişiselleştirmeyi azaltın ve küçük hesaplarla etkileşimde bulunurken algoritmik sistemlerin nasıl çalıştığını şeffaf hale getirin. Sorumluluk yalnızca ailelerin veya okulların sorumluluğunda değil; aynı zamanda ticari ve sonuçta düzenleyici bir sorumluluktur,” diye devam ediyor sitenin danışmanı ve yazarı Elebi. DHiTecno.

Bu bağımlılık yaratan tasarıma olası çözümler olarak Elebi şunları düşünüyor: “Dikkate alınması gereken bazı olası hususlar, platformlara yönelik yapısal yükümlülükler ile haklara odaklanan kamu politikalarının bir kombinasyonu olabilir. Varsayılan olarak güvenli tasarıma ilişkin açık kurallar, davranışsal reklamlara yönelik yasak veya güçlü kısıtlamalar Reşit olmayanları hedef alan (davranışlara dayalı bölümlere ayrılmış reklamcılık), yeni işlevler başlatılmadan önce gelişim ve çocuk haklarına ilişkin etki değerlendirmeleri, öneri sistemlerinin bağımsız denetimleri ve şeffaflık ve hesap verebilirlik konusunda daha fazla talep” diye düşünüyor.

“Aynı zamanda kamusal ve sosyal kapasitelerin güçlendirilmesi de çok önemli: dijital eğitim eleştiri, ailelere ve öğretmenlere destek ve tüm sorumluluğu bireysel öz denetime devretmeyen düzenleyici çerçeveler. Tartışma, temel demokratik ilkelerden ödün vermeden çocukların ve gençlerin kapsamlı gelişimi ve haklarıyla uyumlu dijital ortamları nasıl garanti altına aldığımıza odaklanmalıdır” diye bitiriyor.

Zuckerberg ve YouTube'un duruşmasının Mart ayı sonuna kadar süreceğini tahmin ediyorlar. Tamamlandığında jüri, Amerikan Haber sisteminin en az on yıldır kaçındığı bir soruyu yanıtlamak zorunda kalacak: sosyal ağların kullanımıyla ilişkili zararların sorumluluğunun yalnızca kullanıcılara mı yoksa platformların tasarım kararlarına mı ait olduğu.