Bir grup araştırmacı çok tuhaf bir deney yaptı: sadece botların sosyal bir ağı oluşturuldu. Nasıl gittiğini bir araya getirelim.
Bir grup araştırmacıAmsterdam Üniversitesi Alışılmadık ama açıklayıcı bir deney yaptı: Sadece chatbot tarafından yaşayan bir sosyal ağ oluşturun Dilbilimsel modele dayanarak Openii tarafından GPT-4O. Amaç, büyük teknoloji tarafından çevrimiçi nefret, dezenformasyon ve kutuplaşmaya karşı koyma stratejilerinin gerçekten kontrollü bir bağlamda çalışıp çalışamayacağını kontrol etmekti.
Ancak sonuç, Teşvik etmekten çok uzaktı. Test edilen altı önlemin temel sorunları çözmede etkisiz olduğu kanıtlanmıştır, bazıları yan etkiler bile üretmiştir ve görüş çeşitliliğini vb. Teşvik etmek için hedefleri kaçırmıştır …
Karşılaşılan ana sorunlar
. kronolojik yemÖrneğin, sıklıkla bir paşa olarak çağrılan, dikkatde eşitsizliği azalttı, ancak beklenmedik bir yan etkiye sahipti: Aşırılıkçı içerik görünürlüğün tepesine getirildi. Bu, görünüşe göre basit müdahalelerin bile, istedikleri aynı dinamikleri güçlendirebileceğini göstermektedir.
Antropik: Claude, saldırgan veya tehlikeli olduğunu düşünüyorsa artık bir sohbeti bağımsız olarak kapatabilir
Saniye Petter TörnbergYapay ve Sosyal Medya Zekası Profesörü, E Maik larooijÇalışmanın ortak yazarı, sorun sadece toksik içeriğin varlığında değil. Asıl kritiklik şu ki Bu içerikler sosyal ağların yapısını denetlerradikalleşmeyi güçlendiren yeniden düzenleme döngüleri üretme.
Çalışmanın sonuçları
Çalışma ayrıca Aşırı dikkat konsantrasyonu: Çok az içerik etkileşimlerin çoğunu katalize ederek Post'un çoğunluğunu görünmezliğe düşürür. Üretken yapay zekanın ortaya çıkmasıyla birlikte daha da kötüleşen bir dinamik.
“IA'nın dikkatini en üst düzeye çıkaran, genellikle dezenformasyonu aktaran veya polarize eden mesajlar oluşturmak için IA'nın nasıl kullanıldığını zaten gözlemliyoruz.“, Törnberg açıkladı. Araştırmacılar üzerinde düşünmeye davet ediyorlar Sosyal medyanın yapısal kırılganlığı. Açık ve yapıcı bir karşılaştırma için sanal yerlerin ilk vaatleri bugün çok uzak görünüyor. Aksine, ortaya çıkan senaryo, aşırılık ve kontrolsüz otomasyonu çıkarmak için gittikçe daha verimli bir zemin haline gelmeyi amaçlayan platformların senaryosudur.
Bir yanıt yazın