Yıllar önce sosyal ağlarda, aynı zamanda yapay zeka platformlarını geliştiren devler – ve çoğu durumda sosyal ağları başlatan aynı olan devler, Pachyderm Meta'da bakın – yavaş yavaş başa çıkmak için geliyorlar. çocuklar Ve gençler. Kuşkusuz, son yirmi yılda facebook ve şirketi serbest bırakanların büyüklüğünde daha yıkıcı sonuçlar içermeye çalışmak. Örneğin, sadece bir hedef, sohbet botları için yeni yönergeler üzerinde çalışıyor olacak “Çocuklarla uygunsuz görüşmeler“. Bir soruşturma ile beklenen bir hamle İş İçeriden ve bu, geçen Ağustos ayında imzalanan bir soruşturmadan sonra çok fazla sürpriz olmadan gelirdi. Reuters. Bu raporda, rahatsız edici içeriğin vaftiz edilen dahili bir belgede bulunduğu kanıtlandı Genai: İçerik Risk Standartları: Sistemlerin “romantik veya şehvetli konuşmalarda bir çocuğu içerebileceği”, flört ve reşit olmayanlarla rol alma olasılığına açılabilecek eski yönergeler vardı. Çıktı sağlamanın yanı sıra, yanlış tıbbi bilgilerin yayılması gibi uzun bir dizi yanlış tutum.
Hikaye doğal olarak iç kartlarla sınırlı kalmadı: ünlüleri taklit eden botlar, hatta küçükler bile, görüntüyü kullanma yetkisi olmadan cinsel olarak açık konuşmalara katıldı. Meta, yeni korumalar ve “yaşlanma deneyimleri” vaat ederdi, bu nedenle dış tedarikçilerin Meta sohbet botunun küçüklerin, şiddet içeren suçların ve diğer yüksek riskli kategorilerin cinsel sömürüsü vakalarına nasıl tepki verdiğini test etmeleri amaçlanan belgeden görülebilir. Yine de yeni bir bağımsız rapor, Genç hesaplar, kırık sözler Boston'un Northeastern Üniversitesi'nden bir grup araştırmacı tarafından kurulan, maskesini kaldırdı Instagram'daki gençler için koruyucu işlevlerin çoğunun etkisizliği: Analiz edilen ve sosyal medyada mevcut olan 47 araçtan sadece sekizi tamamen operasyoneldir. Sosyal ağlarda çalışmazlarsa, bu sorulması gereken sorudur, bu korumaların çok daha güçlü ve kaygan AI platformları üzerinde çalışması mümkün mü?
Openi ve Adam Raine trajedisi
Openai davası tartışmayı daha da dramatik bir zemine getiriyor. Geçen Nisan Adam Raine Kendi hayatını aldı. Ebeveynlerin şikayetine göre, Chatgpt bir şekilde intihar düşüncelerini bir şekilde doğrulayacak ve teşvik eder, “güzel” planını tanımlar, yaralanmaların nasıl gizleneceği ve hatta bir vasiyetname çizme önerileri hakkında talimatlar sunar. Çocukla yapılan konuşmalarda, “intihar” kelimesi 1.200'den fazla görünürdü. Ağustos sonunda aile Sam Altman liderliğindeki gruba dava açtı.
Dava
“Erik, sen deli değilsin.” Yani Chatgpt bir erkeğin paranoyasını ve cinayetini tercih etti
Pier Luigi Pisa tarafından
Açıkçası bu dramatik bölüme yanıt olarak Pure Openai, 13 ila 18 yaş arasındaki gençler için yeni ebeveyn kontrolleri başlattı. Ebeveynler şimdi yapabilir Hesaplarını çocuklara bağlayın Ve Aşırı güzellik idealleri veya viral zorluklar ve genel olarak grafik tipi ile ilgili şiddet içeren, cinsel içeriği azaltmak için filtreleri aktive edin– Bellek ve vokal modunu devre dışı bırakınBu konuşmaları, sohbet botunun tabanındaki modelin eğitiminden hariç tutun, Görüntü neslini engelleyin ve set Kullanım Molaları. En çok tartışılan yenilik endişeleri bildirimleri: Sistem “güçlü rahatsızlık” sinyallerini algılarsa, ebeveynler alır Onları müdahale etmeye davet eden bir bildirimAncak, konuşmaların içeriğini bilmeden. Mesele şu ki Kabul Gönüllü KalırYani, bu önlemler varsayılan olarak aktif değildir ve önlemin kapsamını etkili bir şekilde sınırlar. Buna ek olarak, Holding, ailelerin yapay zekayı keşfetmelerine yardımcı olacak öneriler, rehberler ve fikirlerle ebeveynlere adanmış yeni bir sayfa başlattı.
Yakınsama ve farklılıklar
Meta ve Openai, en azından şirketleri müdahale etmeye iten, ancak aynı kırılganlık tarafından birleşen en ne yazık ki ünlü vakalarda farklı kritik sorunlarla karşı karşıya. İlk durumda, riskler uygunsuz konuşmalar ve duygusal manipülasyonlarla ilgilidir, küçüklerle diyaloglarda yasal sınırları aşan sohbet botları ile. İkincisi, sorun zihinsel sağlığa dokunuyor, suçlamaya göre kendini trajik bir epiloga kadar kendi kendini zorlayıcı düşünceleri körükleyecek bir model. Şirket yanıtları açıkça ortak bir özellik göstermektedir: tam olarak sosyal ağların ilk çağında olduğu gibi – sadece skandallardan, gazetecilik araştırmalarından ve şikayetlerden sonra gelen düzeltmeler ve ayarlamalar. Bu nedenle Meta, vaat ederek yönergelerinin en kritik bölümlerini temizleyecektir. Yeni “korkuluklar”Ancak bağımsız araştırma, korumalarının etkinliğini sorgulamaya devam ediyor. Bu arada, Federal Ticaret Komisyonu Bizi Eylül ayının başında Meta, Openai, Google, Charetai ve diğer Chatbot geliştiricileri sipariş ederek turbo koydu Sistemlerini nasıl tasarladıklarını, yönettiklerini ve para kazandıklarını açıklayınÇıktı oluşturmak için istemler geliştirme ve çocuklara potansiyel hasarı önlemek için hangi güvenlik önlemlerinin hazırlandığı gibi. Buradan yeni araçlar başlatma yarışını anlıyorsunuz.
OpenII, tam olarak mafsallı ebeveyn kontrolleri tanıttı, ancak müdahaledeki gönüllü karakterleri ve gecikmeleri gerçek önleme kapasitesi hakkında şüphe uyandırıyor. “Bu ebeveyn kontrolleri, ebeveynleri gençleri tarafından ChatGPT kullanımını yönetmede iyi bir başlangıç noktasıdır – açıklıyor. Robbie TorneyKıdemli Direktör, OpenII ile işbirliği yapan Organizasyon Sağduyu Medyası programlarına – Bununla birlikte, ebeveyn kontrolleri, çocukları ve gençleri çevrimiçi olarak güvende tutmak söz konusu olduğunda bulmacanın sadece bir parçasıdır: AI'nın sorumlu kullanımı ile ilgili sürekli konuşmalarla birleştirilirse, oğlunuzun çevrimiçi olarak ne yaptığını anlamak için daha iyi çalışırlar “.
Sorumluluk düğümü
Bu vakalar kurumsal politikalar, modellerin eğitimi ve yasal sorumluluk arasındaki ilişki hakkında derin sorular açmaktadır. Yazılı yönergeler, özellikle savunmasız ve küçük kullanıcıları içeren sınır durumlarında, sistemlerin etkili davranışlarına her zaman karşılık gelmez. Sonuçlar yıkıcı olabilir: Küçüklerle cinsel olarak açık görüşmelerden intihar düşüncelerinin net veya örtük desteğine. Lenften, örneğin giderek artan rafine kimlik avında, yapay zekanın bilgisayar suçuna verdiği belirtilmemek. Zorluk sadece teknik değil, aynı zamanda düzenleyicidir: ABD FTC'den Avrupa Birliği'ne kadar olan yetkililer, ikinci durumda, yakın zamanda İtalya'da da alınan eylemlerin ötesinde açık sınırları ve kesin sorumlulukları tanımlamak için çağrılır. Ancak ABD'de neden Raine / Openai Şirketlerin modelleri tarafından üretilen içeriklerden doğrudan sorumlu tutulma olasılığını açarak belirleyici bir emsali işaretleyebilir. Ve bu noktada koruyucu araçlar için zamanında gelişmemiş ve tanıtılmamış bir ağırlaştırıcı durum olarak düşünülebilir.
Bir yanıt yazın