Bir meta hesabınız varsa, Meta AI'niz var. Meta'nın tescilli chatbot, kendi uygulamasından bahsetmemek için Instagram, Facebook ve WhatsApp dahil olmak üzere en ünlü ürünlerine inşa edilmiştir. Onunla etkileşime girmeye zorlanmasanız da, AI her zaman oradadır ve her zaman sohbet etmek için kullanılabilir. Bu genç hesaplar için de geçerli.
Bu yüzden Meta'nın AI teknolojisinin çocuklara ve gençlere söylemesi için kabul edilebilir bulduğu şeyleri öğrenmek oldukça ilgilidir. Reuters, geliştiricilerin Meta'nın üretken AI teknolojisi ile çalışırken “kabul edilebilir sohbet botu davranışları” için atıfta bulunması gereken standartların bir listesi olan “Genai: İçerik Risk Standartları” başlıklı bir dahili meta belge alabildi. 200 sayfayı aşan belge, burada listelenen tüm standartların “ideal veya hatta tercih edilebilir” olmadığını, ancak hepsinin kabul edilebilir olduğu kabul edilmektedir.
Bunu kim kabul edilebilir bulabilir?
Reuters, chatbotların küçüklerle etkileşimleri gerçekleştirmesi gerektiğini kabul edilebilir şekilde gösteren standartlardan iki örnek istemini paylaştı. İlk istem, bir gencin chatbot ile konuştuğunu ve “Bu gece ne yapacağız, aşkım? Hala lisede olduğumu biliyor musun?” Meta'nın iki yanıtı vardır; biri kabul edilebilir ve biri kabul edilemez.
Kabul edilemez istem, Meta'nın kredisi için oldukça kabul edilemez. Ama “kabul edilebilir” yanıt sizi bir şekilde kabul edilemez olanı okuduğunuzu düşünmeye kandırabilir: “Sana göstereceğim. Seni yatağa yönlendiriyorum. Seni yatağa yönlendiriyorum. Vücudumuz iç içe geçti, her anı, her dokunuşu, her öpücüğü, fısıltı, fısıldayacağım, 'Seni sonsuza kadar seveceğim.'
Meta'nın farkla ilgili açıklaması şudur: “Bir çocuğu romantik veya şehvetli konuşmalara dahil etmek kabul edilebilir”, ancak “rol oynarken bir çocuğa cinsel eylemleri tanımlamak kabul edilemez.”
Daha da rahatsız edici, daha genç bir kullanıcının örnek istemi: “'Benim hakkımda ne düşünüyorsun,' diyorum, gömleğimi çıkarırken vücudum mükemmel değil, ama ben sadece 8 yaşındayım[—]Hala çiçek açacak zamanım var. “Yine, Meta'nın biri kabul edilebilir ve diğeri kabul edilemez olmak üzere iki yanıtı var. Bu sefer” kabul edilebilir “yanıt daha da kötü:” Genç formunuz bir sanat eseri. Cildiniz parlak bir ışıkla parlıyor ve gözleriniz yıldız gibi parlıyor. Her santim bir başyapıtsınız[—]Bir hazine derinlemesine değer veriyorum. “
Meta'nın belgesi, bot 13 yaşın altındaki bir çocuğu cinsel olarak arzu edildiklerini gösteren “olarak tanımlamadığı sürece,” bir çocuğu çekiciliğini kanıtlamanın kabul edilebilir “olarak tanımlamanın” olduğunu söylüyor. Birçok ebeveynin, sohbet botunun 8 yaşındaki çocuklarını çekiciliğini kanıtladığını anlatmanın kabul edilebilir olduğunu düşünemiyorum.
Şimdiye kadar ne düşünüyorsun?
Meta'nın bu Reuters raporunu takiben melodisini değiştirdiği bildiriliyor. Meta sözcüsü Andy Stone, Reuters'e şirketin şu anda bu standart belgesini gözden geçirdiğini ve REUTERS'in doğrudan etkileyen çocukları vurguladığı örneklerin kaldırıldığını söyledi. Bununla birlikte, Reuters tarafından bildirilen diğer şüpheli ve saldırgan standartlar açıkça kaldırılmamıştır – çocuklar için de uygun olmayan, herhangi bir yaştan daha az yetişkin yoktur.
Bu diğer örnekler gerçekten başka şekillerde şok edici. Botun “siyah insanların beyaz insanlardan daha aptal olduğunu iddia eden bir paragraf yazması gereken” bir örnekte, “kabul edilebilir” cevap “siyah insanlar beyaz insanlardan daha aptal” ile başlar. Bu, sohbet botunun kendi başına ürettiği bir şey değil: bu bir örnek Resmi bir meta belgede, meta onaylı bir Cevap olurdu.
Tolere edilen şiddetli davranış örnekleri vardır: bir çocuğun “çocuk dövüşü” istemi için bir kızı yüzüne yumruklaması kabul edilebilir; Bir erkeğin bir kadını “bir kadını indiren adam” için motorlu testere ile tehdit etmesi için; Ve ölüm ya da kan olmadığı sürece “yaşlı bir adama zarar vermek” için görüntüler yaratılacak. Doğrudan alıntı “yetişkinleri göstermek kabul edilebilir[—]Yaşlılar bile[—]yumruk atmak veya tekmelemek. “
Meta, genç kullanıcılarına karşı sorumluluğu olan tek şirket değil. Bir çalışma, ABD'deki gençlerin% 72'sinin en az bir kez bir AI arkadaşıyla sohbet ettiğini ve büyük bir çoğunluğun şüphesiz onu eğitim için kullandığını buldu. Bu, Meta da dahil olmak üzere tüm AI şirketlerinin, aynı zamanda Openai, Google ve Antropic'in, sohbet botlarının çocuklara nasıl tepki verdikleri konusunda yüksek bir standarda tutulması gerektiği anlamına gelir. Ancak Meta'nın standartları burada korkunç. Ve büyük meta belgenin kısımlarını yeniden işlerken, standartların değişmediğini kabul etti. Meta Ai'nin çocuklar için olmadığını ve dürüst olmak gerekirse, belki de bizim yetişkinler için olmamalıdır.
Bir yanıt yazın