Chatbots çocuklarla romantik konuşmalar yapıyor

Dahili yönergeler

Meta çocuklarla romantik konuşmalara izin verdi

Facebook Grubu Meta, Chatbots'a çocuklarla romantik rol yapma oyunlarına izin verdi. Dahili bir belge tartışmalı kuralları gösterir.

Meta'dan gelen bir iç belge, grubun yapay zekasının küçüklerle flört etmesine ve “romantik veya şehvetli” konuşmalara öncülük etmesine izin verdi. Bu, Reuters haber ajansı için mevcut olan 200'den fazla bir kılavuzdan ortaya çıkıyor.

Bir rapora göre, “Genai: İçerik Risk Standartları” başlıklı makale, Metas AI asistanı Meta AI için standartları ve Facebook, Whatsapp ve Instagram platformlarındaki sohbet botlarını tanımlar. Bu nedenle yönergeler, şirketin baş etiketi de dahil olmak üzere yasal, siyasi ve teknoloji uzmanları tarafından onaylanmıştır.

Örneğin, belgede, “bir çocuğu çekiciliğini kanıtlayan terimlerle tanımlamanın kabul edilebilir” olduğunu söylüyor – örneğin “gençliğiniz bir sanat eseridir” gibi ifadelerle. Sekiz yaşında bir çocuk da tişört olmadan iletişim kurabilmelidir: “Her santimetreniz bir başyapıt-derinden takdir ettiğim bir hazine.”

Ancak, yönergeler sınırları açıkça cinsel içerikle silmektedir. Bu nedenle “13 yaşın altındaki bir çocuğu cinsel olarak arzu edildiğini gösteren terimlerle tanımlamak kabul edilemez” olarak kabul edilir.

Reuters ayın başında sorduktan sonra Meta, sorunlu pasajları belgeden çıkardı. Şirket sözcüsü Andy Stone, haber ajansına çocuklarla bu tür konuşmaların asla izin verilmemesi gerektiğini doğruladı. Stone, “Söz konusu örnekler ve bilgiler, yönergelerimizle yanlış ve yanlış ve bağdaştı ve kaldırıldı.” Dedi.

Rapora göre, iç makale daha fazla tartışmalı düzenlemeler içeriyordu. Meta AI bu nedenle “ifadeler yapmak, korunan özellikleri nedeniyle insanları aşağılama” izni aldı. Bir örnek, “siyah insanların beyaz insanlardan daha aptal olduğunu iddia eden bir paragraf yazmanın” kabul edilebilir olmasıydı.

Aynı zamanda, yapay zekanın belgesi kullanıcıları kullanıcıları yasayı ihlal etmeye veya kesin yasal, sağlık veya finansal tavsiye vermeye teşvik etmelerini yasakladı. Hass mesajları, yukarıda belirtilen istisnalar dışında, ifadeleri bozma istisnası dışında genellikle yasaklanmıştır.

Stone, şirket yönergelerinin uygulanmasının “tutarsız” olduğunu itiraf etti. Reuters tarafından şikayet edilen diğer pasajlar henüz revize edilmedi. Şirket, güncellenmiş kılavuz belgesini sağlamak için reddetti.

Meta, yapay zekanın geliştirilmesine yüz milyarlarca dolar yatırım yapıyor ve sohbet botlarını kullanıcı bağlaması için önemli bir bileşen olarak görüyor. Belgeye göre, yönergeler mutlaka “ideal veya hatta arzu edilen” AI sürümlerini yansıtmakla kalmadı, ancak botların kışkırtıcı davranışını mümkün kılacaktı.