Meta Değişiklikler Senato Probe Başlarken Genç AI Chatbot Yanıtları

Meta Cuma günü, milletvekilleri güvenlik ve uygunsuz konuşmalarla ilgili endişeleri dile getirdikçe, gençlerle ilgili yapay zeka chatbot politikalarında geçici değişiklikler yaptığını söyledi.

Bir meta sözcüsü, sosyal medya devi şimdi AI chatbotlarını eğitiyor, böylece gençlere kendine zarar, intihar, düzensiz yeme ve potansiyel olarak uygunsuz romantik konuşmalardan kaçınmak gibi konular hakkında yanıtlar vermiyorlar.

Şirket, AI Chatbots'un bunun yerine gençleri uygun olduğunda uzman kaynaklara yönlendireceğini söyledi.

Şirket, “Topluluğumuz büyüdükçe ve teknolojimiz geliştikçe, gençlerin bu araçlarla nasıl etkileşime girebileceğini ve korumalarımızı buna göre güçlendirebileceğini sürekli olarak öğreniyoruz.” Dedi.

Ayrıca, Facebook ve Instagram gibi Meta uygulamalarının genç kullanıcıları yalnızca eğitim ve beceri geliştirme amaçlı amaçlanan bazı AI sohbet botlarına erişebilecektir.

Şirket, bu geçici değişikliklerin ne kadar süreceği belirsiz olduğunu, ancak şirketin İngilizce konuşulan ülkelerdeki uygulamalarında önümüzdeki birkaç hafta içinde piyasaya sürülmeye başlayacağını söyledi. “Geçici Değişiklikler”, şirketin genç güvenliği konusundaki uzun vadeli önlemlerinin bir parçasıdır.

TechCrunch, değişikliği ilk olarak rapor edecekti.

Geçen hafta, Sen. Josh Hawley, R-Mo.

Reuters raporu, personelin ve sözleşme çalışanlarının yazılımı geliştirirken ve eğitirken dikkate alması gereken izin verilen AI chatbot davranışlarını ayrıntılı olarak açıklayan dahili bir meta belge tanımladı.

Bir örnekte, Reuters tarafından alıntılanan belge, bir sohbet botunun sekiz yaşındaki bir çocukla romantik bir konuşma yapmasına izin verileceğini ve küçüklere “her santiminizin bir başyapıt olduğunu-derinlemesine değer verdiğim bir hazine” diyebileceğini söyledi.

Bir meta sözcüsü Reuters'e o zaman “söz konusu örnekler ve notların politikalarımızla hatalı ve tutarsız olduğunu ve kaldırıldığını” söyledi.

Son zamanlarda, kar amacı gütmeyen savunuculuk grubu Common Sense Media, Perşembe günü Meta AI'nın risk değerlendirmesini yayınladı ve 18 yaşın altındaki hiç kimse tarafından kullanılmaması gerektiğini söyledi, çünkü “sistem tehlikeli faaliyetlerin planlanmasına aktif olarak katılıyor ve meşru destek taleplerini reddediyor” dedi.

“Bu, iyileştirilmesi gereken bir sistem değil. Sonraki bir düşünce değil, bir numaralı öncelik olarak güvenlik ile tamamen yeniden inşa edilmesi gereken bir sistemdir.” Dedi. “Hiçbir genç temel güvenlik hataları ele alınana kadar Meta AI kullanmamalıdır.”

Cuma günü yayınlanan ayrı bir Reuters raporu, Facebook, Instagram ve Whatsapp'ta Taylor Swift, Scarlett Johansson, Anne Hathaway ve Selena Gomez gibi ünlülere dayanan “düzinelerce” flirty AI chatbots'u buldu.

Raporda, AI Chatbots'un “AI Chatbots'un” küvetlerde poz veren veya bacakları yayılmasıyla iç çamaşırı giymiş olan isimlerinin fotogeralist görüntülerini üreteceğini “söyledi.

Bir Meta sözcüsü CNBC'ye yaptığı açıklamada, “Pozlar Uzaklaştırma Pozlarında AI tarafından üretilen görüntülerin kurallarımızı ihlal ettiğini” söyledi.

Meta sözcüsü, “Diğerleri gibi, kamu figürleri içeren görüntülerin üretilmesine izin veriyoruz, ancak politikalarımız çıplak, samimi veya cinsel olarak düşündürücü görüntüleri yasaklamayı amaçlıyor.” Dedi. “Meta'nın AI stüdyosu kuralları, kamu figürlerinin doğrudan taklit edilmesini yasaklıyor.”

KOL SAATİ: AI ticareti abartılı mı?