ABD Kamu Çıkarı Araştırma Grubu (PIRG) Eğitim Fonu tarafından hazırlanan yeni bir rapor, yapay zeka chatbotlarının çocuk oyuncaklarında artan kullanımıyla ilgili endişeleri dile getirerek, bu sistemlerden bazılarının genç kullanıcılar için uygun olmayabileceği konusunda uyarıda bulundu. Rapora göre, yapay zeka destekli birçok oyuncak, yetişkinlere yönelik yapay zeka hizmetlerinde kullanılanlara benzer yanıtlar üretebilen ve potansiyel olarak çocukları uygunsuz veya yanıltıcı içeriğe maruz bırakabilen chatbot teknolojisini entegre ediyor.
Çalışmada etkileşimli bebekler, robotlar ve eğitici aletler de dahil olmak üzere konuşmaya dayalı yapay zeka özelliklerini içeren bir dizi oyuncak incelendi. Bu ürünlerin çoğu, çocukların, yaygın olarak bulunan yapay zeka sohbet robotlarında kullanılanlara benzer büyük dil modelleriyle desteklenen, doğal dilde yanıt veren bir oyuncakla konuşmasına olanak tanıyor.
Teknoloji, oyuncakları daha etkileşimli ve eğitici hale getirse de PIRG araştırmacıları, bazı ürünlerde yerleşik koruma önlemlerinin genç izleyicileri koruyacak kadar güçlü olmayabileceğini savunuyor. Rapor özellikle, temeldeki yapay zeka sistemlerinin genellikle çocuklardan ziyade genel kullanıcılar için tasarlanmış platformlardan kaynaklandığını vurguluyor.
Bu nedenle, bu oyuncakların oluşturduğu yapay zeka yanıtları, potansiyel olarak çocuklardan ziyade yetişkinler için daha uygun olan bilgi veya konuşma temalarını içerebilir. Raporda ayrıca yapay zekanın, oyuncaklara güvenilir bilgi kaynağı olarak güvenme eğiliminde olan genç kullanıcıların kafasını karıştırabilecek yanlış yanıtlar veya öngörülemeyen yanıtlar üretebileceği konusunda da uyarıda bulunuluyor.
Oyuncakların belgelerini ve gizlilik politikalarını inceleyen araştırmacılar, bazı ürünlerin büyük ölçüde bulut tabanlı yapay zeka sistemlerine dayandığını da buldu.
Bu, çocukların sesli etkileşimlerinin, verilerin işlendiği ve yanıt oluşturmak için kullanıldığı harici sunuculara aktarılabileceği anlamına gelir. Gizlilik savunucuları, bunun çocuklara ait verilerin nasıl saklandığı ve kullanıldığı konusunda ek endişelere yol açtığını söylüyor. Bazı oyuncaklar konuşmalar sırasında ses kayıtları, kullanıcı istemleri veya diğer kişisel bilgileri toplayabilir. Bu sistemler çocukların gizliliğini koruyacak şekilde dikkatli bir şekilde tasarlanmazsa, veriler potansiyel olarak kötüye kullanılabilir veya açık korumalar olmadan saklanabilir.
Raporda ayrıca birçok yapay zeka destekli oyuncağın, hizmet koşulları veya ürün belgelerinde gömülü sorumluluk reddi beyanları içerdiğine dikkat çekiliyor. Bu sorumluluk reddi beyanları bazen AI yanıtlarının her zaman doğru veya uygun olmayabileceğini, oyuncağın kendisi doğrudan çocuklara pazarlanırken sorumluluğu etkili bir şekilde ebeveynlere yüklediğini belirtir.
Bu durum önemlidir çünkü yapay zeka teknolojisi, genç izleyiciler için özel olarak tasarlanmış ürünler de dahil olmak üzere günlük tüketici ürünlerine giderek daha fazla giriyor. Konuşmaları simüle eden oyuncaklar, onlara genellikle arkadaş veya öğrenme aracı olarak davranan çocuklar üzerinde güçlü bir etkiye sahip olabilir.
Uzmanlar, çocukların güvenilir bilgiler ile yapay zeka tarafından oluşturulan spekülatif, önyargılı veya yanlış yanıtlar arasında ayrım yapmakta zorluk çekebileceğini söylüyor. Yapay zeka sistemleri gelişmeye devam ettikçe bu teknolojilerin çocuk güvenliğine uyarlanmasını sağlamak giderek daha önemli hale gelecektir.
Bulgular aynı zamanda daha geniş bir düzenleme sorununu da vurguluyor
Amerika Birleşik Devletleri'ndeki Çocukların Çevrimiçi Gizliliğini Koruma Yasası (COPPA) gibi pek çok ülkede çocukların çevrimiçi gizliliğini korumak için tasarlanmış yasalar olsa da, bu düzenlemeler üretken yapay zekanın yükselişinden önce geliştirildi.
Savunuculuk grupları, düzenleyicilerin yapay zeka sistemlerinin bağlı cihazlar aracılığıyla çocuklarla nasıl etkileşime girdiğini ele almak için güvenlik standartlarını ve yönergelerini güncellemesi gerekebileceğini savunuyor.
PIRG raporu, oyuncak üreticilerini daha sıkı içerik filtreleme, yapay zeka kullanımı hakkında daha net açıklamalar ve daha şeffaf veri uygulamaları dahil olmak üzere daha güçlü koruma önlemleri uygulamaya çağırıyor. Ayrıca şirketlerin, orijinal olarak yetişkin izleyiciler için oluşturulmuş modelleri yeniden kullanmak yerine, özellikle çocuklara yönelik yapay zeka sistemleri tasarlamalarını da tavsiye ediyor.
İleriye bakıldığında araştırmacılar, yapay zeka destekli oyuncakların hem yenilikçi hem de güvenli kalmasını sağlamak için teknoloji şirketleri, düzenleyiciler ve çocuk güvenliği uzmanları arasındaki işbirliğinin gerekli olacağını söylüyor.
Yapay zeka günlük ürünlere daha fazla entegre oldukça zorluk, interaktif teknolojinin faydalarını genç kullanıcıları potansiyel risklerden koruma sorumluluğuyla dengelemek olacaktır.
Bir yanıt yazın