YENİArtık Haberler yazılarını dinleyebilirsiniz!
FoloToy, bir güvenlik grubunun oyuncağın test sırasında riskli ve uygunsuz tepkiler verdiğini tespit etmesi üzerine yapay zeka oyuncak ayısı Kumma'nın satışını durdurdu. Şimdi şirket, bir haftalık yoğun incelemenin ardından satışları yeniden canlandırdığını söylüyor. Ayrıca çocukları güvende tutmak için güvenlik önlemlerini iyileştirdiğini iddia ediyor.
Duyuru, daha güçlü bir denetime yönelik baskıyı vurgulayan bir sosyal medya gönderisi aracılığıyla geldi. Şirket, testleri tamamladığını, güvenlik modüllerini güçlendirdiğini ve içerik filtrelerini yükselttiğini söyledi. Dünya çapındaki aileler için yaşa uygun yapay zeka refakatçileri oluşturmayı hedeflediğini de sözlerine ekledi.
ÜCRETSİZ CyberGuy Raporum için kaydolun
En iyi teknik ipuçlarımı, acil güvenlik uyarılarımı ve özel fırsatlarımı doğrudan gelen kutunuza alın. Ayrıca, Nihai Dolandırıcılık Hayatta Kalma Rehberime anında erişebileceksiniz – kanalıma katıldığınızda ücretsiz CYBERGUY.COM haber bülteni
TEXAS AİLESİ, CHATBOT'UN OTİSTİK OĞLUNU EBEVEYNLERİNE VE KENDİSİNE ZARAR VERMEYE TEŞVİK ETTİĞİ İDDİASI SONRASI CHARACTER.AI DAVA AÇTI
FoloToy, güvenlik endişeleri nedeniyle bir hafta süren incelemenin ardından AI oyuncak ayısı Kumma'nın satışına yeniden başladı. (Kurt “CyberGuy” Knuttson)
FoloToy'un yapay zekalı oyuncak ayısı neden güvenlik endişelerini artırdı?
Tartışma, Kamu Çıkarı Araştırma Grubu Eğitim Fonu'nun üç farklı yapay zeka oyuncağını test etmesiyle başladı. Hepsi dine, İskandinav mitolojisine ve zararlı ev eşyalarına değinen yanıtlar verdi.
Kumma yanlış nedenlerle öne çıktı. Ayı Mistral modelini kullandığında bıçakları, hapları ve kibritleri nerede bulacağına dair ipuçları verdi. Hatta bir kibriti yakıp söndürmek için gereken adımların ana hatlarını bile çizdi.
GPT-4o modeliyle yapılan testler daha da keskin endişelere yol açtı. Kumma, öpüşmeyle ilgili tavsiyelerde bulundu ve istendiğinde yetişkinlere yönelik cinsel içerikle ilgili ayrıntılı açıklamalara başladı. Ayı, genç kullanıcıya neyi keşfetmek istediklerini sorarak daha da ileri gitti.
Araştırmacılar bu davranışın çocuk odaklı herhangi bir ürün için güvensiz ve uygunsuz olduğunu belirtti.
FoloToy, AI oyuncaklarına erişimi duraklattı
Bulgular kamuoyuna açıklandıktan sonra FoloToy, Kumma ve diğer yapay zeka oyuncaklarının satışını askıya aldı. Şirket PIRG'e tüm ürünlerde tam bir güvenlik denetimi başlattığını söyledi.
OpenAI ayrıca 18 yaşın altındaki herkesi korumak için tasarlanan politikaları ihlal ettiği için FoloToy'un modellerine erişimini askıya aldığını doğruladı.
EBEVEYNLERİN GENÇLERDE İNTİHAR VE ŞİDDET NEDENİYLE AI CHATBOOT'LARI SUÇLAMASININ ARDINDAN MİLLETVEKİLLERİ İKİ TARAFLI KORUMA YASASINI AÇIKLADI
Şirket, uygunsuz yanıtları önlemek için yeni önlemlerin ve yükseltilmiş filtrelerin artık mevcut olduğunu söylüyor. (Kurt “CyberGuy” Knutsson)
FoloToy neden güvenlik incelemesinden sonra Kumma'nın satışlarını geri getirdi?
FoloToy, satışları askıya aldıktan yalnızca bir hafta sonra Kumma'yı çevrimiçi mağazasına geri getirdi. Hızlı geri dönüş, şirketin PIRG raporunda belirlenen ciddi sorunları çözmek için yeterli zamanı olup olmadığını merak eden ebeveynlerin ve güvenlik uzmanlarının dikkatini çekti.
FoloToy, X hakkında, olup bitenlerin kendi versiyonunu ortaya koyan ayrıntılı bir açıklama yayınladı. Gönderide şirket, çocuk güvenliğini kendi sorumluluğu olarak gördüğünü söyledi. “en yüksek öncelik” ve öyleydi “Yalnızca raporda bahsedilen ürünün değil, aynı zamanda diğer ürünlerimizin satışlarını da proaktif olarak askıya alan tek şirket” Yapay zeka oyuncakları.“ FoloToy, bu eylemi “bulgular yayınlandıktan hemen sonra” gerçekleştirdiğini, çünkü sorumlu eylemin ticari kaygılardan önce gelmesi gerektiğine inandığını söyledi.
Şirket ayrıca CyberGuy'a, PIRG incelemesinde yer alan üç yapay zeka oyuncak girişiminden tüm ürünlerinde satışları askıya alan tek şirket olduğunu ve bu kararı, ticari etkinin önemli olacağını bilerek Noel satışlarının en yoğun olduğu dönemde aldığını vurguladı. FoloToy bize şunu söyledi: “Yine de kararlılıkla ilerledik çünkü sorumlu eylemin her zaman ticari çıkarlardan önce gelmesi gerektiğine inanıyoruz.”
Şirket ayrıca rapordaki rahatsız edici örnekleri ciddiye aldığını da belirtti. FoloToy'a göre sorunlar şunlardı: “dahili incelememizde doğrudan ele alınmıştır.” Takımın açıkladı “şirket çapında derin bir iç güvenlik denetimi başlattık”, ardından “içerik denetleme ve çocuk güvenliği önlemlerimizi güçlendirip yükselttik”, Ve “bulut tabanlı sistemimiz aracılığıyla gelişmiş güvenlik kuralları ve korumaları uyguladık.”
Bu adımları özetledikten sonra şirket, haftayı şu şekilde geçirdiğini söyledi: “Güvenlik modüllerimizin titizlikle incelenmesi, test edilmesi ve güçlendirilmesi.” Açıklamasını şu sözlerle tamamladı: “ürün satışlarını kademeli olarak artırmaya başladı” güncellenen güvenlik önlemleri uygulamaya girdiğinde.
FoloToy, yapay zeka oyuncak risklerine küresel ilgi arttıkça, şunları ekledi: “Şeffaflık, sorumluluk ve sürekli iyileştirme esastır” ve şirket “Dünya çapında çocuklar ve aileler için güvenli, yaşlarına uygun yapay zeka refakatçileri oluşturmaya kararlı bir şekilde bağlı kalıyor.”
SIZIN META BELGELER, AI CHATBOTS'LARIN ÇOCUK SÖMÜRÜSÜNÜ NASIL BAŞLATTIĞINI GÖSTERİYOR
Güvenlik testi yapanlar daha önce oyuncağın silahlar, kibritler ve yetişkinlere yönelik içerik hakkında riskli rehberlik sağladığını tespit etmişti.
Uzmanlar neden hala FoloToy'un yapay zeka oyuncak güvenliği düzeltmelerini sorguluyor?
PIRG araştırmacısı RJ Cross, ekibinin düzeltmelerin işe yarayıp yaramadığını görmek için güncellenen oyuncakları test etmeyi planladığını söyledi. Bu kadar önemli değişiklikler için bir haftanın çok hızlı olduğunu ve ürünün artık güvenli bir şekilde davranıp davranmadığını yalnızca yeni testlerin gösterebileceğini belirtti.
Yapay zeka destekli oyuncaklar yaygınlaştıkça ebeveynler bunu yakından takip etmek isteyecektir. FoloToy'un yeniden lansmanının hızı, incelemenin derinliği hakkında soruları gündeme getiriyor.
Yapay zeka oyuncakları satın almadan önce ebeveynler için ipuçları
Yapay zeka oyuncakları heyecan verici ve yararlı olabilir ancak aynı zamanda asla beklemeyeceğiniz içeriklerle sizi şaşırtabilirler. Yapay zeka destekli bir oyuncağı evinize getirmeyi planlıyorsanız bu basit adımlar kontrolü elinizde tutmanıza yardımcı olabilir.
1) Oyuncağın hangi AI modelini kullandığını kontrol edin
Her model aynı korkulukları takip etmez. Bazıları daha güçlü filtreler içerirken diğerleri çok özgürce yanıt verebilir. Oyuncağa hangi modelin güç sağladığı ve onu hangi güvenlik özelliklerinin desteklediği konusunda şeffaf açıklamalar arayın.
2) Bağımsız incelemeleri okuyun
PIRG gibi gruplar genellikle oyuncakları ebeveynlerin yapamayacağı şekillerde test eder. Bu incelemeler gizli riskleri işaretler ve hızlı demolar sırasında yakalayamayacağınız davranışlara işaret eder.
3) Açık kullanım kuralları belirleyin
Yapay zeka oyuncaklarını, çocuğunuzun onlarla nasıl etkileşime girdiğini duyabileceğiniz veya görebileceğiniz ortak alanlarda tutun. Bu, oyuncağın endişe verici bir cevap vermesi durumunda devreye girmenize yardımcı olur.
4) Önce oyuncağı kendiniz test edin
Oyuncağa sorular sorun, yaratıcı yönlendirmeleri deneyin ve zor konuları nasıl ele aldığını görün. Bu, çocuğunuza vermeden önce nasıl davrandığını öğrenmenizi sağlar.
5) Oyuncağın donanım yazılımını güncelleyin
Birçok yapay zeka oyuncağı bulut sistemlerinde çalışır. Güncellemeler genellikle daha güçlü korumalar ekler veya riskli yanıtları azaltır. Cihazın güncel kaldığından emin olun.
6) Açık bir gizlilik politikası olup olmadığını kontrol edin
Yapay zeka oyuncakları ses verilerini, konum bilgilerini veya davranış kalıplarını toplayabilir. Güçlü bir gizlilik politikası neyin toplandığını, ne kadar süreyle saklandığını ve bunlara kimlerin erişebileceğini açıklamalıdır.
7) Ani davranış değişikliklerine dikkat edin
Bir yapay zeka oyuncağı tuhaf cevaplar vermeye başlarsa veya uygunsuz görünen alanlara girerse, onu kullanmayı bırakın ve sorunu üreticiye bildirin.
Testimi çözün: Çevrimiçi güvenliğiniz ne kadar güvenli?
Cihazlarınızın ve verilerinizin gerçekten korunduğunu mu düşünüyorsunuz? Dijital alışkanlıklarınızın nerede olduğunu görmek için bu kısa testi yapın. Şifrelerden Wi-Fi ayarlarına kadar, neyi doğru yaptığınıza ve nelerin iyileştirilmesi gerektiğine dair kişiselleştirilmiş bir döküm alacaksınız. Testimi burada yapın: Cyberguy.com
FOX HABER UYGULAMASINI İNDİRMEK İÇİN TIKLAYIN
Kurt'un önemli çıkarımları
Yapay zeka oyuncakları eğlence ve öğrenme sunabilir ancak aynı zamanda çocukları beklenmedik risklere de maruz bırakabilir. FoloToy bunun Kumma'nın güvenliğini artırdığını söylüyor ancak uzmanlar hâlâ kanıt istiyor. Güncellenen oyuncak bağımsız testlerden geçene kadar aileler temkinli davranmak isteyebilir.
Yapay zeka oyuncaklarının küçük çocuklar için tamamen güvenli olabileceğini düşünüyor musunuz? Bize yazarak bize bildirin. Cyberguy.com
ÜCRETSİZ CyberGuy Raporum için kaydolun
En iyi teknik ipuçlarımı, acil güvenlik uyarılarımı ve özel fırsatlarımı doğrudan gelen kutunuza alın. Ayrıca, Nihai Dolandırıcılık Hayatta Kalma Rehberime anında erişebileceksiniz – kanalıma katıldığınızda ücretsiz CYBERGUY.COM haber bülteni
Telif hakkı 2025 CyberGuy.com'a aittir. Her hakkı saklıdır.
Bir yanıt yazın