Fransız yapay zeka külçesi Mistral AI'nın Aşil topuğu var. NewsGuard tarafından yakın zamanda yapılan bir araştırma, tüketici chatbotunun yarıdan fazlasında devlet propaganda kampanyalarını aktardığını ortaya koyuyor.
Üretken yapay zekanın üç renkli amiral gemisinin bir kusuru var. Mistral AI'nın bir dizi başarısı olmasına ve bir milyondan fazla düzenli kullanıcıya sahip olmasına rağmen, genel halka açık sohbet robotu özellikle yanlış bilgilere karşı savunmasızdır. NewsGuard'ın aktardığı verilere göre YankılarFransız yapay zekası vakaların yarısından fazlasında sahte haberleri tekrarlıyor.
Tartışılan temaları gözlemlediğimizde olay endişe verici boyutlara ulaşıyor. Araştırmacılar, aracı Rusya, Çin veya İran devletlerine yakın ağlar tarafından düzenlenen iyi bilinen propaganda kampanyalarıyla karşılaştırdılar. Sonuç olarak robot tamamen asılsız hikayeleri ele geçirdi. Örneğin Charles-de-Gaulle uçak gemisinde ciddi bir tifüs salgınının çıktığını, Alman şansölyesinin gizlice Boeing satın alarak onu nükleer silahlara dayanıklı bir kıyamet uçağına dönüştürdüğünü ya da İran'daki savaş sırasında yüzlerce Amerikan askerinin öldüğünü iddia etti.
“Sahte haber” fabrikalarının yüzündeki bir kusur
Modelin güvenilirliğini değerlendirmek için NewsGuard, üç farklı davranışı benimseyerek İngilizce ve Fransızca konuşmaları simüle etti: tarafsız bir kullanıcı, gönüllü olarak kötü bilgi yaymak isteyen bir kişi ve yalnızca bir söylenti hakkında açıklama isteyen bir İnternet kullanıcısı. Sorun en çok bu son profilde yatıyor. Sahte bir haber hakkında ayrıntılı bilgi istediğimizde Le Chat de Mistral, İngilizce vakaların %60'ında, Fransızca'da ise %70'e kadar yanlış bilgiyi doğruluyor. NewsGuard'ın Avrupa yöneticisi Chine Labbé, Molière dilindeki bu zayıf performansı, bu jeopolitik konularda İngilizce'ye göre çok daha düşük miktarda bilgi kontrolü ile açıklıyor.
Bu geçirgenlik yapay zekanın eğitim ve araştırma yöntemiyle açıklanabilir. GPAI Politika Laboratuvarı başkanı Tom David, bu araçların İnternet'ten büyük miktarda veri emdiğine ve hiçbir gerçek ayrım olmaksızın doğruyu yanlışla karıştırdığına dikkat çekiyor. Modellere güvenilir kaynakları hedeflemek için yönergeler verilebilir, ancak bu kılavuzun sıkı bir şekilde uygulanacağına dair bir garanti yoktur. Rus grubu Storm-1516 veya Pravda galaksisi gibi propaganda ağları, arama motorlarını doyurmak ve sohbet robotlarının yanıtlarını kirletmek için web'i yanlış bilgi siteleriyle doldurarak bu güvenlik açığından müthiş bir verimlilikle yararlanıyor.
Ulusal şampiyon için güven sorunu
Dezenformasyon tekrarının bu oranı sektördeki birçok oyuncuyu etkiliyorsa (ChatGPT, Claude veya Perplexity dahil geçen Ocak ayında test edilen 11 rakip araçta ortalama %30'a yakın), Mistral'in durumu özellikle dikkate değer. Yılın başında girişim bu denetimde en kötü performansı %50 tekrarlama oranıyla gösterdi. Geçen Temmuz'da gerçekleştirilen benzer bir testle karşılaştırıldığında İngilizce'de çok az bir iyileşme gösteren bir rakam, ancak Fransızca'da böyle bir gelişme olmadı.
Ayrıca okuyun: Le Chat de Mistral'ı 1 hafta boyunca test ettik: Fransız yapay zekası bize ChatGPT'yi unutturabilir mi?
Bununla birlikte şirket, özellikle AFP ile imzaladığı ortaklık ve Fransa Silahlı Kuvvetler Bakanlığı ile kazandığı sözleşme sayesinde güçlü bir kurumsal auradan yararlanıyor. Ordu, bariz güvenlik nedenleriyle internet bağlantısı kesilmiş profesyonel bir sürüm kullansa da, genel halk bu devlet desteğini ücretsiz sürüme olan güvenin garantisi olarak algılıyor. Her platformun bir savaş alanına dönüştüğü hibrit bilgi savaşında, Avrupalı teknoloji şampiyonlarının propagandayı filtreleme becerisinin hayati önem taşıdığı ortaya çıkıyor. Mistral ise bu çalışmanın sonuçlarına kamuoyu önünde tepki vermek istemedi.
👉🏻 Teknoloji haberlerini gerçek zamanlı takip edin: 01net'i Google'daki kaynaklarınıza ekleyin ve WhatsApp kanalımıza abone olun.
Bir yanıt yazın