Gizlilik ve güvenlik sorunları, Buzzy Çin AI Upstart Deepseek için yığılmaya devam ediyor. Birden fazla ülkedeki milletvekilleri ve federal çalışanlar için erişim engellendikten sonra, aynı zamanda sansür ve güvenceleri hakkında alarm verdikten sonra, şimdi Güney Kore'nin casus ajansından resmi bir bildirim aldı.
Ülkenin Ulusal İstihbarat Servisi (NIS), AI şirketini Reuters'e göre Kore mirasına duyarlı konular için aşırı koleksiyon ve şüpheli yanıtlar konusunda hedef aldı.
Ajans, “Diğer üretken AI hizmetlerinden farklı olarak, bireyleri tanımlayabilen ve Volceapplog.com gibi Çinli şirketlerin sunucularıyla iletişim kurabilen klavye giriş modelleri toplama işlevi içerdiği için sohbet kayıtlarının aktarılabileceği doğrulandı” dedi. .
Bu, farklı kurumlardan ve bakanlıklardan çalışanlardan Deepseek'e güvenlik alarmları üzerinden erişimini engellemelerini isteyen bir hükümet bildiriminden sonra geliyor. Avustralya ve Tayvan zaten bu kısıtlamaları yerine getirdi ve daha fazla ülkenin dava açması bekleniyor.
Temel mesele, Deepseek'in reklam ortaklarına Çin hükümetinin yerel yasalara göre ellerini de ele alabileceği kullanıcı verilerine açık erişim sunduğu bildiriliyor. Kore Herald'a göre, chatbot aynı zamanda kültürel açıdan duyarlı ve tartışmalı jeopolitik konularla ilgili sorgulara tartışmalı cevaplar veriyordu.
Özellikle, Chatbot aynı soruyu Kore ve Çin dillerinde sorulduğunda farklı cevaplar sunar. Kore Times'a göre, ajans yakın gelecekte güvenlik ve güvenlik yönlerini değerlendirmek için daha fazla test yapacak.
Güvenlik endişeleri Deepseek ile ilgili en büyük endişe olarak manşetlerde bulunurken, uzmanlar da üretebileceği yanıtlar konusunda endişeleniyor. Wall Street Journal tarafından yapılan bir analizde AI, biyo-ateş pişirmek için tarif, bir Nazi savunma manifestosu ve kendine zarar verme teşviki gibi endişe verici bilgileri öksürdü.
AI devi Antropic'in bir analizinde, şirketin CEO'su Dario Amodei, Deepseek'in biyo -görüntü oluşturulması gibi son derece rahatsız edici bilgiler üretme konusunda testlerinde en kötü AI modeli olduğunu kanıtladığını belirtti.
Bir haftadan biraz daha uzun bir süre önce, Cisco'daki araştırmacılar da altı farklı kategoride jailbreaking araçlarına karşı test ettiler ve her saldırıyı engelleyemedi. Qualys tarafından yapılan başka bir testte, AI sadece% 47'lik bir jailbreak geçiş oranını toplayabilir.
Sonra hassas verileri sızdırma ve herhangi bir kısıtlama olmadan paylaşma konusunda endişeler var. Wiz'deki siber güvenlik araştırmacıları yakın zamanda kamuya açık erişilebilen hassas bilgiler içeren bir milyondan fazla sohbet geçmişini keşfetti.
Deepseek kusuru taktı, ancak ticari alımı sıcak bir tartışma konusu olmaya devam ediyor. ABD'de NASA, çalışanların Deepseek'i kullanmasını zaten yasakladı ve ABD Donanması da öyle. Dahası, federal cihazlarda derin bir yasağı arayan bir yasa tasarısı da masada.
Bir yanıt yazın