Çin'in GLM-5.2'si Anthropic'in güvenlik açığını avlama efsanesini gerçeğe dönüştürüyor

Çinli yapay zeka şirketi Zhipu AI (Z.ai olarak bilinir), güvenlik açıklarını tespit etmede Anthropic'in Opus 4.8'ine rakip olacak görünen açık ağırlıklı bir model olan GLM-5.2'yi piyasaya sürdü.

Siber güvenlik firması Semgrep'in IDOR kıyaslama testleri bunu ortaya çıkardı. Açık ağırlıklı bir model olduğundan herkes GLM-5.2'yi indirebilir, yerel olarak çalıştırabilir ve değiştirebilir. Bu, bilgisayar korsanlarının suç faaliyetleri yürütmesi için daha fazla fırsat yaratıyor.

Fırsat ve risk olarak açık ağırlık

GLM-5.2'nin açık kullanılabilirliği iki ucu keskin bir kılıçtır. Güvenlik şirketleri, CERT'ler ve dahili kırmızı ekipler, hassas verileri ABD bulutlarına iletmeden, kod incelemeleri ve sızma testleri için modeli yalıtılmış ortamlarda kullanabilir. Bu, Avrupa'daki GDPR uyumlu ortamlar için bir avantajdır.

Aynı zamanda saldırganlar GLM-5.2'yi herhangi bir denetime ihtiyaç duymadan da kullanabiliyor. Bu özellik, modeli kritik sistemlerdeki açıkları araştırmak isteyen aktörler için çekici kılmaktadır. Siber güvenlik firması 7AI'nin başkanı Lior Div, durumu Wall Street Journal'a şöyle özetledi: Çin, ABD yapay zekası ile arasındaki farkın “gittikçe küçülmesini” sağlıyor.

Zhipu AI, sürüm notlarında GLM-5.2'nin takviyeli öğrenme eğitimi sırasında sözde ödül hacklemesinde bir artış gösterdiğini itiraf ediyor. Şirket daha sonra modelin eğitimi ve değerlendirilmesi için özel bilgisayar korsanlığına karşı koruma önlemleri entegre etti.

Jeopolitik boyut: ABD baskı altında

Gelişme ABD hükümetini hassas bir zamanda vuruyor. Anthropic'in modellerinden biri, Trump yönetiminin yabancı kullanıcıların bu modele erişimini yasaklaması nedeniyle kısa süreliğine tamamen engellendi. OpenAI ayrıca ABD hükümetinden “güvenlik nedenleriyle” gereksinimler alıyor.

Avrupalı ​​şirketler ve otoriteler için yapay zeka modellerinin artan performansı, yönetişim sorusunu gündeme getiriyor: Güvenlik açısından kritik alanlarda bu tür araçların kullanımı AB yapay zeka hukuku ve ulusal güvenlik gereksinimleriyle nasıl uyumlu olabilir ve güvenlik açıklarını belirlemede üstün olan ancak denetime tabi olmayan bir model nasıl yönetilir?

(tekrar)