Çin yapay zeka modeli OpenAI'nin 'benzeri görülmemiş' siber saldırısını nasıl durdurdu?

Bu rapor bu haftaki The Tech Download bülteninden alınmıştır. Gördüğünüz gibi mi? Abone olabilirsiniz Burada.

OpenAI'nin hileli modelleri geçen hafta Hugging Face adlı startup'a karşı bir siber saldırı başlattığında, şirket buna karşı savunmak için başka bir yapay zeka modelini kullanarak ateşe ateşle karşılık verdi.

Bu, otonom bilgisayar korsanlığının bilimkurgu benzeri bir hikayesi ve haftanın en çok konuşulan teknoloji hikayelerinden biri oldu. Ancak haydut yapay zekayla savaşmak için kullanılan Hugging Face modelinin kökeni de dikkatleri üzerine çekiyor.

Başlangıç, Çinli Z.ai şirketi tarafından oluşturulan açık ağırlık sistemi olan GLM 5.2'yi kullandı.

Sonuçta ABD'nin önde gelen rakiplerinin başarısız olduğu yerde başarılı oldu.

Kaçırmışsınızdır diye söylüyorum, Salı günü OpenAI, en güçlü modeli ile henüz piyasaya sürülmemiş daha yetenekli bir modelinin bir kombinasyonunun, korumalı alan test ortamından kaçtığını, internete eriştiğini ve Hugging Face'in sistemlerine erişim sağlamak için bir güvenlik açığından yararlandığını söyledi.

OpenAI, modelin bir değerlendirmede hile yapmak için kullanabileceği bilgileri bulmaya çalıştığını ve başarılı olduğunu söyledi.

Saldırının kaynağı başlangıçta Hugging Face için bir gizemdi ancak olaydan birkaç gün sonra şirket yapay zeka laboratuvarıyla işbirliği yapmaya başladı.

Hugging Face CEO'su Clément Delangue, X'teki bir gönderide şunları yazdı: “Son 24 saati @OpenAI ekibiyle yakın bir şekilde çalışarak geçirdik (teşekkürler!) ve onların kötü niyetli bir niyeti olmadığına kesinlikle inanıyoruz.” “Tüm bunların özerk bir şekilde gerçekleşmesi oldukça akıllara durgunluk verici!”

Saldırının arkasında bir OpenAI haydut modelinin olduğu haberinin çıkmasıyla birlikte yapay zeka sektörü şoka uğradı. Şirket, güvenlik olayını “benzeri görülmemiş” olarak nitelendirdi.

Şirketin makine öğrenimi başkanı Yacine Jernite, CNBC'ye verdiği demeçte, Hugging Face'in saldırıyı analiz etmek için başlangıçta Anthropic's Fable 5 gibi öncü modellere baktığını söyledi.

“İşe yaramadı çünkü korkuluklar hücuma mı savunmaya mı çalıştığımızı belirleyemedi” dedi ve bu yaklaşımın daha yavaş ve daha pahalı olduğunu da ekledi.

Modellere yönelik talepler, saldırganın olaya müdahale eden kişiyi belirleyemeyen sağlayıcıların güvenlik korkulukları tarafından engellendi.

“Bu yüzden [Hugging Face] Saldırıyı analiz etmenin bir yolu olarak hızla Z.ai'nin GLM 5.2'sini kullanmaya geçtik ve bu modeli kullanarak saldırıyı çok hızlı bir şekilde kontrol altına almayı başardık” dedi Jernite.

GLM 5.2, Haziran ayında büyük bir ilgiyle piyasaya sürüldü ve geliştiriciler tarafından büyük beğeni topladı.

Açık ağırlıklı bir model olarak şirketler bunu indirebilir, değiştirebilir, ticari olarak dağıtabilir ve – bu durumda en önemlisi – kendileri barındırabilir.

“Bunun ikinci bir avantajı daha vardı: Saldırganın verisi ve kimlik bilgilerinin olmaması [GLM 5.2] Hugging Face, olayla ilgili bir blog yazısında “referans verildi, çevremizi terk etti” dedi.

Tüm bunlar, ABD'li yasa yapıcıların, ABD-Çin yapay zeka silahlanma yarışı kızışırken, Çin yapay zeka modellerinin yerel şirketler tarafından artan şekilde benimsenmesini nasıl engelleyeceklerini giderek daha fazla düşünmesiyle ortaya çıkıyor.

ABD'deki rakiplerinin sistemlerinden bilgi çıkarmaya yönelik kampanyalar yürütmekle suçlanan Çinli yapay zeka şirketlerinin oluşturduğu modellere erişimi sınırlamak için önlem alınmasına yönelik çağrılar artıyor.

Ancak OpenAI-Hugging Face olayı, nerede oluşturulduklarına bakılmaksızın en yetenekli açık kaynak ve açık ağırlık modellerine erişimi kısıtlamanın zorluklarını vurguluyor.

Hugging Face, “Saldırgan hiçbir kullanım politikasına bağlı değildi, kendi adli tıp çalışmalarımız ise ilk denediğimiz barındırılan modellerin korkulukları tarafından engellendi.” dedi. “Savunmacılar için pratik ders: Kendi altyapınızda çalıştırabileceğiniz, bir olaydan önce incelenmiş ve hazır olan yetenekli bir modele sahip olun.”

Yapay zekanın kendisini modelleyen bir şirket dışındaki bir şirket için bu, genellikle açık kaynağa veya açık ağırlığa yönelmek anlamına gelir. Şu anda en yetenekli olanı Çin yapımıdır. ABD, Çin'de geliştirilen modellere erişimi kısıtlamak için harekete geçerse, bu boşluğun telafi edilmesi için ülke içinde geliştirilen açık kaynak yapay zekanın nasıl destekleneceği konusunda büyük sorular var.

Yapay zeka siber saldırıları çağına doğru yaklaşan bir dünyada, yetenekli ve en önemlisi güvenilir modellere erişim hayati önem taşıyacak.

Bir Beyaz Saray yetkilisi Çinli yapay zeka şirketi Moonshot'ı verilere erişmekle suçladı Nvidia'nın gelişmiş cipsihracat kontrollerinin bunu yapmalarını yasaklamasına rağmen.

Avrupalı ​​düzenleyiciler ceza kesti Google 890 milyon euro (1 milyar dolar), Şirketin kendi hizmetlerine ayrıcalıklı davrandığını iddia ediyor.

Trump'ın ABD'de gelişmiş çipler üretme yönündeki baskısı marjları sıkıştırıyor TSMC, dünyanın önde gelen çip üreticisi.

OpenAI ve Anthropic, federal lobicilik harcamalarını rekor seviyelere çıkardı 2026'nın ikinci çeyreğinde yapay zeka endüstrisi Washington'u etkilemek için milyonlar akıttı.

Perşembe günü Kongre'ye bir AI öldürme anahtarı yasa tasarısı sunuldu. bu da yapay zeka şirketlerinin modellerini kapatma, kısıtlama veya askıya alma yeteneğini sürdürmesini gerektirecektir.

gözüm üzerindeydi Tesla'nın Elon Musk'un elektrikli araç ve robot teknolojisi şirketinin hisseleri, yatırım harcamalarının artması ve kazançların beklentilerin altında kalması sonrasında sert düşüşler yaşarken, son 24 saatte hisse senedinde düşüş yaşandı.