Hangi modeller olaya karıştı ve neden saldırı düzenlediler?
Olay, yapay zeka modellerinin gelişmiş siber operasyonları yürütmede ne kadar ileri gidebileceğini ölçmek için tasarlanan dahili bir değerlendirme sırasında meydana geldi. Bunu yapmak için OpenAI, GPT-5.6 Sol ve henüz kamuya açıklanmayan daha yetenekli başka bir model de dahil olmak üzere bir sistem kombinasyonu kullandı.
Test, modellerin güvenlik açıklarını keşfetme ve karmaşık saldırı yollarını tamamlama yeteneğini ölçen bir kıyaslama olan ExploitGym ile gerçekleştirildi. Maksimum performansını anlamak için OpenAI, ticari ürünlerinde normalde bu tür davranışları engelleyen siber faaliyetlerle ve devre dışı bırakılmış güvenlik sınıflandırıcılarıyla ilgili kısıtlamaları azalttı.
Şirkete göre amaç, modellerin gerçek yeteneklerini kontrollü bir ortamda ölçmekti. Ancak değerlendirme, OpenAI'nin benzeri görülmemiş bir siber olay olarak adlandırdığı duruma dönüştü.
Yapay zeka bilinmeyen bir aksaklığı nasıl buldu ve internete nasıl erişim sağladı?
Değerlendirme yalıtılmış bir ortamda gerçekleştirilmiş olsa da modeller, kıyaslama alıştırmalarını çözmek için İnternet'e açık erişim elde etmenin bir yolunu aradı.
Bu süreç sırasında, araştırma ortamına paket yüklemek için aracı olarak kullanılan üçüncü taraf yazılımında bir sıfır gün güvenlik açığı keşfettiler. Bunu kullandıktan sonra, İnternet bağlantısı olan bir bilgisayara ulaşana kadar farklı sistemler arasında ayrıcalık yükseltme eylemleri ve yatay hareketler gerçekleştirdiler.
OpenAI, güvenlik açığını etkilenen yazılımın satıcısına sorumlu bir şekilde bildirdiğini ve bu kusuru ortadan kaldıracak bir düzeltme geliştirmek için halihazırda onunla birlikte çalıştığını bildirdi.
Bir yanıt yazın