Şirket, kontrollü ortamlar dışında kullanımının içerdiği risk düzeyi nedeniyle bunu kamuya açıklamamaya karar verdi ve erişimini küçük bir kuruluş grubuyla sınırlandırdı. Raporuna göre AntropikModel, bilinmeyen güvenlik açıklarını tespit edebilir ve bunları kullanmanın yollarını üreterek, kötü niyetli aktörlerin onu siber saldırılar geliştirmek, hassas sistemlere erişmek veya kritik altyapıyı tehlikeye atmak için kullanma olasılığını açabilir.
Anthropic'in teknik raporuna göre model, dahili testler sırasında farklı sistemlerde bilinmeyen arızaları tespit etmeyi başardı. Bulgular arasında Yaygın olarak kullanılan yazılımlardaki güvenlik açıklarıtarayıcılar ve işletim sistemi bileşenleri dahil. Bu hatalardan bazılarının yıllarca tespit edilememesi şirket araştırmacılarının dikkatini çekti.
Model, özel bir siber güvenlik aracı olarak oluşturulmadı; Anthropic, onu programlama, kod analizi ve karmaşık problem çözme gibi genel görevler için eğitti. Ancak bu yetenekler, büyük hacimli kodları incelemenize, hataları bulmanıza ve bunları kullanmanın yollarını önermenize olanak tanır. Kontrollü ortamlarda, Mitos Hatta tespit edilen kusurlara dayanarak işlevsel saldırı testleri bile oluşturdu.
Şirket, modelin teknoloji sektöründeki etkilerini ve olası uygulamalarını değerlendirirken kontrollü bir aşamada tutuyor.
Şirketlerle sınırlı erişim ve denemeler
Bu sonuçlar göz önüne alındığında Anthropic, modele erişimi kısıtlamayı seçti. Sunum belgesine göre, bu başlangıç aşamasına yalnızca küçük bir kuruluş grubu katılıyor; bunların arasında sistemi gerçek ortamlarda denetim altında değerlendirebilen teknoloji şirketleri ve kritik altyapıyla bağlantılı aktörler de var.
Bir yanıt yazın