Google, yapay zekanın güvenlik açığının keşfedilmesine ve silah haline getirilmesine yardımcı olmak için kullanıldığına yüksek düzeyde güven duyduğunu söyledi ancak etkilenen yazılım, kullanılan dil modeli veya siber suçlu grubunun adı gibi daha fazla bilgiyi açıklamayı reddetti.
Şirket ayrıca, araştırmacılarının bu güvenlik açığının Antropik teknoloji, Mythos ve hatta Google tarafından geliştirilen herhangi bir Gemini modeli sayesinde keşfedildiğine inanmadıklarını da vurguladı.
Nisan ayının başında Anthropic, siber güvenlik açısından zayıf noktaları belirlemeye yönelik gelişmiş yeteneklere sahip bir model olan Mythos'u tanıttı. Yetenekleri arasında bilinmeyen açıkların belirlenmesi ve bunlardan yararlanmanın yolları üretilmesi yer alıyor; bu da kötü niyetli aktörlerin onu siber saldırılar geliştirmek, hassas sistemlere erişmek veya kritik altyapıyı tehlikeye atmak için kullanma olasılığını ortaya çıkarıyor.
Anthropic'in teknik raporuna göre model, dahili testler sırasında farklı sistemlerde bilinmeyen arızaları tespit etmeyi başardı. Bulgular arasında tarayıcılar ve işletim sistemi bileşenleri de dahil olmak üzere yaygın olarak kullanılan yazılımlardaki güvenlik açıkları yer alıyor.
Model, özel bir siber güvenlik aracı olarak oluşturulmadı; Anthropic, onu programlama, kod analizi ve karmaşık problem çözme gibi genel görevler için eğitti. Ancak bu yetenekler, büyük hacimli kodları incelemenize, hataları bulmanıza ve bunları kullanmanın yollarını önermenize olanak tanır. Mythos, kontrollü ortamlarda tespit edilen kusurlardan işlevsel saldırı testleri bile oluşturdu.
Bir yanıt yazın