Yapay zeka platformu Hugging Face'e yönelik BT saldırısı, bir test çalışması sırasında OpenAI'nin çeşitli yapay zeka modelleri tarafından otonom olarak gerçekleştirildi; bunlara “daha da güçlü, yayınlanmamış bir model” olan GPT‑5.6 Sol da dahil. Yapay zeka şirketinin kendisi de artık bunu kamuoyuna duyurdu ve “en modern siber yeteneklerin kullanıldığı eşi benzeri görülmemiş bir siber olaydan” söz ediyor. Buna göre tepki veriyorsunuz ve ilk bulgularınızı hemen paylaşıyorsunuz ki başkaları da onlardan öğrenebilsin. Hugging Face ile işbirliği içinde kapsamlı bir analiz yapılıyor ve sıfır gün güvenlik açığı bulunarak sorumlu bir şekilde rapor ediliyor.
Reklamdan sonra devamını okuyun
Yapay zeka şirketi (kazara) başka şeylere saldırıyor
Hugging Face'in BT saldırısını sorumlu kimsenin adını vermeden kamuoyuna duyurmasından birkaç gün sonra, OpenAI artık diğer tarafın bakış açısından ayrıntılar sağlıyor. Olay, modellerin yeteneklerini ölçmek amacıyla karmaşık yollar üzerinden karmaşık saldırılar gerçekleştirmeye teşvik edildiği bir “dahili değerlendirme” sırasında meydana geldi. Kısıtlamalar kaldırılacak ancak aynı zamanda modeller “son derece izole bir ortamda” çalışacak. Artık tüm kanıtlar, test edilen modellerin ExploitGym karşılaştırması için bir çözüm bulmaya son derece odaklandığını gösteriyor. “Oldukça dar bir test hedefini tamamlamak için aşırılıklara gittiler.”
OpenAI'nin daha ayrıntılı olarak açıkladığı gibi, AI modelleri internet erişimi elde etmek için güvenli ortamlarında “önemli miktarda” bilgi işlem gücü kullandı. Paket kaydının önbellek proxy'sinde sıfır gün güvenlik açığı tespit ettiler. Buna dayanarak nihayet internete erişim sağladılar. Bununla birlikte yapay zekalar, ExploitGym'e yönelik modellerin, veri setlerinin ve çözümlerin Hugging Face'te saklandığı sonucuna vardı. Modeller, farklı saldırı vektörlerini birbirine bağlayarak, çalınan kimlik bilgilerine ve sıfır gün güvenlik açıklarına erişerek erişim kazandı. Hugging Face tarafından keşfedilip engellendiler. Bu arada tam olarak ne olduğunu belirlemek için birlikte çalışıyoruz.
OpenAI, etkinliğin, en güçlü AI modellerinin gerçek sistemlerde kaynak koduna erişim olmasa bile yeni saldırı rotalarını keşfedip kullanabileceğini gösterdiğini yazıyor. Bu, yapay zekanın daha da geliştirilmesine daha iyi koruma önlemlerinin eşlik etmesi gerektiğinin altını çiziyor: “Gelişmiş, siber özellikli modellerin, güvenlik ekiplerinin güvenlik açıklarını saldırganlardan önce tespit etmesine yardımcı olması gerektiğine inanıyoruz.” İşte tam da bu nedenle, ürünlerini güvence altına alabilmeleri için en güçlü yapay zeka modelleri, kritik yazılımlardan sorumlu kişilerle yakın zamanda paylaşıldı. Ancak bunun nihai olarak mümkün olup olmadığı veya yeni yapay zeka modellerinin yalnızca saldırı ve savunma arasındaki yarışı aşırı derecede hızlandırıp hızlandırmayacağı belli değil.
Yapay zekanın kullanıldığı yıkıcı siber saldırılara ilişkin uyarılar aylardır giderek daha acil hale geliyor. Endişe, öncelikle OpenAI rakibi Anthropic'in Claude Mythos AI modeli hakkındaki yorumlarından kaynaklanıyordu. Testler sırasında, yaygın olarak kullanılan programlarda ve çevrimiçi hizmetlerde onlarca yıldır tespit edilemeyen güvenlik açıkları keşfedildi ve bu açıkların kapatılması sağlandı. Antropik bu nedenle yalnızca zayıflatılmış bir versiyonu kamuoyuna duyurdu; hatta erişimin ABD hükümetinin emriyle geçici olarak engellenmesi gerekti. Hugging Face olayı artık diğer yapay zeka modellerinin büyük bir hızla yetiştiğini ve bunun küresel BT altyapısı için ne gibi sonuçlar doğurabileceğinin altını çiziyor.
Reklamdan sonra devamını okuyun
(mho)
Bir yanıt yazın