Yapay zeka modelleri daha karmaşık hale geldikçe, güvenlik açıklarını bağımsız olarak bulma ve kullanma yetenekleri katlanarak artıyor ve bu da onları siber saldırganların elinde güçlü bir silah haline getiriyor. Şirketler GenAI ve otonom aracıların benimsenmesini hızlandırdıkça, satıcılar da geleneksel algılama modellerinden yapay zekaya özgü güvenlik mimarilerine geçiyor.
Bu hafta, Microsoft, Cisco ve OpenAI, kurumsal pazarda, giderek otonom hale gelen bu yapay zeka sistemlerinin, saldırganlar tarafından istismar edilmeden önce nasıl güvence altına alınacağı konusunda artan endişeleri gidermeyi amaçlayan yeni girişimlerini açıkladı.
Duyurular, statik güvenlik araçlarından, yazılım ortamlarındaki tehditleri sürekli olarak değerlendirip ele alabilen ajansal savunma sistemlerine geçişin sinyalini veriyor.
Cisco'nun girişimini duyururken belirttiği gibi:
“Siber güvenliğin çalışma modeli temelden değişti. Çığır açan yapay zeka modelleri iki yönlü yeni bir zorluk yarattıkça, saldırganlar artık makine hızındaki güvenlik açıklarını tespit ediyor ve güvenlik ekipleri manuel, güncelliğini kaybetmiş süreçlere ayak uydurma konusunda zorluk yaşıyor.”
Microsoft, çok aracılı siber savunmayı zorluyor
Microsoft, Windows altyapısındaki güvenlik açıklarını tespit etmek için 100'den fazla özel yapay zeka aracısını birleştiren yeni bir aracılı güvenlik sistemi olan çok modelli aracılı tarama donanımını (MDASH) tanıttı. Anthropic'in Claude Mythos'u, OpenAI'nin GPT-5.5-Cyber'ı ve diğerleri dahil olmak üzere çığır açan LLM'lerden yararlanıyor.
Şirkete göre platform, Microsoft araştırmacılarının “Windows ağ iletişimi ve kimlik doğrulama yığınında, Windows çekirdeği TCP/IP yığını ve IKEv2 hizmeti gibi bileşenlerdeki dört kritik uzaktan kod yürütme kusuru da dahil olmak üzere 16 yeni güvenlik açığı bulmasına” yardımcı oldu.
Microsoft, Windows cihazlarına gönderilen haftalık Salı Yaması güncellemesindeki kusurları giderdi.
Satıcı, sistemin gerçek dünyadaki güvenlik açıklarını karşılaştırırken Anthropic'in Claude Mythos Preview ve OpenAI'nin ChatGPT 5.5'inden daha iyi performans gösterdiğini iddia ediyor.
Taesoo Kim, Microsoft Ajans Güvenliğinden Sorumlu Başkan YardımcısıSistemi duyuran blog yazısında şunları yazdı:
“Yapay zeka güvenlik açığı keşfi, araştırma merakından kurumsal ölçekte üretim düzeyinde savunmaya geçti ve sürdürülebilir fayda, herhangi bir modelin kendisinden ziyade modeli çevreleyen aracı sistemde yatıyor.”
Kim, yapay zekayı kullanarak güvenlik kusurlarını keşfetmenin teknik bir sorun olacağını ekledi. Herhangi bir ipucuna ulaşamayan bir kompozisyon gerektirir ve keşfedilen eksikliklerin giderilmesi için doğrulama içermesi gerekir.
Microsoft'un sistemi, AI modellerindeki iyileştirmeleri benimsiyor; böylece hedefleme, tartışma, veri tekilleştirme ve prova aşamalarının her güncelleme olduğunda yeniden yazılması gerekmiyor. Bunun yerine, satıcı bir yapılandırmayı değiştirir ve bir A/B testini yeniden çalıştırır ve proje başına bağlam, tarama eklentileri ve test aracıları da dahil olmak üzere müşterinin yatırımı aktarılır.
Kim, “Bu, zaman içinde en çok önem taşıyacak mimari özelliktir, çünkü model piyangosu devam edecek ve değeri belirli bir modele bağlı olan herhangi bir sistem, her altı ayda bir yeniden inşa edilmesi gereken bir sistemdir” dedi.
Mimari, akıl yürütme, istismar doğrulama, önceliklendirme ve iyileştirme iş akışlarında uzmanlaşmış aracılardan oluşan işbirlikçi insan güvenliği ekiplerini taklit etmeyi amaçlıyor.
Microsoft, bu girişimi saldırganlar ve savunucular arasındaki genişleyen hız farkına yanıt olarak formüle ediyor. Satıcı aynı zamanda güvenlik ekipleri için algılama mühendisliğini ve eğitim veri kümelerini geliştirmek amacıyla yapay zeka tarafından oluşturulan sentetik saldırı günlüklerini kullanarak ayrıntılı çalışmalar da yaptı.
MDASH, Microsoft mühendislik ekiplerinin yaygın olarak bulunan yapay zeka modellerini kullanarak güvenlik sonuçlarını iyileştirmesine yardımcı oluyor ve sınırlı bir özel önizlemenin parçası olarak müşteriler tarafından test ediliyor.
Cisco, yapay zeka güvenlik analitiğinin sınırlarını aşıyor
Cisco farklı bir yaklaşım benimsedi ve Foundry Security Spec adı verilen açık kaynaklı bir çerçeve yayınladı. Şirket, bağımsız bir ürün sunmak yerine, denetlenebilir yapay zeka destekli güvenlik değerlendirme sistemleri oluşturmak için model ve yığından bağımsız bir referans mimarisi yayınladı.
Cisco, hataları bulmak ve düzeltmek için yalnızca yapay zekayı kullanmanın yeterli olmadığı konusunda uyardı. Omar Santos, Seçkin Mühendis, Yapay Zeka Güvenlik Mühendisliği, S&TObelirtilmiş:
“Kuruluşlar yapay zeka destekli güvenliğe yatırım yapıyor ve halüsinasyonlu bulguları, büyük ölçekte yanlış pozitifleri ve kapsama alanı yok sinyalini geri alıyor.”
Santos, güvenlik ekipleri bir LLM'yi bir depoya yönlendirdiğinde ve onlardan “hataları bulmalarını” istediğinde, genellikle “keskin içgörüleri halüsinasyonlu bulgularla birleştiren, neyin kaçırıldığını veya gerçekte ne zaman bitirildiğini bilmenin hiçbir yolu olmayan, sınırsız, doğrulanamaz bir çıktı duvarı elde ederler” dedi.
Santos, “Foundry Security Spec, çığır açan bir LLM'yi 'kod tabanınıza karşı ilginç bir demo'dan bir güvenlik değerlendirme sistemine dönüştüren temeldir” diye ekledi. Öncelikli ve doğrulanabilir bir dizi bulgu, net bir “tamamlandı” sinyali ve denetlenebilir bir menşe zinciri sunuyor.”
Daha da önemlisi, “modelin bir noktada yanlış şeyi yapmaya çalışacağını varsayan ve bunu istemle değil alt tabakayla sınırlandıran güvenlik önlemlerini” de kullanıyor.
Microsoft'un MDASH'i gibi, Cisco'nun çerçevesi de insan güvenliği ekiplerinin kendi iş ortamlarına göre uyarlanmış sistemler oluşturmak için bir başlangıç noktası sağlamasına yardımcı olmak üzere tasarlanmıştır. Santos'un yazısı şöyle:
“Herhangi bir güvenlik aracında olduğu gibi, uygulama, gözetim ve nihai karar alma sorumluluğu kullanıcıya aittir. Korkulukların planını biz sağlıyoruz, ancak döngüdeki insanın güvenlik kararlarında nihai hakem olarak kalmasını sağlamak size kalmış.”
Foundry Security Spec, belirli model parametrelerine değil, işlevsel gereksinimlere ve rollere dayalıdır, böylece modeller karmaşık akıl yürütme araçları üretecek şekilde geliştikçe uyum sağlayabilir.
Cisco yöneticileri, çerçeveyi, otonom yapay zeka sistemlerinin doğrudan geliştirme, operasyon ve güvenlik süreçlerine katıldığı bir “ajans iş gücü” için altyapı olarak konumlandırdı. Şirket ayrıca kimlik ve erişim yönetimi portföyünde yapay zeka aracılarına yönelik sıfır güven kontrollerini de genişletti.
Anthropic'in Project Glasswing'i çıtayı yükseltirken OpenAI Daybreak'i başlattı
OpenAI, kuruluşların güvenlik açıklarını belirlemesine, yamaları doğrulamasına ve yapay zeka destekli savunmayı doğrudan yazılım geliştirme hatlarına entegre etmesine yardımcı olmak için tasarlanan kendi Daybreak projesiyle yapay zekanın kurumsal güvenliğe yönelik tehdidini ele alan Anthropic'in Project Glasswing siber güvenlik girişimine yanıt verdi.
Girişim, güvenli kod incelemesini, tehdit modellemeyi, bağımlılık analizini ve iyileştirme rehberliğini desteklemeyi amaçlıyor. Duyuruda şunlar belirtildi:
“Daybreak, OpenAI modellerinin zekasını, Codex'in ajan zırhı olarak genişletilebilirliğini ve güvenlik çarkındaki ortaklarımızı birleştiriyor.”
Şirket, programın Akamai, Cloudflare, Cisco, CrowdStrike, Fortinet, Palo Alto Networks, Oracle ve Zscaler gibi güvenlik ortaklarıyla geliştirildiğini söyledi.
OpenAI, savunma otomasyonunu mümkün kılan aynı yeteneklerin siber saldırganlar tarafından da kullanılabileceğini vurgulayarak güvenlik önlemlerine, doğrulama sistemlerine ve hesap verebilirlik kontrollerine olan ihtiyacı vurguladı.
Tedarikçiler Mythos'un baskısına yanıt veriyor
Anthropic'in Claude Mythos modeli ve Project Glasswing girişimi etrafında artan aciliyet duygusu, sektördeki rekabetçi tepkileri hızlandırıyor.
Anthropic, Mythos'un büyük işletim sistemleri ve tarayıcılardaki binlerce yüksek önemdeki güvenlik açığını otonom olarak tanımlayabildiğini iddia etti; bu yetenekler, şirketin insan güvenliği araştırmacılarının çoğunun ötesinde olduğunu ve kamuya geniş çapta açıklanamayacak kadar hassas olduğunu söylüyor.
Girişim, siber güvenlik konusunu hızlı bir şekilde artan otomasyondan yapay zeka sistemlerinin benzeri görülmemiş bir ölçekte istismarları keşfedip silah haline getirebileceği olasılığına doğru yeniden çerçeveledi.
Buna yanıt olarak satıcılar artık kendi güvenlik sistemlerini Mythos sınıfı yeteneklere karşı savunma amaçlı bir denge unsuru olarak konumlandırıyorlar.
Rekabet dinamikleri, sınırdaki siber güvenliğin büyük yapay zeka tedarikçileri, bulut sağlayıcıları ve kurumsal güvenlik şirketleri arasında hızla stratejik bir savaş alanına dönüştüğünü gösteriyor.
Müşteri deneyimi liderleri için yapay zekaya özgü siber güvenlik platformlarının hızlı yükselişi, geleneksel BT güvenliğinin ötesinde yeni operasyonel hususları da beraberinde getiriyor. Alıcılar, tedarikçileri yapay zeka davranışının yönetişimini ve açıklanabilirliğini gösterme yetenekleri açısından giderek daha fazla değerlendirmelidir.
Bu değişim, platformların artık hassas müşteri etkileşimlerini, finansal iş akışlarını ve sağlık hizmetleri bilgilerini yapay zeka destekli sistemler aracılığıyla işlediği düzenlenmiş endüstrilerde özellikle önemli hale gelebilir.
Bir yanıt yazın