Claude: Meksika hükümetine siber saldırı için kullanılan yapay zeka sohbet robotu

Siber güvenlik uzmanlarına göre bir siber suçlu, Meksika devlet kurumlarının ağlarına sızmak için Anthropic'in yapay zeka sohbet robotu Claude'u kullandı ve büyük miktarlarda hassas vergi ve seçmen bilgilerini çaldı. ABD haber ajansı Bloomberg bunu çarşamba günü bildirdi.

Bloomberg raporu, kimliği belirlenemeyen Claude kullanıcısının, devlet ağlarındaki güvenlik açıklarını tespit etmek için chatbot'a İspanyolca komutlar yazdığını, bunlardan yararlanmak için bilgisayar komut dosyaları yazdığını ve veri hırsızlığını otomatikleştirmenin yollarını bulduğunu tespit eden İsrailli siber güvenlik girişimi Gambit Security tarafından yapılan bir araştırmaya atıfta bulunuyor. Yasadışı faaliyetler Aralık ayında başladı ve yaklaşık bir ay sürdü.

Saldırgan, Meksika federal vergi dairesine ve ulusal seçim enstitüsüne erişim sağladı. Çeşitli eyalet hükümetlerinin hükümetlerinin yanı sıra Mexico City ve Monterrey'deki yetkililerin de tehlikeye girdiği söyleniyor. Aralarında 195 milyon vergi mükellefinin kayıtlarının yanı sıra seçmen kayıtları, devlet çalışanlarının oturum açma bilgileri ve nüfus kayıt dosyalarının da bulunduğu toplam 150 gigabayt veri çalındı. Meksika hükümeti Aralık ayında kamu kurumlarının kişisel veritabanlarında olası bir güvenlik olayını araştırdığını belirten kısa bir açıklama yayınladı. Bunun Claude siber saldırısıyla ilgili olup olmadığı belli değil. Siber saldırı ve veri hırsızlığının arkasında kimin olduğu da belli değil; Ancak Gambit yabancı bir hükümetle bağlantı olduğuna inanmıyor.

Antropik olayı araştırıyor

Gambit uzmanlarına göre, Chatbot Claude başlangıçta saldırganı “konuşmaları” sırasında kötü niyetli olduğu konusunda uyardı, ancak sonunda bilinmeyen kullanıcının taleplerine uydu ve Meksika hükümetinin bilgisayar ağlarında binlerce komutu yürüttü. Anthropic, olayı araştırdıklarını söyledi. İlgili hesaplar engellendi. Bir şirket temsilcisi Bloomberg'e, şirketin kötü niyetli faaliyet örneklerini onlardan bilgi almak için Claude'a geri gönderdiğini söyledi. En yeni yapay zeka modellerinden biri olan Claude Opus 4.6, kötüye kullanımı önleyebilecek sondalar içeriyor.

Gambit, Claude'un saldırıyla ilgili sorunlarla karşılaştığında veya ek bilgiye ihtiyaç duyduğunda siber suçlunun daha fazla bilgi edinmek için OpenAI'nin ChatGPT'sine başvurduğunu söyledi. İsrailli siber güvenlik uzmanlarına göre bu, bilgisayar ağlarında yatay olarak nasıl hareket edileceğini, belirli sistemlere erişmek için hangi kimlik bilgilerinin gerekli olduğunu ve yasa dışı eylemin tespit edilme olasılığını içeriyordu. OpenAI, ChatGPT'nin bu yasa dışı girişimlere direndiğini belirtti. Şirket e-postayla yaptığı açıklamada, saldırganın kullandığı hesapların askıya alındığını söyledi.

Bloomberg'in bildirdiği gibi Gambit çalışanları, yeni tehdit avlama tekniklerini denerken Meksikalı yetkililere yönelik saldırıları ortaya çıkardı. Meksika hükümetinin bilgisayar sistemlerine izinsiz girme konusunda kapsamlı Claude konuşmaları içeren bir saldırı da dahil olmak üzere, aktif veya yeni saldırılara ilişkin kamuya açık kanıtları ortaya çıkardılar. Gambit, bu görüşmelerden, saldırganın Claude'un güvenlik önlemlerini aşmak için chatbot'a bir hata ödül programı çalıştırdığını söylediğinin ortaya çıktığını söyledi. Hata ödül programları, yazılımdaki güvenlik açıklarını ve hataları belirlemek için tasarlanmış girişimlerdir. Bu tür programlar şirketler veya yetkililer tarafından işletilmekte ve bilgisayar güvenliği açıklarının tespitini maddi veya parasal ödüllerle ödüllendirmektedir.

“Endişe verici bir trend”

Bloomberg, “Meksika hükümeti ağlarına yapılan saldırılar endişe verici bir eğilimin son örneğidir” diye yazıyor. “Anthropic ve OpenAI giderek daha karmaşık yapay zeka kodlama araçları geliştirmeye devam ederken ve siber güvenlik şirketleri geleceklerini yapay zeka destekli savunmalara yatırırken, siber suçlular ve siber casuslar saldırılar için bu teknolojiden yararlanmanın yeni yollarını bulmaya devam ediyor.”

Yapay zeka siber suçlular için önemli bir araç haline geldi. Kasım ayında Anthropic, yapay zeka tarafından yönetilen bir siber casusluk kampanyasını engellediğini duyurdu. Çin devleti tarafından desteklendiğinden şüphelenilen saldırganlar, chatbot Claude'u dünya çapında düzinelerce hedefe saldırması için manipüle etti. Birkaç deneme başarılı oldu. Ayrıca Kuzey Koreli siber suçluların yapay zeka tarafından oluşturulan PowerShell arka kapılarını kullandığına dair son raporlar da var. Yakın zamanda yapılan bir araştırmaya göre yapay zeka, daha önce insan uzmanlar tarafından gerçekleştirilen sıfır gün açıklarının yazılması gibi zorlu görevleri zaten yerine getirebiliyor.

(akın)