Claude: Meksika hükümetine yönelik siber saldırıda yapay zeka sohbet robotu kullanıldı

Siber güvenlik uzmanlarına göre bir siber suçlu, Meksika devlet kurumlarının ağlarına sızmak için Anthropic'in yapay zeka sohbet robotu Claude'u kullandı ve büyük miktarlarda hassas vergi ve seçmen bilgilerini çaldı. Amerikan haber ajansı Bloomberg bunu çarşamba günü bildirdi.

Bloomberg raporu, İsrailli siber güvenlik girişimi Gambit Security tarafından yapılan ve kimliği belirsiz kullanıcı Claude'un hükümet ağlarındaki güvenlik açıklarını tespit etmek için chatbot'a İspanyolca komutlar yazdığını, bunları istismar etmek için bilgisayar komut dosyaları yazdığını ve veri hırsızlığını otomatikleştirmenin yollarını bulduğunu tespit eden bir araştırmaya atıfta bulunuyor. Yasadışı faaliyetler Aralık ayında başladı ve yaklaşık bir ay sürdü.

Saldırgan, Meksika Federal Vergi Dairesine ve Ulusal Seçim Enstitüsüne erişim sağladı. Birçok eyaletin hükümetleri ile Mexico City ve Monterrey yetkililerinin de tehlikeye atılması söz konusu olacaktı. Aralarında 195 milyon vergi mükellefinin kaydına ilişkin belgelerin yanı sıra seçmen kayıtları, devlet çalışanlarının giriş bilgileri ve nüfus kayıt dosyalarının da bulunduğu toplam 150 gigabayt veri çalındı. Meksika hükümeti Aralık ayında kısa bir açıklama yaparak kamu kurumlarının kişisel veritabanlarındaki olası bir güvenlik olayını araştırdığını belirtmişti. Bunun Claude siber saldırısıyla ilgili olup olmadığı belli değil. Siber saldırı ve veri hırsızlığının arkasında kimin olduğu da belli değil; Ancak Gambit, yabancı bir hükümetle bağlantı olduğuna inanmıyor.

Antropik olayı araştırıyor

Gambit uzmanlarına göre Claude sohbet robotu, başlangıçta saldırganı “konuşmaları” sırasında kötü niyetli oldukları konusunda uyardı, ancak sonunda bilinmeyen kullanıcının isteklerine uydu ve Meksika hükümetinin bilgisayar ağlarında binlerce komutu yürüttü. Anthropic, olayı araştırdıklarını söyledi. İlgili hesaplar engellendi. Bir şirket temsilcisi Bloomberg'e, şirketin Claude'a öğrenebileceği kötü amaçlı etkinlik örnekleri sağladığını söyledi. En yeni yapay zeka modellerinden biri olan Claude Opus 4.6, kötüye kullanımı önleyebilecek sondalar içeriyor.

Gambit şöyle devam etti: Claude, saldırıyla ilgili sorunlarla karşılaştığında veya ek bilgiye ihtiyaç duyduğunda, siber suçlu ek bilgi için OpenAI'nin ChatGPT'sine başvurdu. İsrailli siber güvenlik uzmanlarına göre bu, bilgisayar ağlarında yatay olarak nasıl hareket edileceğini, belirli sistemlere erişmek için hangi kimlik bilgilerinin gerekli olduğunu ve yasa dışı eylemin tespit edilme olasılığını içeriyordu. OpenAI, ChatGPT'nin bu yasa dışı girişimlere direndiğini söyledi. Şirket e-postayla yaptığı açıklamada, saldırganın kullandığı hesapların askıya alındığını söyledi.

Bloomberg'in bildirdiği gibi Gambit çalışanları, yeni tehdit avlama tekniklerini denerken Meksikalı yetkililere yönelik saldırıları keşfetti. Claude'un Meksika hükümetinin bilgisayar sistemlerine izinsiz girme konusunda kapsamlı konuşmalarını içeren bir saldırı da dahil olmak üzere, aktif veya yakın tarihli saldırılara ilişkin kamuya açık kanıtlar keşfettiler. Gambit, bu konuşmalardan, saldırganın Claude'un güvenlik önlemlerini atlatmak için chatbot'a bir hata ödül programı yürüttüğünü söylediğinin ortaya çıktığını söyledi. Bug Bounty programları, yazılımdaki güvenlik açıklarını ve hataları belirlemek için tasarlanmış girişimlerdir. Bu tür programlar şirketler veya yetkililer tarafından yürütülmekte ve siber güvenlik açıklarının tespitini maddi veya parasal ödüllerle ödüllendirmektedir.

“Endişe verici bir trend”

Bloomberg, “Meksika hükümeti ağlarına yapılan saldırılar endişe verici bir eğilimin son örneğidir” diye yazıyor. “Anthropic ve OpenAI giderek daha karmaşık yapay zeka şifreleme araçları geliştirmeye devam ederken ve siber güvenlik şirketleri geleceklerini yapay zeka tabanlı savunmalara yatırırken, siber suçlular ve siber casuslar saldırılar için bu teknolojiden yararlanmanın yeni yollarını bulmaya devam ediyor.”

Yapay zeka siber suçlular için önemli bir araç haline geldi. Kasım ayında Anthropic, yapay zeka tarafından yönetilen bir siber casusluk kampanyasını engellediğini duyurdu. Çin devleti tarafından desteklendiğinden şüphelenilen saldırganlar, Claude chatbot'unu dünya çapında düzinelerce hedefe saldırmak için manipüle etti. Bazı girişimler başarılı oldu. Ayrıca Kuzey Koreli siber suçluların yapay zeka tarafından oluşturulan PowerShell arka kapılarını kullandığına dair son raporlar da var. Yakın zamanda yapılan bir araştırmaya göre yapay zeka, daha önce insan uzmanlar tarafından gerçekleştirilen sıfır gün açıklarının yazılması gibi zorlu görevlerin üstesinden zaten gelebiliyor.

(Tamam)