Doğru yönlendirmelerin amatörleri usta bilgisayar korsanlarına dönüştürdüğü yapay zeka korsanlığı çağına hoş geldiniz.
Bir grup siber suçlu yakın zamanda kullanıma hazır yapay zeka sohbet robotlarını kullanarak yaklaşık 200 milyon vergi mükellefinin verilerini çaldı. Botlar, güvenlik duvarlarını aşmak için kodu ve uygulamaya hazır planları sağladı.
Açıkça bilgisayar korsanlarına yardım etmeyi reddetmek üzere programlanmış olmalarına rağmen, botlar siber suça yardım etmek üzere kandırıldılar.
İsrailli siber güvenlik firması Gambit Security'nin yakın tarihli bir raporuna göre, bilgisayar korsanları geçen ay Anthropic'in sohbet robotu Claude'u kullanarak Meksika devlet kurumlarından 150 gigabayt veri çaldı.
İhlali keşfeden uzmanlar, Claude'un başlangıçta bilgisayar korsanlığı girişimlerinde işbirliği yapmayı reddettiğini ve hatta bilgisayar korsanlarının dijital izlerini gizleme taleplerini reddettiğini söyledi. Grup, güvenlik önlemlerini aşmak ve Claude'u sistemi güvenlik açıklarına karşı test etmesine izin verildiğine ikna etmek için 1000'den fazla uyarıyla botu alt üst etti.
Yapay zeka şirketleri, yapay zeka modellerini çocuklara yönelik cinsel içerik üretmek veya silah bulma ve üretmeye yardımcı olmak gibi konularda yardımcı olmaktan alıkoymak için kırılmaz zincirler oluşturmaya çalışıyor. Başkalarından önce kendi sohbet robotlarını kırmaya çalışmak için bütün ekipleri işe alıyorlar.
Ancak bu durumda, bilgisayar korsanları Claude'u yaratıcı yollarla sürekli olarak teşvik etti ve onlara yardımcı olmak için chatbot'u “jailbreak” yapabildiler. Bilgisayar korsanları Claude ile sorunlarla karşılaştıklarında veri analizi yapmak ve sistemde tespit edilmeden hareket etmek için hangi kimlik bilgilerinin gerekli olduğunu öğrenmek için OpenAI'nin ChatGPT'sini kullandılar.
Grup, vergi kayıtları, araç kayıtları, doğum ve mülk bilgileri de dahil olmak üzere dokuz Meksika hükümet sisteminden 195 milyon kimliği çalmadan önce sistemlerin kontrolünü ele geçirmek için yapay zekayı güvenlik açıklarını bulmak ve kullanmak, savunmaları atlatmak, arka kapılar oluşturmak ve verileri analiz etmek için kullandı.
Gambit Security'nin CEO'su Curtis Simpson, bir blog yazısında yapay zekanın “uyumadığını” söyledi. “Çok yönlülüğün maliyetini neredeyse sıfıra indiriyor.”
“Hiçbir önleme yatırımı bu saldırıyı imkansız hale getiremezdi” dedi.
Antropik yorum talebine yanıt vermedi. Bloomberg'e, ilgili hesapları yasakladığını ve bir soruşturmanın ardından faaliyetlerini kesintiye uğrattığını söyledi.
OpenAI, Anthropic'in modellerini kullanarak Meksika devlet kurumlarına karşı yürütülen saldırı kampanyasından haberdar olduğunu söyledi.
Bir OpenAI sözcüsü yaptığı açıklamada, “Düşmanın modellerimizi kullanım politikalarımızı ihlal eden faaliyetler için kullanmaya yönelik başka girişimlerini de tespit ettik; modellerimiz bu girişimlere uymayı reddetti” dedi. “Bu düşman tarafından kullanılan hesapları yasakladık ve Gambit Güvenliği'nin desteğine değer veriyoruz.”
Üretken yapay zeka destekli bilgisayar korsanlığı örnekleri artıyor ve kendi başlarına hareket eden botlardan kaynaklanan siber saldırı tehdidi artık bilim kurgu değil. Yapay zekanın emirlerini yerine getirmesiyle acemiler birkaç dakika içinde hasara yol açabilirken deneyimli bilgisayar korsanları çok daha az çabayla çok daha karmaşık saldırılar gerçekleştirebilir.
Bu yılın başlarında Amazon, düşük vasıflı bir bilgisayar korsanının ticari olarak mevcut yapay zekayı kullanarak 600 güvenlik duvarını ihlal ettiğini keşfetti. Başka biri kontrolü ele aldı binlerce DJI robot süpürgesi Claude'un yardımıyla yabancıların canlı video yayınına, ses kayıtlarına ve kat planlarına erişebildi.
Gelişmiş yapay zekadan kaynaklanan riskleri azaltma konusunda çalışan uzman Nikola Jurkovic, “Bugün gördüğümüz şeyler, yapay zekaların birkaç yıl içinde yapabilecekleri şeylerin yalnızca ilk işaretleri” dedi. “Bu yüzden acilen hazırlanmamız gerekiyor.”
Geçen yılın sonlarında Anthropic, toplumun şu noktaya ulaştığı konusunda uyardı:dönüm noktasıŞirketin, Claude'u finansal kurumlar ve devlet kurumları da dahil olmak üzere 30 küresel hedefe sızmak için kullanan Çin devleti destekli bir casusluk kampanyası olduğunu söylediği şeyi bozduktan sonra siber güvenlikte yapay zeka kullanımında.
Üretken yapay zeka aynı zamanda şirketlere şantaj yapmak, Kuzey Koreli operatörler tarafından ABD Fortune 500 şirketlerinde iş bulmak için gerçekçi çevrimiçi profiller oluşturmak, romantik dolandırıcılıklar yürütmek ve Rus propaganda hesaplarından oluşan bir ağ işletmek için de kullanılıyor.
Son birkaç yılda, yapay zeka modelleri yalnızca birkaç saniye süren görevleri yönetebilmekten, günümüzün yapay zeka aracılarının saatlerce otonom olarak çalışmasına dönüştü. Yapay zekanın uzun görevleri tamamlama yeteneği her yedi ayda bir ikiye katlanıyor.
Jurkovic, “Aslında yapay zekanın kapasitesinin üst sınırının ne olduğunu bilmiyoruz, çünkü hiç kimse yapay zekanın yapamayacağı kadar zor ölçütler oluşturmadı” dedi. METREKAREtopluma yıkıcı zararlar verecek şekilde yapay zeka sistemi yeteneklerini ölçen, kâr amacı gütmeyen bir kuruluş.
Şimdiye kadar yapay zekanın bilgisayar korsanlığı için en yaygın kullanımı sosyal mühendislik oldu. İnsanların paralarını kandırmak amacıyla ikna edici e-postalar yazmak için büyük dil modelleri kullanılıyor. sekiz kat 2025'te çevrimiçi dolandırıcılık nedeniyle 4,9 milyar dolar kaybettikleri için yaşlı Amerikalılardan gelen şikayetlerde artış oldu.
USC'de bilgisayar bilimi doçenti Cliff Neuman, “Hedeften bir tıklama elde etmek için kullanılan mesajlar artık kullanıcı bazında daha verimli bir şekilde ve dilbilgisi ve yazım hataları gibi daha az kimlik avı belirtisiyle oluşturulabiliyor” dedi.
Yapay zeka şirketleri saldırıları tespit etmek için yapay zekayı kullanarak yanıt veriyor. denetim kodu ve güvenlik açıklarını yamalayın.
Neuman, “Sonuçta büyük dengesizlik, iyi aktörlerin her zaman güvende olma ihtiyacından, kötü aktörlerin ise yalnızca bir kez haklı olma ihtiyacından kaynaklanıyor” dedi.
Yapay zeka ekonominin her alanına sızdıkça etrafındaki riskler artıyor. Birçoğu, bunun kötü aktörler tarafından kötüye kullanılmamasını veya hileye yönelmemesini nasıl sağlayacağımıza dair yeterli anlayış olmadığından endişe ediyor.
Sektörün en üst düzey yöneticileri bile kullanıcıları yapay zekanın olası kötüye kullanımı konusunda uyardı.
Anthropic'in CEO'su Dario Amodei, inşa edilen yapay zeka sistemlerinin öngörülemez ve kontrol edilmesi zor olduğunu uzun süredir savunuyor. Bu yapay zekalar, aldatma ve şantajdan, yazılım korsanlığı yoluyla entrika ve hile yapmaya kadar çeşitli davranışlar gösterdi.
Yine de büyük yapay zeka şirketleri (OpenAI, Anthropic, xAI ve Google), yapay zekalarını askeri operasyonlarda kullanmak için ABD hükümetiyle sözleşmeler imzaladı.
Geçen hafta Pentagon, şirketin yapay zekasının kitlesel yurt içi gözetleme ve tamamen otonom silahlar için kullanılmasına izin vermemesi yönündeki talebini geri çevirmeyi reddetmesinin ardından federal kurumlara Claude'u aşamalı olarak kaldırma talimatı verdi.
Amodei, CBS News'e şunları söyledi: “Günümüzün yapay zeka sistemleri, tamamen otonom silahlar üretmeye yetecek kadar güvenilir değil.”
Bir yanıt yazın