Anthropic, yapay zeka şirketinin yeni modeli Mythos'un olası ihlalini araştırıyor yuvarlandı yazılım açıklarını tespit etmelerine yardımcı olmak için bu ayın başında küçük bir şirket havuzuna gönderildi.
Bir Anthropic sözcüsü, Haberler'e bir e-postada, sohbet robotu Claude'un arkasındaki yapay zeka şirketinin, üçüncü taraf satıcı ortamlarından birinden Mythos'a yetkisiz erişim raporunu araştırdığını söyledi.
Anthropic, yapay zeka modellerini geliştirmek için az sayıda üçüncü taraf satıcıyla çalışıyor. Şu ana kadar şirket, tedarikçi ortamı dışında herhangi bir ihlal veya Anthropic sistemlerinde herhangi bir tehlike tespit etmedi.
Anthropic, Bloomberg'in küçük bir grup yetkisiz kullanıcının araca erişim sağladığını bildirmesinden bir gün sonra Çarşamba günü olası Mythos ihlaline ilişkin soruşturmasını doğruladı.
Anthropic, Mythos'u Nisan ayında Project Glasswing adlı bir çabanın parçası olarak sınırlı bir gruba sundu ve yeni modelin yazılımdaki güvenlik açıklarını tespit etmede rakip yapay zeka sistemlerinden daha etkili olduğunu ilan etti.
O zamanlar Anthropic, yeni modelin bilgisayar korsanları tarafından istismar edilebileceği endişeleri nedeniyle aracı yalnızca Amazon, Apple, Cisco, JPMorgan Chase ve Nvidia'nın da aralarında bulunduğu küçük bir büyük şirket grubuyla paylaşıyordu. Amaç, kötü aktörlerin Mythos veya benzeri yapay zeka modellerine erişmeden önce bu şirketlerin savunmalarını güçlendirmelerine yardımcı olmaktı.
Federal yetkililer, güvenlik uzmanları ve Uluslararası Para Fonu gibi küresel kurumların liderleri, Mythos'un yanlış ellere geçmesi durumunda neler olabileceğine dair endişelerini dile getirdi. Glasswing Projesi şirketlerin kendilerini siber güvenlik tehditlerine karşı korumalarına yardımcı olmayı amaçlasa da bazı uzmanlar Mythos'un bankalar, hastaneler, devlet sistemleri ve diğer kuruluşlardaki BT altyapısından yararlanmak için de kullanılabileceğinden endişe ediyor.
Siber güvenlik yapay zeka şirketi Assail'in CEO'su Alissa Valentina Knight daha önce Haberler'e şöyle demişti: “Kendimizi hazırlamamız gerekiyor, çünkü insanlar ağlarımıza sızdığında kötü adamlara ayak uyduramazdık.” Yapay zekayı kullanıyorlarsa kesinlikle buna ayak uyduramayız çünkü çok yıkıcı derecede daha hızlı ve daha yetenekli.
Bir yanıt yazın