Anthropic'in ulaşamayacağı bir yerde tutmak istediği model Claude Mythos, bir grup gizemli İnternet kullanıcısının eline geçti. Duyuru gününden bu yana Anthropic'in bilgisi olmadan üretken yapay zeka kullanıyorlar. Startup, Claude Mythos'u korumak için her şeyi planlamıştı ancak aldığı önlemler yeni bir sızıntıyı önlemek için yeterli değildi.
Geçen hafta Anthropic perdeyi kaldırdı Claude Mitosubilgisayar kodundaki güvenlik açıklarını ortaya çıkarmak için tasarlanmış güçlü bir yapay zeka modeli. Amerikalı start-up, modelinin aynı zamanda keşfedilen güvenlik açıklarından yararlanmaya yönelik yöntemler tasarlama yeteneğine de sahip olduğunu kısa sürede fark etti. Bu saldırgan beceriler, model programlama, mantıksal akıl yürütme ve özerklik konularında yeterlilik kazandıkça doğal olarak ortaya çıktı. Dahili bir test sırasında, test ortamından ayrılmayı, öğle yemeğine çıkan bir araştırmacıyla iletişime geçmeyi ve neler yapabileceğini kanıtlamak için istismarının ayrıntılarını kamuya açık sitelerde yayınlamayı bile başardı.
Kötü niyetli kişilerin Mythos'u siber saldırılar başlatmak için kullanabileceğinden korkan Anthropic, modele erişimi kısıtlama. Bu kamuoyunun bilgisine sunulmadı. Şirket, “Glasswing Projesi”nin bir parçası olarak yapay zekayı özenle seçilmiş ortaklara ayırmayı tercih etti. Amazon, Apple, Broadcom, Cisco, CrowdStrike, Google, Linux Foundation, Microsoft ve NVIDIA gibi şirketler Mythos'u kullanabilecek. Anthropic, ortaklarının araçlarındaki tüm kusurları kapatmak için Claude'un yeni sürümünü kullanmasını tavsiye ediyor.
Ayrıca okuyun: Anthropic'ten ilham alan OpenAI, siber güvenliğe özel ChatGPT'yi başlattı
Kullanıcılar Claude Mythos'a nasıl erişebildiler?
Ne yazık ki, gizemli kişilerin Claude Mythos'a erişim sağlamak için Anthropic'in kısıtlamalarını aşmayı başardıkları ortaya çıktı. Bildirildiği gibi Bloombergbu grup var Anthropic'in sistemine sızdı 7 Nisan, duyurunun yapıldığı gün. Dahili bir kaynağa ve destekleyici ekran görüntülerine atıfta bulunan medya, davetsiz misafirlerin yeni yapay zeka modellerini takip etmeye adanmış bir Discord sunucusundan geldiğini iddia ediyor. Özellikle Antropik veya diğer yapay zeka devleri hakkında bilgi toplamak için botları kullanıyorlar, özellikle de aşağıdaki sitelerde.
Hedeflerine ulaşmak için öncelikle her şeyi yaptılar. adresi çevrimiçi tahmin et Mythos'un yaşadığı yer. Kendilerini Anthropic'in diğer modelleri için kullandığı formata dayandırdılar ve her şey birbirini takip ederek yapay zekanın yerelleştirilmesinde başarılı oldular. Daha sonra, bir grup çalışanı tarafından istihdam edilen bir üyenin erişim haklarını istismar ettiler. üçüncü taraf taşeron Anthropic'de çalışıyor Bu nedenle izinsiz giriş, öncelikle tedarik zincirine yönelik, en zayıf halkanın savunmasına nüfuz etmeyi içeren bir saldırıya dayanıyor.
Medya tarafından paylaşılan bilgilere göre davetsiz misafirler, Anthropic'in çalıştırdığı başka bir hizmet sağlayıcı olan Mercor'dan gelen veri sızıntısından kaynaklanan bilgileri de kullandı. Yapay zeka modellerinin eğitimi konusunda uzmanlaşmış bu girişim, birçok büyük laboratuvarla iş birliği yapıyor.
Ayrıca okuyun: Yapay zekaya dayalı “büyük ölçekli bir siber saldırı” Anthropic tarafından engellendi
Kötü niyet yok
Medyanın endişe verici açıklamalarına yanıt olarak Anthropic hızlı bir şekilde yanıt verdi. Yapay zeka devi, konuyla ilgili soruşturma açıldığını belirtiyor “Üçüncü taraf sağlayıcı ortamlarımızdan biri aracılığıyla Claude Mythos Preview'a yetkisiz erişim”. Şirketin, sahte erişimin hizmet sağlayıcısının sisteminin dışına çıktığına dair hiçbir kanıtı yok.
Bloomberg'in görüştüğü kaynak, grubun sadece bunu amaçladığını iddia ediyor “yeni modellerle oyna”kötü niyet olmadan. Davetsiz misafirlerin de Mythos'u birkaç gün kullandımen ufak bir siber saldırı başlatmadan. Grubun ayrıca Anthropic'in henüz açıklanmayan diğer birçok yapay zeka modeline de erişimi var.
Her şey Mythos'un henüz siber suçluların eline geçmediğini gösteriyor. Eğer bu İnternet kullanıcıları Anthropic'in savunmasını aşmayı başarabildiyse, bilgisayar korsanları da aynısını yapabilirdi. Aslında bilgisayar korsanları, Anthropic'in farkına varmadan Mythos'u zaten istismar etmiş olabilir.
Anthropic'te tekrarlanan sızıntılar
Antropik olduğunu da hatırlayacağız sayısız veri sızıntısının kurbanı son aylarda. Hatalar veya ihmaller nedeniyle Claude'un kaynak kodunun tamamı, Anthropic'in gelecekteki projelerine ilişkin gizli bilgilerle birlikte çevrimiçi olarak yayınlandı. Yayınlanmadan önce Claude Mythos'un varlığı geniş çapta duyurulmuştu.
👉🏻 Teknoloji haberlerini gerçek zamanlı takip edin: 01net'i Google'daki kaynaklarınıza ekleyin ve WhatsApp kanalımıza abone olun.
Kaynak :
Bloomberg
Bir yanıt yazın