Bu siber güvenlik kabuslarının bir parçası.
Salı günü OpenAI, test ettiği iki yapay zeka sisteminin test ortamından çıktığını, internete sızdığını ve başka bir şirkete girdiğini söyledi.
Kurban, açık kaynaklı yapay zeka araçları sağlayıcısı Hugging Face'ti. Bunun nedeni, çok çok yanlış giden bir siber güvenlik kıyaslama testiydi.
Hugging Face, şirket içi veri kümelerine ve şirket kimlik bilgilerine yetkisiz erişim olduğunu söyleyerek, geçen hafta başında bu izinsiz girişi fark etti. Şirket, müşteri veya iş ortağı verilerinin tehlikeye girip girmediğinden emin değildi.
Hugging Face İcra Kurulu Başkanı Clement Delangue, Salı günü yayınlanan bir X mesajında, o dönemde şirketin kimin sorumlu olduğunu bilmediğini ancak saldırının o kadar karmaşık olduğunu ve Hugging Face çalışanlarının bunun için birinci sınıf bir “sınır” yapay zeka modeli gerektirdiğinden şüphelendiğini söyledi.
“Öyle olduğu ortaya çıktı!” diye ekledi.
Salı günü yayınlanan bir blog yazısında OpenAI, suçluların kendi modellerinden bir çift olduğunu söyledi. Bunlardan biri, GPT‑5.6 Sol adı verilen en son ürünüydü; diğeri ise şirketin tanımlamadığı daha da yetenekli bir ön sürüm modeliydi. OpenAI, yazılımın bilgisayar korsanlığı komutlarını reddetme olasılığının daha düşük olması için “değerlendirme amacıyla” yapılandırıldığını söyledi.
OpenAI, modelleri internete erişimi olmayan bir sistem olan “korumalı alana” hapsetmişti. Ancak test sırasında yapay zeka yazılımı, sızmak için hackleme becerilerini kullandı. OpenAI, çevrimiçi olmanın bir yolunu bulduğunu ve daha sonra Hugging Face'in ağına girdiğini söyledi.
OpenAI, “Bu olayı, en son teknolojiye sahip siber yetenekleri içeren, benzeri görülmemiş bir siber olay olarak değerlendiriyoruz” dedi. Şirket, olanları anlatan daha kapsamlı bir rapor hazırlamak için Hugging Face ile birlikte çalışıyor.
Siber güvenlik firması RunSybil'in genel müdürü Ariel Herbert-Voss, AI sisteminin, bir kıyaslama sorusunu yanıtlamanın en hızlı yolu olarak Hugging Face'i hacklemeye karar vermiş gibi göründüğünü söyledi. “İnsanların akademik açıdan gerçekleşebileceğini düşündüğü bir şey bu, ancak aslında daha önce kimsenin gördüğü bir şey değil” dedi.
Olay, Trump yönetimi yetkilileri ve sektör yöneticileri arasında siber saldırılara neden olan yapay zeka sistemlerine ilişkin artan endişeyi vurguluyor. Bu korkular Beyaz Saray'ı yapay zeka modellerinin gözetimini artırmaya ve özel sektörü savunma amacıyla yapay zekayı kullanmaya itmeye itti.
Temsilci Greg Casar (D., Texas), Başkan Trump'ın öne sürdüğü gönüllü önlemler yerine zorunlu test ve gözetim çağrısında bulunarak, “Bu son derece endişe verici. Yapay zeka, bizi güvende tutacak gerçek düzenlemeler olmadan son derece hızlı gelişiyor” dedi. Casar ve diğer bazı ilerici Demokratlar sektörün daha fazla denetlenmesi yönünde çağrıda bulundu.
Pek çok yasa koyucu ve sektör analisti, Beyaz Saray'ın teknolojinin yarattığı riskleri ele almak için hala çok yavaş hareket ettiğini söyledi.
Daha güçlü yapay zeka düzenlemelerini savunan yapay zeka politika grubu Encode'un genel danışmanı Nathan Calvin, “Neyse ki, bu sefer hasar sınırlı görünüyor. Sektör çapında daha fazla önlem ve güvenlik önlemleri olmazsa, bir dahaki sefere bu kadar şanslı olmayabiliriz” dedi.
Yönetim, yeniliği külfetli kurallarla boğmak veya Çin'e karşı yapay zeka yarışında geri adım atmak istemediğini söyledi.
Geçtiğimiz yıl, yapay zeka sistemleri bilgisayar sistemlerine sızma yeteneklerinde önemli ilerlemeler kaydetti. ABD hükümeti ve yapay zeka şirketleri, siber güvenlik risklerini serbest piyasa ilkeleri ve savunma amaçlı siber güvenlik ihtiyaçlarıyla dengeleyen güçlü yeni sistemlerin piyasaya sürülmesine yönelik bir çerçeve üzerinde anlaşmaya varmak için mücadele ediyor. Nisan ayında OpenAI rakibi Anthropic, siber güvenlik endişeleri nedeniyle Mythos adlı en yeni modeline erişimi kısıtladığını açıklamıştı.
Haziran ayında Trump yönetimi, bilgisayar korsanlığı konusunda daha az etkili olacak şekilde değiştirilen Fable 5 adlı genel erişim modeliyle birlikte Mythos'a erişimi kısıtladı. Bu, Anthropic'in bu ürünleri piyasadan çekmesine neden oldu. Müzakerelerin ardından birkaç hafta sonra bu modellere erişim yeniden sağlandı.
OpenAI'nin GPT‑5.6 Sol'a benzer şekilde sınırlı erişimi vardı, ancak bu yazılım artık genel olarak mevcut. Şirket yakın zamanda hükümetin yapay zeka teknolojisine uyguladığı kısıtlamaların kötü bir emsal oluşturduğu konusunda uyardı.
Robert McMillan'a [email protected] adresinden ve Amrith Ramkumar'a [email protected] adresinden yazın.
Bir yanıt yazın