Yapay Zeka 'kaçar' ve bilgisayar korsanlarına dönüşür. Bir filmin konusuna benziyor ama alarm gerçek. ChatGpt'i üreten şirket OpenAI, gelişmiş yapay zeka modellerinin bir güvenlik testi sırasında kontrolden kaçtığını ve programcılar için iyi bilinen bir platformu bağımsız olarak hacklediğini duyurdu. San Francisco şirketi bunu “benzeri görülmemiş bir siber olay” olarak nitelendirdi ve çevrimiçi kod kütüphanesi Hugging Face ile ortak bir soruşturma yürüteceğini söyledi.
Ajanlar, gerçek dünyada görevleri yerine getirmek için özerk olarak hareket eden araçlar olarak tanımlanır. OpenAI bunu açıkladı kaza modellerin bir kombinasyonunu içeriyorduen son GPT-5.6 Sol “ve daha da güçlü bir ön sürüm modeli” dahil.
Şirket, güvenlik nedeniyle internet erişiminin sınırlı olduğu, sıkı kontrol edilen bir dijital test ortamında modellere görevler atayarak modellerin hackleme yeteneklerini değerlendirmeye çalışıyordu. Olayla ilgili bir OpenAI blog yazısı şöyle bildirdi: “Modellerimiz izole test ortamımızda (sanal alan) çalışırken, değerlendirme sorununu çözmek amacıyla İnternet'e açık erişim elde etmenin bir yolunu bulmak için önemli miktarda (bilgi işlem gücü) harcadı.”
İnternete bağlandıktan sonra, modeller Hugging Face platformunu hedeflemeye karar verdi Hedeflerine ulaşmalarına yardımcı olacak geniş bir yapay zeka modelleri, veri kümeleri ve diğer bilgiler deposu. Değerlendirmeden kaçmasına yardımcı olabilecek “gizli bilgiler” arayan OpenAI'nin sistemi, “çalıntı kimlik bilgilerinin kullanımı da dahil olmak üzere birden fazla saldırı vektörünü zincirledi.” UNSW Canberra'da bilgisayar bilimi öğretim görevlisi olan Hüseyin Abbass, AFP'ye olayın “birçok açıdan şaşırtıcı” olduğunu söyledi. Abbass, “Sadece Hugging Face'e saldırmadı. Hatta zayıf noktalardan yararlanmak için kendi iç sistemine bile saldırdı” dedi. “Ve bu çok korkutucu.”
GPT-5.6 ve OpenAI'nin ana rakibi Anthropic'in Mythos serisi de dahil olmak üzere diğer son teknoloji modeller, siber güvenlik savunmalarını ihlal etme yetenekleriyle ilgili endişeleri artırdı. Her iki ABD şirketi de Washington'un kritik altyapının ihlal edilmesine katkıda bulunabileceği korkusu nedeniyle bu son teknolojilerin kamuya açıklanmasını geçici olarak askıya almak zorunda kaldı. Gelişmiş yapay zeka “normalde etik ve sorumlu kişilerin elindedir”Abbas ekledi. Ancak “zarar verme niyetinde olan birinin eline geçmesi felaket olur.”
Yapay zeka sektörünün yönetiminin merkezi bir konu haline geldiğini ve “bu durumu yönetmek için ortak bir topluluk çabasına ihtiyaç duyulduğunu” belirtti. Geçen hafta Hugging Face siber “izinsiz girişi” bildirdi ancak OpenAI'den bahsetmedi. Hugging Face, “Bu ihlal, daha önce tek bir yöntemle ele alınan ihlallerden farklıydı: Başlangıçtan bitişe kadar otonom bir yapay zeka ajanları sistemi tarafından gerçekleştirildi ve biz bunu büyük ölçüde kendi yapay zekamızla tespit edip analiz ettik” dedi. Hugging Face CEO'su Clement Delangue, X'te, ajanın karmaşıklığı göz önüne alındığında şirketin siber saldırının birinci sınıf bir yapay zeka laboratuvarından geldiğinden şüphelendiğini söyledi. Delangue, OpenAI'ye atıfta bulunarak “Onların kötü niyetli bir niyeti olmadığına kesinlikle inanıyoruz” diye yazdı. “Bütün bunların kendi başına gerçekleşmesi gerçekten endişe verici!”
Bir yanıt yazın