OpenAI ve AI modelleri testler sırasında Hugging Face'i hackliyor

OpenAI tarafından açıklandığı üzere olay, bir olay sırasında meydana geldi. bir dizi dahili test ölçmek amaçlanıyor modellerin hücum yetenekleri BT alanında. Değerlendirmeyi daha gerçekçi kılmak için ilgili sistemler bazı korumalar olmadan çalışıyorlardı Bu normalde potansiyel olarak kötü amaçlı etkinlikleri gerçekleştirme yeteneğini sınırlar. Deneyin kahramanları arasında şunlar vardı: GPT-5.6 Güneşşirkete göre halka açık en güçlü model ve henüz piyasaya sürülmemiş daha gelişmiş bir sistem. Test ortamı şu şekilde tasarlandı: İnternetten izole edilmiş. Ancak OpenAI, modellerin ağa erişmelerini sağlayacak bir yöntem bulmak için önemli miktarda hesaplama kaynağı harcadığını söylüyor ve verilen görevi çözmeye devam edin. Şirketin yayınladığı blogda şunu okuduk: “Modellerimiz izole edilmiş test ortamımızda çalışırken önemli miktarda bilgi işlem gücü kullandı. İnternete erişmenin bir yolunu bulunderecelendirme sorununu çözmeye çalışıyoruz. Çevrimiçi olduktan sonra, sistemler Yüzleşmek faydalı bir hedef testi geçmek için stratejik olduğu düşünülen bilgileri bulmak. OpenAI, hassas verileri elde etmek amacıyla modellerin “çalıntı kimlik bilgilerinin kullanımı da dahil olmak üzere birden fazla saldırı vektörünü bir araya getirdiğini” iddia ediyor. Şirket duyurduortak soruşturma başlatılması Olan biteni her yönüyle açıklığa kavuşturmak ve deney tarafından belirlenen kısıtlamaları aşmanın nasıl mümkün olduğunu anlamak için Sarılma Yüzü ile.