Nvidia Sahte OpenAI modelleri tarafından gerçekleştirilen bir siber saldırının sonuçları devam ederken, Pazartesi günü bir dizi teknoloji devi açık modellere odaklanan yeni bir yapay zeka güvenlik girişimi başlattı.
Geçtiğimiz hafta, saldırının hedefi olan startup Hugging Face'in kendisini savunmak için önde gelen ABD sınır modellerini kullanamadığı, korkulukların saldırgan ve savunucu arasında ayrım yapmadığı ortaya çıktı. Bunun yerine, aynı kısıtlamalara bağlı olmayan, kendi kendine barındırılan, açık ağırlıklı bir Çin modeline yöneldi.
ABD yasa yapıcılarının, en gelişmişleri açık ağırlık olan Çin yapay zeka modellerinin artan şekilde benimsenmesini nasıl engelleyeceklerini giderek daha fazla tartmasının ardından teknoloji devleri, açık yapay zeka araçları oluşturmayı ve paylaşmayı amaçlayan bir girişim başlattı.
Yalnızca belirli bir altyapı üzerinden erişilebilen Anthropic ve OpenAI tarafından oluşturulan sınır sistemleri dahil olmak üzere kapalı modellerin aksine, açık modeller indirilebilir, değiştirilebilir ve kendi kendine barındırılabilir.
Nvidia yaptığı açıklamada, “Açık Güvenli Yapay Zeka İttifakı, açık teknolojileri kullanarak güvenlik açıklarını düzeltmek ve ortaya çıkarmak için çalışacak” dedi. “Son zamanlarda yaşanan Hugging Face güvenlik olayı net bir hatırlatma yaptı: Siber savunucuların öz savunma için açık, sınırda faaliyet gösteren ajan sistemlerine ihtiyacı var.”
Nvidia'nın yanı sıra ittifakın diğer üyeleri arasında şunlar yer alıyor: Microsoft, SpaceX, Palantirve ABD ve Avrupa'dan düzinelerce başka teknoloji şirketi.
Çin yapay zekasını engelleme çabası
Bir modelin daha iyi eğitimli bir modelden bilgi çıkarması anlamına gelen “damıtma” olarak bilinen, ABD'deki rakiplerinin sistemlerinden bilgi çıkarmaya yönelik kampanyalar yürütmekle suçlanan Çinli yapay zeka şirketleri tarafından oluşturulan modellere erişimi sınırlamaya yönelik önlem çağrıları artıyor.
Geçtiğimiz hafta Hazine Bakanı Scott Bessent, ABD şirketlerine damıtma saldırıları düzenleyen Çinli şirketlere yönelik yaptırım tehdidinde bulundu.
Düşünce kuruluşu Dış İlişkiler Konseyi'nde Çin ve gelişen teknolojilerden sorumlu kıdemli araştırmacı Chris McGuire, CNBC'ye şunları söyledi: “ABD hükümetinin Çin modellerine kısıtlama getirmesi gerçek bir olasılık.”
Bunun, bir API aracılığıyla token satın alınması veya modeli bulutta barındıran ABD şirketlerinin çıkarım için müşterilerden ücret alması gibi modelleri içeren işlemlerin yasaklanmasını içerebileceğini söyledi.
McGuire, “Washington'da bu açık kaynak mı kapalı kaynak mı tartışması değil, Çin'deki fikri mülkiyet hırsızlığına tolerans gösterilip gösterilmeyeceğine dair bir tartışma” dedi. “Herhangi bir eylem açık kaynak ekosistemine değil Çinli şirketlere odaklanacak.”
Ancak en yetenekli açık kaynaklı modellerin çoğunluğunun Çinli şirketler tarafından üretilmesi nedeniyle kısıtlamalarla ilgili endişeler var.
Geçen hafta Nvidia, Microsoft, MetaPalantir ve diğer 20'den fazla şirket, politika yapıcıları açık ağırlıklı yapay zeka modellerinde “rekabeti bastıracak veya yurtdışında yeniliği teşvik edecek” “erken kısıtlamalardan” kaçınmaya çağıran bir mektup yayınladı.
Nvidia, OpenAI-Hugging Face olayının “pratik bir gerçeği” gösterdiğini söyledi. “Savunmacılar gelişmiş yapay zekayı kendi altyapılarında denetleyemedikleri, uyarlayamadıkları ve çalıştıramadıklarında, hızın en önemli olduğu anda yanıt verme yetenekleri kısıtlanıyor.”
Bir yanıt yazın