Amerika Birleşik Devletleri hükümeti, Anthropic'e yeni Fable 5 ve Mythos 5 AI Modellerine erişimi askıya alması için bir ulusal güvenlik yasal emri çıkardı. Bu emir, Anthropic'i etkili bir şekilde herkesin erişimini kesmeye zorluyor çünkü yabancı uyruklu statüsünü kontrol etmek aslında imkansız olacak.
İhracat Kontrol Direktifi
Amerika Birleşik Devletleri hükümeti, belirli ürünlerin, verilerin veya teknolojilerin yabancı ülkelere veya başka bir ülkenin vatandaşlarına transferini kısıtlayan veya askıya alan yasal bir emir olan İhracat Kontrol Direktifi yayınladı.
Antropik duyurdu:
“ABD hükümeti, ulusal güvenlik yetkililerine atıfta bulunarak, yabancı uyruklu Antropik çalışanlar da dahil olmak üzere, Amerika Birleşik Devletleri içinde veya dışında herhangi bir yabancı uyruklu kişinin Fable 5 ve Mythos 5'e tüm erişimini askıya almak için bir ihracat kontrol direktifi yayınladı. Bu emrin net etkisi, uyumu sağlamak için tüm müşterilerimizin Fable 5 ve Mythos 5'i aniden devre dışı bırakmamız gerektiğidir. Diğer tüm Antropik modellere erişim etkilenmeyecektir.”
Sipariş 17:21 EST'de alındı. Anthropic'in emirle ilgili açıklaması, Amerika Birleşik Devletleri hükümetinin “Fable 5'te güvenlik korkuluklarını atlamanın bir yolu olduğuna inandığını” belirtiyor. Anthropic, incelediği örnekleri küçük güvenlik açıkları olarak değerlendiriyor.
Antropik, Hükümetin Siber Güvenlik Kaygısıyla Çelişiyor
Anthropic'in yanıtı, birisinin Fable 5 Yapay Zeka Modelini kötüye kullanma olasılığını ortadan kaldıran güçlü güvenlik önlemlerinin zaten mevcut olduğu yönünde. Onların bu tutumu, hükümetin güvenlik riski olduğu yönündeki iddiasını çürütüyor gibi görünüyor.
Şöyle açıkladılar:
“Fable'ın (diğerlerinin yanı sıra) siber güvenlikle ilgili görevlerde kötüye kullanılması olasılığını büyük ölçüde azaltan güçlü koruma önlemleri oluşturduk. Aslında koruma önlemlerimiz o kadar güçlü ki birçok kullanıcı bunların aşırı geniş kapsamlı olduğundan şikayet etti.
…Bugün mükemmel jailbreak direncinin mümkün görünmediği göz önüne alındığında Anthropic, Fable 5 ile derinlemesine bir savunma stratejisi benimsedi. Jailbreak'leri ya dar (evrensel olmayan jailbreak'ler durumunda) ya da üretilmesi çok pahalı (evrensel jailbreak'ler durumunda) yapmayı ve başarılı saldırıları hızlı bir şekilde tespit edip kapatmak için bunu kapsamlı izlemeyle birleştirmeyi hedefledik.
Bu derinlemesine savunma stratejisinin arkasındayız. Fable'ın oluşturduğu riskleri azaltır ve bunları sektörde hâlihazırda kullanılan mevcut modellerin riskleriyle karşılaştırılabilir hale getirir.
Zararlı bir sonuca yol açan endişe verici, evrensel olmayan potansiyel bir jailbreak hakkında açıklama bile almadık. Bize açıklanan olası jailbreak'ler ya tamamen zararsız tepkilerdir ya da Mythos'a özgü bir gelişme sağlamayan küçük bulgulardır.”
Amerika Birleşik Devletleri Hükümetinin Antropik ile Anlaşmazlığı
Amerika Birleşik Devletleri hükümeti, Anthropic'in, hedeflerini bağımsız olarak seçebilen ve ek insan müdahalesi olmadan devreye girebilen silahlar olan ürünlerinin kitlesel yurt içi gözetleme ve tamamen otonom silah sistemleri için kullanılmasına izin vermeyi reddetmesinden kaynaklanan, Anthropic ile devam eden bir anlaşmazlık yaşadı.
Hükümetin Yönergesine Tepki Popüler Değil
X'te yayınlanan bir duyuruda Anthropic, hizmeti geri yükleme üzerinde çalışacağına söz verdi:
“Bu aksaklıktan dolayı müşterilerimizden özür dileriz. Bunun bir yanlış anlaşılma olduğuna inanıyoruz ve erişimi mümkün olan en kısa sürede yeniden sağlamak için çalışıyoruz.”
Duyuru birkaç saat içinde 7.000'den fazla yanıt aldı ve 32 milyon görüntüleme aldı. Yanıtlar büyük ölçüde Antropik'i destekliyordu ve Amerika Birleşik Devletleri hükümetini eleştiriyordu.
@jackson_lo58573, Anthropic'in Fable 5'te yerleşik güvenlik önlemleri hakkındaki açıklamasını yineledi:
“Fable 5 modelinde o kadar çok güvenlik önlemi vardı ki, temel biyoloji sorularını soramadım veya sahip olduğum yerel yapay zeka modelleri üzerinde altyapı çalışması bile yapamadım, Anthropic burada daha fazlasını yapamazdı (ve benim ve diğer birçok hesapta çok fazla koruma mevcuttu). “
Diğerleri Bunun Bir Çağın Sonunu İşaret Ettiğini Hissediyor
@FirstThinkingAI bunun özgürlükle ilgili bir sorun olduğunu tweetledi:
“Bu, açık rekabete ve yeniliğe değer veren bir toplumdan çok, merkezi, devlet kontrolündeki bir sistemden (Çin ÇKP'sinden) bekleyebileceğiniz bir şeye benziyor.
Yenilik, yapay katmanlar oluşturulduğunda değil, rekabet açık ve erişim geniş olduğunda gelişir.
Eğer gerçekten bir “Bolluk Çağı”na giriyorsak, o zaman bunun yararları ayrıcalıklı bir azınlık arasında yoğunlaşmak yerine herkesin kullanımına açık olmalı.”
@m_adams bunu bir dönemin sonu olarak gördü:
“Bu, bir dönemin sonunu işaret ediyor. Halk bir daha asla sınır modellerine bu kadar açık erişime sahip olamayabilir.”
En güçlü modellere yalnızca hükümet ve sınır laboratuvarları erişebildiğinde ne olur? Emin değilim ama muhtemelen alıştığımızdan daha az eğlenceli olacak.”
Birçok Antropik Kullanıcı Para İadesi İstiyor
Diğerleri pragmatikti ve sadece paralarını geri istiyorlardı. @diazjulio0071 şunu paylaştı:
“Bu ay bu modeli kullanabilmek için özellikle Claude Max'e geçtim ve şimdi erişim kaldırılıyor gibi görünüyor. Paramı geri alma şansım var mı?”
Bu duygu @BackToTheFort gibi birçok kişi tarafından da paylaşıldı
“Ayrıca şu an için açtığım maksimum hesap için para iadesi veya en azından liderlikten, biz destekçilerin kullanımına sunulmadığı her gün için bize ücretsiz kullanım sağlayacaklarını belirten bir SÖZ istiyorum.”
@CryptoGbanger, Fable 5'in kapatıldığı gün Max planına geçtiklerini tweetledi:
“Aynı şekilde. Bugün erken saatlerde ayda 200$'a kadar çıktım. Az önce kapandım.
Paramı geri alabilir miyim?”
Antropik Suçlu mu?
Pek çok kişi Anthropic'i modellerini aşırı güçlü olmakla suçladı.
@VorteXAIs'in bir gönderisi bu düşünceyi temsil ediyordu:
“Buradaki masum kurban Antropik değil. Modellerini “son derece güçlü ve tehlikeli” olarak tanıtarak yıllarını harcadılar – Mythos yalnızca hükümet için, ağır korkulukları olan Fable. Temel olarak herkese “bu bokun bir nükleer silah” olduğunu söylediler. Şimdi ABD hükümeti onları ciddiye aldı ve ihracat kontrollerini uygulamaya koydu… ve X Dario'nun kıçının davranışı hakkında “yanlış anlaşılma” diye ağlıyorlar. 😂 Korkuyu birinci sınıf bir markalama olarak satıp sonra da hükümet ona gerçek bir silahmış gibi davrandığında şok olmuş gibi davranamazsınız. Yılın kendine ait.”
Ve @curtissummers'ın bir tweet'i
“Bu karar beni hayal kırıklığına uğrattı ama Anthropic, “Yapay Zeka tehlikelidir” söylemini öne çıkaran büyük bir aktördü. En iyi ihtimalle, ABD hükümeti Anthropic'in sözüne uydu ve en kötü ihtimalle bu, yapay zekanın millileştirilmesine yönelik bir adımdır. 😩”
Anthropic'in Bir Sonraki Hamlesi Ne?
Eğer Antropik haklıysa ABD hükümetinin tutumu abartılı çünkü hem Fable 5'in hem de Mythos 5'in kötüye kullanılmasını önleyecek yeterli korkuluk zaten mevcut. Anthropic, hizmeti halka iade etme sözü verdi ve sonuç bu olabilir.
Shutterstock/gguy'dan Öne Çıkan Görsel
Bir yanıt yazın