Anthropic PBC, Trump yönetiminin teknolojiyi tüm yabancı uyrukluların elinden uzak tutma yönündeki benzeri görülmemiş bir emrinin ardından Mythos da dahil olmak üzere en gelişmiş yapay zeka modellerine erişimi devre dışı bıraktı.
Şirketten yapılan açıklamada, ABD hükümetinin Anthropic'e, ulusal güvenlik endişelerini gerekçe göstererek “Amerika Birleşik Devletleri içinde veya dışında” herhangi bir yabancı uyruklu kişinin Fable 5 ve Mythos 5 modellerine erişimini askıya almasını söylediği belirtildi.
ABD'li bir yetkili, mektubu Ticaret Bakanlığı'nın gönderdiğini doğruladı. Model geliştiricisi, uyumluluğu sağlamak için o zamandan beri tüm müşterilerin her iki sisteme erişimini kapatmıştır.
ABD hükümeti, bir Amerikan şirketi tarafından geliştirilen sınır yapay zeka modellerine yabancı erişimi dizginlemek için daha önce hiç bu kadar kapsamlı önlemler almamıştı. Trump ve Biden yönetimlerinin yurt dışında yarı iletkenler ve süper bilgisayarlar gibi diğer önemli teknolojilere erişimi sınırlı ve bazıları yapay zeka modellerine erişimi engellemenin yararlarını tartıştı. Ancak yazılımın kendisi üzerindeki kısıtlamalar anayasal ve ticari kaygıları artırdı.
Anthropic, ABD hükümetinin, şirketin siber güvenlik görevlerini yerine getirmesini engellediği Mythos'un yakın zamanda piyasaya sürülen bir versiyonu olan Fable 5'in “jailbreak” yapmanın veya korkuluklarını aşmanın mümkün olduğunu keşfettikten sonra bu emri verdiğine inandığını söyledi.
Anthropic web sitesindeki gönderisinde, “Küçük bir potansiyel jailbreak bulgusunun, yüz milyonlarca insana uygulanan ticari bir modelin geri çağrılması için bir neden olması gerektiğine katılmıyoruz” dedi. “Bu standart sektör genelinde uygulanırsa, bunun tüm öncü model sağlayıcılar için tüm yeni model dağıtımlarını esasen durduracağına inanıyoruz.”
Wall Street Journal'da yer alan bir rapora göre, Amazon.com Inc.'deki araştırmacılar, Anthropic'in modelindeki bazı güvenlik açıklarını ortaya çıkaran bir jailbreak araştırması yürüttüler.
Hassas konuşmaları tartışmak için anonimlik verilen konuya aşina kişilerin söylediğine göre Amazon ve ABD hükümeti, kontroller uygulanmadan önce güvenlik açığı konusunda temas halindeydi. Kaynaklardan biri, Amazon İcra Kurulu Başkanı Andy Jassy'nin bu alışverişlerde yer aldığını söyledi. Bilgiler daha önce Jassy'nin üst düzey ABD yetkililerine endişelerini dile getirdiğini bildirmişti.
Bir Amazon sözcüsü, hükümetlerin güvenlik riskleri konusunda şirkete danışmasının alışılmadık bir durum olmadığını söyledi ancak bu tür görüşmelerin ayrıntılarını paylaşmayı reddetti.
Hükümetin ulusal güvenlik adına bir dizi yapay zeka modeline erişimi bu kadar geniş çapta kısıtlama hamlesi, OpenAI, Alphabet Inc.'in Google ve Meta Platforms Inc.'i de dahil olmak üzere tüm büyük yapay zeka modeli geliştiricileri için bir emsal teşkil etme tehdidi oluşturuyor. Nvidia Corp. İcra Kurulu Başkanı Jensen Huang ve OpenAI CEO'su Sam Altman gibi endüstri liderleri geçmişte ABD hükümetini bunun yerine Amerikan yapay zeka sistemlerinin dünya çapında benimsenmesini teşvik etmeye ve ülkenin liderliğini korumaya teşvik etmişti.
Nvidia Corp. destekli yapay zeka girişimi Cohere Inc.'in kurucu ortağı Aidan Gomez, cumartesi günü yaptığı bir röportajda, “Saf olan ve belki de bu gücün kullanılmayacağını ümit eden herkes için bu büyük bir uyandırma çağrısıdır” dedi. “Artık bunu kimse inkar edemez.”
Anthropic, hükümet emrinin Cuma günü New York saatiyle 17:21'de alındığını söyledi. Gün sonu yönergesi, daha önceki açıklamaların yanı sıra, yakın zamanda Başkan Trump tarafından imzalanan ve yönetimin model incelemeleri için bir lisanslama rejimi takip etmeyeceğini öne süren idari emirle de çelişiyor.
Cuma günkü direktif aynı zamanda Anthropic ile Trump yönetimi içindeki bazı kişiler arasında uzun süredir devam eden gerilimleri artırma tehdidini de taşıyor. Bu yılın başlarında yapay zeka geliştiricisi, teknolojisinin askeri ve gözetleme amacıyla kullanılması konusunda Pentagon'la çatışmıştı. Yönetim, patlamanın bir sonucu olarak şirketi ABD tedarik zinciri riski olarak ilan etti ve ABD kurumlarına, ürünlerinin kullanımını aşamalı olarak durdurma emri verdi.
Uzun süredir kendisini daha sorumlu bir yapay zeka geliştiricisi olarak konumlandıran özel şirket Anthropic, Mythos modelini ilk olarak Nisan ayında çok sınırlı bir grup şirket ve kuruma sundu ve siber güvenlik açıklarını bulma yeteneğinin, onu daha geniş çapta dağıtmayı çok riskli hale getirdiği konusunda uyarıda bulundu.
Sınırlı sürümün Anthropic ile Trump yönetimi arasındaki gerilimi hafifletmeye çalıştığına dair işaretler vardı: Bloomberg'in daha önce bildirdiğine göre, Nisan ayında ABD hükümeti Mythos'un bir versiyonunu büyük federal kurumların kullanımına sunmaya hazırlanıyordu.
Mythos ayrıca Trump yönetiminin, gönüllü model incelemesi çağrısında bulunan son idari emri de içeren yapay zeka politikasına yönelik çabalarını da hızlandırdı. Bu emir açıkça, içindeki hiçbir şeyin zorunlu bir lisans rejimi oluşturduğu şeklinde yorumlanmaması gerektiğini söylüyordu.
Trump'ın eski AI çarı ve Başkan'ın Bilim ve Teknoloji Danışmanları Konseyi'nin şu anki eş başkanı David Sacks, Anthropic'in Fable modelinde korumaların jailbreak'ini düzeltmeyi reddettiğini söyledi.
X'teki bir gönderisinde “Yöneticinin umudu, Anthropic'in güvenlik sorununu çözmesi, ihracat kontrolünün kaldırılması ve Fable'ın tekrar genel sürüme geçmesidir” diye yazdı. “Yönetici tüm bunların mümkün olan en kısa sürede gerçekleşmesini istiyor. Anthropic'in daha önce en yüksek önceliği olduğunu söylediği güvenlik taleplerine uymak istememesi açıkçası şaşkınlık yarattı.”
Hükümetin son kısıtlaması, ABD'li geliştiriciler arasında en gelişmiş yapay zeka modellerini sunma ve yatırımcılara teknolojinin kâr getirebileceğini kanıtlama yarışıyla çatışıyor. Hem OpenAI hem de Anthropic, SpaceX'in kendi tarihi halka arzının ardından bu yıl en kısa sürede halka arz arayışında.
En son teknolojiye sahip yapay zeka modellerini sunma telaşı, Anthropic'i bu ayın başlarında uzun bir blog yayınlamaya teşvik etti; hükümetlerin ve yapay zeka geliştiricilerinin, teknolojinin oluşturabileceği riskleri ortadan kaldırmak için teknoloji üzerinde çalışmayı ne zaman yavaşlatacaklarına toplu olarak karar verecekleri bir sistemin oluşturulması çağrısında bulundu.
Şirket o zamanki gönderisinde, “Tehlikeli olabilecek yapay zeka çalışmalarını gösterme veya geçici olarak duraklatma seçeneğine sahip olmak, dünya için iyi olurdu” dedi. Şirket, yapay zekanın, teknolojinin insan işini binlerce kez daha verimli hale getirebileceği, hatta onun yerine geçebileceği noktaya doğru ilerlediğini ve yeni bir dizi risk yarattığını söyledi.
Avrupa Birliği'nin yürütme kolu, Anthropic'in açıklamasını değerlendirdiğini ve güçlü yeni yapay zeka modelleriyle ilgili potansiyel riskler ve siber güvenlik endişeleri hakkında müttefiklerle konuşmaya devam ettiğini söyledi. Avrupa Komisyonu, son gelişmelerin Avrupa'nın teknolojik egemenliğe olan ihtiyacının altını çizdiğini ekledi.
Cohere'den Gomez, “Sahada çalışan biri olarak bunu görmek beni pek heyecanlandırmadı” dedi. “Bunun ortaklık olduğunu düşünmüyorum, son 80 yılda gelişen daha geniş teknolojik ittifaklar için bunun yapılması doğru bir şey olduğunu düşünmüyorum.”
Eastland ve Lowenkron Bloomberg için yazıyor. Shirin Ghaffary, Yi Wei Wong, Gian Volpicelli, Spencer Soper ve Thomas Seal'in yardımlarıyla.
Bir yanıt yazın