Amazon CEO'sunun Fable'ın yasağını tetiklediği söyleniyor

Görünüşe göre Anthropic'in yeni AI modeli Fable'ın dünya çapında aniden engellenmesinin arkasında başka bir büyük teknoloji oyuncusu var: Amazon'un CEO'su Andrew Jassy'nin, diğerlerinin yanı sıra ABD Hazine Bakanı Scott Bessent'e şüpheli bir jailbreak hakkında rapor verdiği söyleniyor. ABD hükümeti daha sonra bir ihracat direktifi koydu ve bu da Anthropic'i yapay zeka modelini engellemeye zorladı.

Pek çok medya kuruluşu olayla ilgili oybirliğiyle haber yaptı. Buna göre, Andrew Jassy ilk olarak siber güvenlik departmanına yeni AI modelini olası jailbreak'lere karşı test ettirdi; bu hileler, bir AI modelinin, aksi takdirde güvenlik nedeniyle reddedeceği istemleri işlemesini sağlamak için kullanılabilir. Uzmanların daha sonra yapay zeka modelinin dört ortak programdaki güvenlik açıklarından yararlanma olanağı sağladığına dair bir rapor sundukları söyleniyor. Jassy bunu ABD hükümet yetkililerine de bildirdi. Bir Amazon sözcüsü, Wall Street Journal'a, ABD hükümetinin teknoloji konularında önde gelen bir teknoloji şirketi olan Amazon'dan sıklıkla tavsiye istediğini doğruladı ancak belirli bireysel durumlar hakkında yorum yapmayı reddetti. Amazon, son finansman turunda Anthropic'in rakibi OpenAI'ye toplam 50 milyar dolar fon sözü verdi. Amazon ayrıca önümüzdeki birkaç yıl içinde Anthropic'e toplam 25 milyar dolar yatırım yapmak istiyor.

Sacks: ABD hükümeti “isteksiz” davrandı

Rapora yanıt olarak ABD hükümeti Anthropic'e bir ültimatom verdi: jailbreak sorunlarının 24 saat içinde çözülmesi gerekecek – aksi takdirde Amerikalı olmayanların Fable'a erişimi engellenecek. Kendisi de bir teknoloji yatırımcısı ve ABD Başkanı'nın Bilim ve Teknoloji Danışma Konseyi'nin eş başkanı olan David Sacks, bunun tam olarak nasıl gerçekleştiğini X'e bildirdi. Buna göre Anthropic CEO'su Dario Amodei'nin Amazon'un tespit ettiği güvenlik açıklarını kapatmayı reddettiği söyleniyor. Anthropic daha önce yaptığı bir açıklamada bunun tam teşekküllü bir jailbreak olduğunu reddetmişti; Dolayısıyla gerçekleştirilen görevler OpenAI'nin rakip modeli ChatGPT 5.5 ile de kolaylıkla gerçekleştirilebiliyor. Sacks'a göre ABD hükümeti, Amodei'nin reddetmesi nedeniyle “yalnızca isteksizce” katı yasağı başlattı. Hala Anthropic'in iddia edilen sorunları çözeceği ve modelin tekrar normal şekilde kullanılabileceği yönünde umut var. Bu arada Anthropic, ancak yeni yapay zeka modelini dünya çapında engelleyerek gereksinimleri karşılayabiliyor.

ABD hükümetinin jailbreak şüphesi nedeniyle tek bir AI modelini engelleme yaklaşımı biraz saçma; bu mantığa göre, herhangi bir AI modeli engellenebilir çünkü teorik olarak her biri jailbreak yapılabilir. Fable'ı özel kılan şey, Anthropic'in yapay zeka modeli Mythos'un bir çeşidi olmasıdır. Anthropic'in kendisi bu konuda çok ses çıkardı çünkü neredeyse tüm yazılımlarda önceden bilinmeyen güvenlik açıklarını çok kısa sürede bulması ve bunları kullanmak için gerekli kodu sağlaması gerekiyordu. Bu nedenle Antropik, bunun genel yayın için çok tehlikeli olduğunu düşündü. Anthropic bunu yaparken aynı zamanda ABD hükümetinin mevcut yaklaşımı için de bir şablon sağladı; bu, Anthropic ile kendisi arasında uzun vadeli bir anlaşmazlığın bir hamlesi olarak da anlaşılabilir. ABD hükümetinin, Anthropic'in yapay zekasını otonom silah sistemleri için kullanmasına izin verilmiyor, bu da şirkete geçmişte yaptırımlar getirmişti. Amerikalı olmayan vatandaşlara yönelik mevcut Fable erişim yasağı, birçok yabancı Antropik çalışanı da etkiliyor. Şu anda model üzerinde çalışmanıza izin verilmiyor.

Sacks, X-Post'unda mevcut gelişmenin anlaşmazlıkla ilgili olduğunu reddediyor. ABD hükümeti Anthropic'in teknik yeteneklerine çok değer veriyor, “top artık Anthropic'in sahasında.” ABD hükümeti de bu topu, şirketin kendi teknolojisini otonom silah sistemleri için kullanmayı reddettiği ve tedarik zinciri riski ve ulusal güvenliğe tehdit olarak sınıflandırıldığı Şubat ayında Anthropic'e verdi. Antropik mahkemede kendini savunuyor. Bunun bu durumda da gerçekleşip gerçekleşmeyeceği ve ABD hükümetinin artık diğer AI üreticilerinin jailbreak yapılabilir modellerini hedef alıp almayacağı henüz bilinmiyor. “The Information” haber portalı hükümet çevrelerinden ikincisinin olası olmadığını öğrendiğini iddia ediyor.

(HAYIR)