atom bombasından daha güçlü olabilecek bir silah

Anthropic bu ay dünyaya böylesine güçlü bir yapay zeka modeli yarattığını duyurduğunda geniş çapta dağıtmanın çok tehlikeli olduğunuŞirket, savunmasını organize etmeye yardımcı olacak 11 kuruluşu ortak olarak belirledi. Hepsi Amerika Birleşik Devletleri'ndendi.

Mythos adı verilen model, iki hafta içinde yapay zeka çağında benzeri görülmemiş bir küresel yarışı ateşledi. Anthropic'in söylediği Mythos, dünyadaki bankaları, elektrik şebekelerini ve hükümetleri çalıştıran yazılımlardaki gizli kusurları bulma ve bunlardan yararlanma konusunda şaşırtıcı derecede yeteneklidir. Jeopolitik stratejinin önemli bir parçası haline gelmişti ve onu bir Amerikan şirketi kontrol ediyordu.

Dünya liderleri güvenlik risklerinin büyüklüğünü ve bunlarla nasıl başa çıkılacağını belirlemekte zorlanıyor. Antropik, Mythos'u Amerika Birleşik Devletleri dışında yalnızca Birleşik Krallık ile paylaşır. İngiltere Merkez Bankası yöneticisi, Anthropic'in “siber risk dünyasını tamamen bozmanın” bir yolunu bulmuş olabileceği konusunda kamuoyu önünde uyardı. Avrupa Merkez Bankası, bankaları güvenlik önlemleri konusunda sessizce sorgulamaya başladı. Kanada maliye bakanı tehdidi Hürmüz Boğazı'nın kapatılmasıyla karşılaştırdı.

ABD'nin Çin ve Rusya gibi rakipleri için Mythos, yapay zeka yarışında geride kalmanın güvenlik açısından doğurabileceği sonuçları vurguladı. Kremlin yanlısı bir Rus medyası, modeli “nükleer bombadan daha kötü” olarak nitelendirdi.

Yanıtlar, yapay zeka araştırmacılarının bir süredir temelde teorik açıdan uyardığı bir gerçeği yansıtıyordu: En güçlü yapay zeka modellerinin yaratılmasına kim öncülük ederse, muazzam jeopolitik avantajlar elde edecek. Yapay zekadaki büyük ilerlemeler ürün lansmanlarından ziyade silah testlerine benzemeye başlıyor ve çoğu ülke bu teknolojilerin nasıl çalıştığını ve hangi önlemlerin gerekli olduğunu anlamak istiyor.

Arjantin Merkez Bankası eski baş ekonomisti ve Amerika Kıtası Kalkınma Bankası'nda büyüme ve yapay zeka konusunda bölgesel danışman olan Eduardo Levy Yeyati, temel yapay zeka modelleri daha alakalı hale geldikçe bunlara erişimin daha jeopolitik hale geldiğini söyledi. “Bu olayı kamu politikaları için bir uyandırma çağrısı olarak görüyorum. Hükümetler artık bu sorunu görmezden gelemez.”

Yapay zekanın savaşta kullanımı konusunda Anthropic ile anlaşmazlığa düşen ABD hükümeti bile Mythos'a dikkat etti. Cuma günü, Anthropic'in genel müdürü Dario Amodei, Trump yönetiminin bazı üyelerinin yeni modelin potansiyeline dikkat çekmesinin ardından Beyaz Saray yetkilileriyle bir araya geldi. bilgisayar sistemlerine zarar verir.

San Francisco merkezli Antropik şunları söyledi: New York Times güvenlik nedeniyle Mythos'a sınırlı erişimi sürdürdü. Modeli, İnternet veya elektrik şebekeleri gibi kritik küresel altyapıların bakımı için teknoloji sağlayan 40'tan fazla kuruluşla paylaşmaya odaklandı. Anthropic, aralarında Amazon, Apple ve Microsoft'un da bulunduğu 11 kuruluşun adını verdiModel tarafından belirlenen güvenlik açıklarına yönelik güvenlik çözümlerinin geliştirilmesinde işbirliği yapmayı taahhüt eden.

Şirket, erişimi genel anlamda genişletmek için kesin bir zaman çizelgesinin olmadığını ancak sonraki adımları belirlemek için ABD hükümeti ve endüstri ortaklarıyla birlikte çalışacağını söyledi. Hükümetlerden, şirketlerden ve diğer kuruluşlardan erişim ve bilgi talep eden çok sayıda çağrı aldığını ancak bu kuruluşların Böylesine güçlü bir yapay zeka modelini güvenli bir şekilde değerlendirmek için farklı deneyim düzeyleri.

Anthropic, diğer grupların benzer siber yeteneklere sahip yapay zeka modellerini daha geniş çapta yayınlayacağını tahmin ettiğini ekledi. maksimum 18 ay içerisindeBu da kuruluşlara gerekli güvenlik düzeltmelerini yapmaları için çok az zaman tanıyacaktır.

Salı günü Anthropic, yetkisiz kullanıcıların Mythos'un bir sürümüne eriştiğine dair bir raporu araştırdığını duyurdu.

Mythos konusundaki anlaşmazlık, yapay zeka konusunda uluslararası işbirliğinin çok az olduğu bir dönemde ortaya çıkıyor. Şirketler rakiplerini geride bırakmak için rekabet ederken hükümetler birbirlerine ihtiyatla bakıyor. Nükleer Silahların Yayılmasını Önleme Anlaşması'na eşdeğer bir anlaşma yokortak denetim yok, Mythos gibi bir şeyin nasıl yönetileceğine dair üzerinde anlaşmaya varılan kurallar yok.

Anthropic modeli açıkladığında birçok uzman, şirketin modeli kimlerin test edebileceğini sınırlama konusundaki ihtiyatlı tavrını övdü, ancak riski ele alacak uluslararası koordinasyon eksikliği konusundaki endişelerini dile getirdi.

Erişim elde eden diğer tek ülke İngiltere oldu. Hükümet destekli bir kuruluş olan Yapay Zeka Güvenlik Enstitüsü, Mythos'u test etti ve geçen hafta bağımsız bir değerlendirme yayınlayarak, daha önceki hiçbir yapay zeka modelinin başaramadığı karmaşık siber saldırıları gerçekleştirebileceğini doğruladı.

İngiltere Yapay Zeka Bakanı Kanishka Narayan geçen hafta sosyal medyada ülkenin harekete geçtiğini belirterek, “Bu, yapay zeka siber yeteneklerinde bir atılımı temsil ediyor” dedi. “kritik ulusal altyapıyı” korumak için.

Diğerleri daha az bilgi aldı. Bir AB yetkilisine göre, 27 ülkeden oluşan Avrupa Birliği'nin yürütme organı olan Avrupa Komisyonu, Mythos'un lansmanından bu yana Anthropic ile en az üç kez görüştü. Fakat, şirket modele erişim sağlamadı Yetkili, her iki tarafın da bunun komisyonla nasıl paylaşılacağı konusunda bir anlaşmaya varmadığını açıkladı.

Komisyon yaptığı açıklamada, “benzeri görülmemiş siber yeteneklere sahip” Mythos'un “potansiyel sonuçlarını değerlendirdiğini” söyledi.

BSI olarak bilinen Alman siber güvenlik kurumunun başkanı Claudia Plattner, Mythos'a erişimlerinin olmadığını ancak yakın zamanda San Francisco'daki Anthropic çalışanlarıyla bir araya gelerek operasyonu hakkında değerli bilgiler aldığını belirtti. Plattner'e göre bu yetenekler Siber tehditlerin doğasında bir paradigma değişikliğine işaret ediyorlar.

Amerikalı rakiplerin tepkisi daha ılımlı oldu. Anthropic'in Trump yönetimiyle yakın zamanda yaşadığı çatışmaya rağmen Amodei, A.I. Amerika'yı savunmak için kullanılmalı ve diğer demokrasilerin yanı sıra otokratik düşmanları yenmek.

Ne Pekin ne de Moskova Mythos hakkında büyük bir basın açıklaması yapmadı. Çin içinde, Araştırmacılar ve daha geniş yapay zeka topluluğu durumu yakından izliyorÜlkenin teknoloji sektörünü inceleyen analistlere göre. Ülkedeki pek çok banka, enerji şirketi ve devlet kurumu, Mythos'un güvenlik açıklarını bulduğu yazılımın aynısını kullanıyor ancak şimdilik bu konuda herhangi bir söz hakları yok.

“Çin için bunun ChatGPT'den sonraki ikinci uyandırma çağrısı olduğunu düşünüyorum.“dedi Carnegie Uluslararası Barış Vakfı'nın kıdemli üyelerinden Matt Sheehan. ABD'nin, Çin'in gelişmiş yapay zeka sistemleri inşa etmek için en gelişmiş yarı iletkenleri elde etmesini engelleme politikasının, ABD'nin avantajını genişletmeye yardımcı olduğunu ekledi.

Çin'deki bazı yapay zeka araştırmacıları özel olarak endişelerini dile getirdiler: ülke daha da geride kalabilir, George Washington Üniversitesi'nden siyaset bilimi profesörü Jeffrey Ding'e göre, temel bir modelin önceden yaratılmasının getirdiği avantajları kaybediyoruz.

Washington'daki Çin Büyükelçiliği sözcüsü Liu Pengyu, Çin'in Mythos'un ayrıntılarına aşina olmadığını söyledi: ancak bu barışçıl, güvenli ve açık bir siber uzayı destekliyordu.

Mythos, yapay zekada büyüyen küresel bölünmenin en son işaretidir. Güçlü bilgi işlem altyapısına ve yapay zeka modellerine sahip olmayan ülkeler Anthropic, Google ve OpenAI gibi şirketlere bağımlı olma riskiyle karşı karşıyalar. Yeyati, ürünlerinin nasıl tasarlandığı ve korunduğu konusunda çok az söz sahibi olduklarını söyledi.

“Bir şirketin şeffaf olmayan ve itiraz edilemez kriterleri kullanarak en son teknolojiye sahip yapay zekaya erişimi tek taraflı olarak kısıtlayabileceği fikri, gerçek bir endişe kaynağı olmalıdır” dedi.

Yazan: Pablo Mozur ve Adam Satariano