Bu fotoğraf resminde, Claude AI logosu bir PC ekranında bir akıllı telefon ve antropik logoda görülür. (Pavlo Gonchar/Sopa Images/Lightocket tarafından Getty Images aracılığıyla fotoğraf çizimi)
SOPA görüntüleri | Lightocket | Getty Images
Antropik Pazartesi günü, yapay zeka teknolojisi için “sorumlu ölçeklendirme” politikası ile ilgili güncellemeleri duyurdu; bu, model güvenlik seviyelerinden hangisinin ek korumalara ihtiyaç duyacak kadar güçlü olduğunu tanımlamak da dahil olmak üzere.
Tarafından desteklenen şirket Amazonbir blog yayınında yayınlanmış güvenlik ve güvenlik güncellemeleri. Şirket bir AI modelini stresle test ediyorsa ve potansiyel olarak “orta derecede kaynaklanan bir devlet programı” kimyasal ve biyolojik silah geliştirme kapasitesine sahip olduğunu görürse, Antropic görevde, bu teknolojiyi piyasaya sürmeden önce yeni güvenlik korumaları uygulamaya başlayacağını söyledi.
Şirket, modelin giriş seviyesi bir antropik araştırmacının rolünü tam olarak otomatikleştirmek veya çok hızlı ölçeklendirmede çok fazla hızlanmaya neden olmak için kullanılabilirse, eğer yanıt benzer olacaktır.
Antropic, son finansman turunu bu ayın başlarında 61,5 milyar dolarlık bir değerlemede kapattı ve bu da onu en yüksek değerli AI girişimlerinden biri haline getirdi. Ancak bu, Pazartesi günü yeni sermaye de dahil olmak üzere 300 milyar dolarlık bir değerlemede 40 milyar dolarlık bir turu kapattığını söyledi.
Üretken AI pazarı, on yıl içinde 1 trilyon doları aşacak şekilde ayarlanmıştır. Yüksek büyüme girişimlerine ek olarak, Google, Amazon ve Microsoft yeni ürünleri ve özellikleri duyurmak için yarışıyor. Rekabet ayrıca, Deepseek'in AI modelinin ABD'de viral hale geldiği bu yılın başlarında daha belirgin hale gelen bir risk olan Çin'den geliyor.
Ekim ayında yayınlanan sorumlu ölçeklendirme politikasının daha önceki bir versiyonunda Antropic, rampa güvenlik çabasının bir parçası olarak gizli cihazlar için fiziksel ofisleri süpürmeye başlayacağını söyledi. Ayrıca o zaman bir yürütme risk konseyi kuracağını ve şirket içi bir güvenlik ekibi kuracağını söyledi. Şirket, her iki grubu da inşa ettiğini doğruladı.
Antropic ayrıca daha önce teknik gözetim karşı önlemleri veya kuruluşlara casusluk yapmak için kullanılan gözetim cihazlarını bulma ve tanımlama süreci gibi “fiziksel” güvenlik süreçlerini tanıtacağını söyledi. Süpürmeler “gelişmiş algılama ekipmanı ve teknikleri kullanılarak” yürütülür ve “davetsiz misafirleri” arar.
Düzeltme: Bu makalenin önceki bir sürümü, Ekim ayında uygulanan belirli politikaların yeni olduğunu yanlış ifade etti.
KOL SAATİ: Antropik en yeni AI modelini ortaya çıkarır
Bir yanıt yazın