Scale AI Multimilyon Dollar Savunma Askeri Anlaşması'nı duyurdu

Scale AI Çarşamba günü, bir amiral gemisi AI ajan programı için Savunma Bakanlığı ile bir anlaşma, yapay zekanın tartışmalı askeri kullanımında önemli bir hareket olduğunu açıkladı.

Openai gibi anahtar AI oyuncularına eğitim verileri sağlayan AI devi, Google– Microsoft Ve MetaBuluşlara göre, DOD'un “amiral gemisi programı”, DoD'nin “amiral gemisi programı” savunma departmanından bir prototip sözleşmesi verildi.

Sözleşmenin gizli niteliği nedeniyle anonimlik isteyen duruma aşina olan bir kaynağa göre, milyonlarca dolarlık bir anlaşma.

Savunma İnovasyon Birimi tarafından öncülük eden program, AI ajanlarını geliştirmek ve dağıtmak için Anduril ve Microsoft dahil olmak üzere bir “Global Teknoloji Ortakları” ekibini içerecek. Kullanımlar arasında modelleme ve simülasyon, karar verme desteği, önerilen eylem kursları ve hatta otomatik iş akışları yer alacaktır. Programın sunumu ABD Hint-Pasifik Komutanlığı ve ABD Avrupa Komutanlığı ile başlayacak ve daha sonra diğer alanlara ölçeklendirilecek.

“Thunderforge, yapay zeka destekli, veri odaklı savaşa doğru belirleyici bir kayma işaret ediyor, bu da programın” karar vermeyi hızlandıracağını “ve“ AI-güçlü savaşçı ”ın“ hızlandıracağını ”ve aynı zamanda“ karar vermeyi ”hızlandıracağını” söyledi.

CEO Alexandr Wang yaptığı açıklamada, “AI çözümlerimiz bugünün askeri işletme sürecini dönüştürecek ve Amerikan savunmasını modernize edecek. … Diu'nun gelişmiş hızı, ülkemizin askeri liderlerine en büyük teknolojik avantaj sağlayacak.” Dedi.

Hem ölçek hem de DIU hızı ve AI'nın askeri birimlerin çok daha hızlı kararlar almasına nasıl yardımcı olacağını vurguladı. DIU, serbest bırakılmasında sekiz kez hız (veya eşanlamlı) ihtiyacından bahsetti.

Diu Direktörü Doug Beck, yaptığı açıklamada “makine hızını” vurgularken, Diu Thunderforge programı ve yüklenici Bryce Goodman, şu anda “modern savaşın hızı ve cevap verme yeteneğimiz arasında temel bir uyumsuzluk” olduğunu söyledi.

Ölçek, programın insan gözetimi altında çalışacağından bahsediyor olsa da, DIU bu noktayı vurgulamadı.

Scale'in duyurusu, AI şirketlerinin sadece ürünlerinin askeri kullanımı için yasaklanması için değil, aynı zamanda savunma endüstrisi devleri ve savunma departmanıyla ortaklıklara giren daha geniş bir eğilimin bir parçasıdır.

Kasım ayında Antropic, eski Openai araştırma yöneticileri tarafından kurulan Amazon destekli AI girişimi ve savunma yüklenicisi Palantir, Amazon Web Services ile “bize istihbarat ve savunma ajanslarının erişimini sağlamak için bir ortaklık duyurdu. [Anthropic’s] Claude 3 ve 3.5 AWS'de model ailesi. “Bu sonbaharda Palantir, ABD'nin Maven AI savaş programına askeri erişimini genişletmek için 100 milyon dolara kadar yeni bir sözleşme imzaladı.

Aralık ayında Openai ve Anduril, savunma teknolojisi şirketinin “ulusal güvenlik görevleri” için gelişmiş AI sistemleri kullanmasına izin veren bir ortaklık duyurdu.

Openai-Anduril Ortaklığı, “ülkenin karşı olmayan uçak sistemlerini (CUAS) geliştirmeye ve gerçek zamanlı olarak ölümcül hava tehditlerini tespit etme, değerlendirme ve yanıtlama yeteneklerine” odaklanıyor ve o zamanlar, anlaşmanın insan operatörler üzerindeki yükünü azaltmaya yardımcı olacağını da sözlerine ekledi.

Palmer Luckey tarafından kurulan Anduril, o sırada CNBC'den insan operatörler üzerindeki hususun azaltılmasının, yüksek bahisli savaş kararlarında döngüde daha az insana dönüşüp dönüşmeyeceği konusunda bir soruya cevap vermedi.

O zaman Openai, CNBC'ye, Misyonunda AI sistemlerinin başkalarına zarar vermek için kullanımını yasaklamanın politikasında bulunduğunu söyledi.

Ancak bazı endüstri profesyonellerine göre, bunu söylemekten daha kolay.

Hugging Face'te araştırmacı ve baş etik bilimcisi Margaret Mitchell, “Sorun, teknolojinin gerçekte nasıl kullanıldığı üzerinde kontrol sahibi olmamanızdır-mevcut kullanımda olmasa bile, o zaman kesinlikle uzun vadede, o zaman kesinlikle daha uzun vadede,” dedi. Diyerek şöyle devam etti: “Bu yüzden şirketlerin gerçekte nasıl farkına vardıklarını biraz merak ediyorum – güvenlik izni olan insanları tam anlamıyla inceleyen ve doğrudan zarar vermeyen kısıtlamalar dahilinde olduğunu doğrulayan insanlar var mı?”

Mitchell'e göre, bir AI girişimi ve Openai rakibi olan Hugging Face, doğrudan zarar potansiyelini içermeyen sözleşmeler de dahil olmak üzere askeri sözleşmeleri geri çevirdi. Ekibin “doğrudan zarardan nasıl bir adım uzakta olduğunu anladığını” söyledi ve “görünüşte zararsız olan şeyler bile, bunun gözetim boru hattında bir parça olduğu çok açık” dedi.

Mitchell, sosyal medya yayınlarını özetlemenin bile doğrudan zararlı olmaktan bir adım uzakta görülebileceğini söyledi, çünkü bu özetler potansiyel olarak düşman savaşçılarını tanımlamak ve çıkarmak için kullanılabileceğini söyledi.

“Zarardan bir adım uzakta ise ve zararı yaymaya yardımcı olursa, bu gerçekten daha mı iyi?” Dedi Mitchell. “I feel like it's a somewhat arbitrary line in the sand, and that works well for company PR and maybe employee morale without actually being a better ethical situation… You can tell the Department of Defense, 'We'll give you this technology, please don't use this to harm people in any way,' and they can say, 'We have ethical values ​​as well and so we will align with our ethical values,' but they can't guarantee that it's not used for harm, and you as a company don't have visibility into it being zarar için kullanılır. “

Mitchell buna “bir tür kabul edilebilirlik kaplama sağlayan bir kelime oyunu … ya da şiddetsiz bir şey” dedi.

Şubat ayında Google, şirketin güncellenmiş “AI ilkelerine” göre, silahlar ve gözetim gibi potansiyel olarak zararlı uygulamalar için AI kullanmaktan kaçınma taahhüdünü kaldırdı. Google'ın “temel amacı veya uygulaması insanlara yaralanmaya neden olmak veya doğrudan yaralanmaya neden olan veya doğrudan kolaylaştırmak olan” silahları veya diğer teknolojileri takip etmeyeceğini söylediği bir değişiklikti.

Ocak 2024'te, Microsoft destekli Openai, tıpkı açık kaynaklı siber güvenlik araçları da dahil olmak üzere ABD Savunma Bakanlığı ile AI araçlarında çalışmaya başladığı gibi, ChatGPT ve diğer AI araçlarının askeri kullanımını sessizce kaldırdı.

Openai'nin Politikaları sayfası, şirketin silah gelişimi veya askeri ve savaş gibi “fiziksel zarar riski yüksek olan faaliyet” için modellerinin kullanılmasına izin vermediğini belirtti. Ancak güncellenen dilde, Openai orduya özel referansı kaldırdı, ancak politikası hala kullanıcıların “hizmetimizi veya başkalarına zarar vermek için kullanmaması gerektiğini” belirtiyor.

Askeri ortaklıklar ve misyon beyanı değişiklikleriyle ilgili haberler, teknoloji işçilerinin, özellikle AI üzerinde çalışanların kamuoyu endişeleri tarafından vurgulanan askeri kullanım için teknoloji geliştiren teknoloji şirketleri hakkında yıllarca süren tartışmalara yol açıyor.

Askeri sözleşmelerle ilgilenen her teknoloji devindeki çalışanlar, binlerce Google çalışanının şirketin Pentagon'un Maven Projesi ile katılımını protesto ettikten sonra, drone gözetim görüntülerini analiz etmek için Google AI kullanacak.

Palantir daha sonra sözleşmeyi devralacaktı.

Microsoft çalışanları, askerlere artırılmış gerçeklik kulaklıkları sağlayacak 480 milyon dolarlık bir ordu sözleşmesini protesto etti ve 1.500'den fazla Amazon ve Google işçisi, teknoloji devlerinin bulut hesaplama hizmetleri, AI araçları ve veri merkezleri sağlayacağı İsrail hükümeti ve ordu ile ortak 1.2 milyar dolar, çok çeyrek sözleşme protesto eden bir mektup imzaladılar.

Mitchell, “Her zaman bu tür şeylerle sarkaç salınımları var.” Dedi. Diyerek şöyle devam etti: “Şu anda çalışanların teknoloji şirketlerinde birkaç yıl öncesine göre daha az söz sahibi oldukları bir salıncak içindeyiz ve bu yüzden bir alıcı ve satıcı pazarı gibi … Şirketin çıkarları artık bireysel çalışanların çıkarlarından çok daha ağır.”