Yapay Zeka Etiği Tartışması: Pentagon Antropizmi Ulusal Risk Olarak İlan Ediyor

Amerika Birleşik Devletleri hükümeti antropojenik faaliyetlerin ulusal güvenlik açısından risk oluşturduğunu beyan etmektedir. Orduda yapay zeka konusundaki anlaşmazlık mahkemeye taşınıyor.

ABD Savaş Bakanlığı yapay zeka girişimi Anthropic ile rekabet halinde. Telepoli zaten birkaç kez bunun hakkında konuştu. Şirket ABD hükümetinin taleplerine uymadığı için hükümet artık Anthropic'i ulusal güvenliğe yönelik “kabul edilemez bir risk” olarak sınıflandırdı.

Bu, üzerinde yer alan bir belgeden ortaya çıkmaktadır. New York Times (NYT) bildirdi. Beyaz Saray, şirketin teknolojisini askeri bir operasyonun ortasında devre dışı bırakabileceğini veya kendi fikirlerine göre yeniden tasarlayabileceğini söyleyerek yaklaşımını haklı çıkarıyor.

Milyon dolarlık sözleşme nasıl siyasi mesele haline geldi?

Her şey 200 milyon dolarlık bir sözleşmeyle başladı. Anthropic'in gizli askeri sistemler için yapay zekasını sağlaması gerekiyordu.

Ancak müzakereler sırasında şirket iki net sınır çizdi: Claude AI modeli ne nüfusunu kapsamlı bir şekilde izlemek için kullanılmalı ne de insan müdahalesi olmadan öldürücü güç kullanımına karar veren silah sistemlerinde işlev görmemelidir.

Pentagon için bu söz konusu bile olamazdı: Ordu, satın alınan teknolojinin ne için kullanılacağına kendisi karar vermek istiyor.

Müzakereler sonuçta başarısızlıkla sonuçlandı. Savunma Bakanı Pete Hegseth daha sonra Antropik patron Dario Amodei'ye tüm şartların kaldırılması için sıkı bir süre verdi. Amodei reddetti.

Hegseth daha sonra normalde yalnızca düşman devletlerin şirketlerine karşı kullanılan bir tedbire başvurdu: Antropik'i resmi olarak askeri tedarik zincirine yönelik bir tehdit olarak damgaladı.

Davalar, milyar dolarlık kayıplar ve Birinci Değişiklik

Antropik saldırıya geçti ve iki dava açtı. Şirket, sınıflandırmayı, yapay zekanın güvenliği konusunda kamuoyuna açıkladığı tutumu nedeniyle bir ceza olarak görüyor ve Birinci Değişiklik ile güvence altına alınan ifade özgürlüğünü örnek gösteriyor.

Sınıflandırmanın yerinde kalması durumunda, 100'den fazla ticari müşteriyi kaybetme riski var ve mali kayıplar milyarları buluyor. Bloomberg.

Hükümet avukatları buna karşı çıktı: Anayasa hiçbir şirkete sözleşme koşullarını tek taraflı olarak devlete dikte etme hakkı vermiyor.

Risk değerlendirmesinin geçici olarak askıya alınıp alınmayacağına ilişkin kararın önümüzdeki hafta verilmesi bekleniyor.

Rakipler ve sivil haklar aktivistleri tavır alıyor

Dava, tüm teknoloji sektörü tarafından ilgiyle takip edildiği gibi birçok aktörü de harekete geçiriyor. Örneğin Microsoft, kendi görüşüne göre Mahkemeden sınıflandırmanın şimdilik askıya alınmasını talep etti.

Ayrıca, aralarında Google Baş Bilim Adamı Jeff Dean'in de bulunduğu OpenAI ve Google'dan 37 uzman ortak bir bilgilendirme toplantısına katıldı.

Sivil haklar örgütü ACLU da yüksek sesle konuştu NYTAnthropic'in arkasındaki rapor, şirketin yapay zeka korkulukları konusundaki pozisyonunu serbestçe ifade etmesine izin verilmesi gerektiğini savunuyor.

Ordu yeni birini arıyor ancak değişim karmaşık

Pentagon davanın sonucunu beklemiyor. Bakanlığın üst düzey AI yetkilisi Cameron Stanley'e göre, çeşitli alternatif dil modelleri ile testler halihazırda devam ediyor.

OpenAI orduyla kendi sözleşmesini imzaladı ve Elon Musk'un xAI şirketinin artık Grok modelini gizli ağlarda kullanmasına izin verildi.

Ancak hızlı bir değişim hala zor. Claude şu anda ordunun gizli sistemlerinde çalışan tek yapay zeka modelidir ve ortak platform Palantir aracılığıyla operasyonel süreçlere sıkı bir şekilde entegre edilmiştir.

İçeriden tahminlere göre, tam bir değişiklik Pentagon'u yaklaşık altı ay geriye götürecektir.