Anthropic'ten ayrıldıktan sonra: Pentagon görünüşe göre OpenAI ile yapay zeka anlaşmasını imzaladı

Pentagon ile yapay zeka şirketi Anthropic arasında ABD ordusunda yapay zekaya sahip yazılım kullanımı konusunda çıkan anlaşmazlıkta, görünüşe göre ihaleyi rakip OpenAI kazandı. OpenAI patronu Sam Altman, Platform X'e ilişkin yaptığı açıklamada ABD Savunma Bakanlığı ile anlaşmaya varıldığını duyurdu. Ayrıntılar başlangıçta belirsiz kaldı. Duyuru, Pentagon'un yapay zeka kullanımındaki tutarsızlıklar nedeniyle Antropik'i ulusal güvenlik riski olarak sınıflandırmasından birkaç saat sonra geldi.

ChatGPT operatörü OpenAI ve Anthropic şirketi, şirketlerde ve otoritelerde yazılımlarını yapay zekaya uygun hale getirmek için yarışıyor.

Altman önemli güvenlik ilkelerinden bahsediyor

Şimdi OpenAI görünüşe göre boşluğa atlıyor. Altman, X hakkında şunları yazdı: “Bu gece Savaş Bakanlığı ile modellerimizi onların gizli ağlarına yerleştirmek üzere bir anlaşmaya vardık.” Pentagon şefi Pete Hegseth ve üst düzey yetkili Emil Michael da açıklamayı yeniden yayınladı.

Altman ayrıca OpenAI'nin temel güvenlik ilkelerinden ikisinin yurt içi kitlesel gözetimin yasaklanması ve otonom silah sistemleri de dahil olmak üzere güç kullanımında insanın sorumluluğu olduğunu açıkladı. “Savaş Bakanlığı bu ilkeleri kabul ediyor, bunları yasa ve politikada benimsiyor ve biz de bunları anlaşmamıza dahil ettik.”

Pentagon ile Anthropic arasındaki anlaşmazlık tırmandı

Aslında rakip Anthropic de bu iki noktada ısrar etti. Patronu Dario Amodei'ye göre şirket, yapay zeka yazılımının ABD ordusunda kullanımına sınırlamalar getirmek istiyordu, böylece şirketin yapay zekası ABD'de kitlesel gözetleme amacıyla veya tamamen otonom silahlarda kullanılmazdı.

Anlaşmazlık Cuma günü tırmandı: Hegseth, Anthropic'in “ulusal güvenliğe yönelik tedarik zinciri riski” olarak sınıflandırılmasını emretti. Hegseth, derhal geçerli olmak üzere, ABD askeri müteahhitlerinin, tedarikçilerinin veya ortaklarının artık şirketle iş yapmasına izin verilmeyeceğini yazdı.

Tedbir, Başkan Donald Trump'ın tüm federal kurumların Antropik teknolojiyi kullanmayı bırakması yönündeki talimatıyla bağlantılı olarak geliyor.

Antropik: Yapay zeka otonom silahlar için güvenilir değil

Savunma Bakanlığı yalnızca yazılımlarının “her türlü yasal kullanımını” kabul eden yapay zeka şirketleriyle çalışmak istiyor. Ancak Anthropic, şirketin talep ettiği kısıtlamaların önemli olduğu konusunda ısrar etti.

Amodei, bir blog yazısında, yapay zekanın, bireylerin İnternet'e dağılmış verilerini, hayatlarının büyük ölçekte ayrıntılı bir resmine otomatik olarak derlenmesini mümkün kıldığı konusunda uyardı. Aynı zamanda yapay zeka henüz tamamen otonom silahlarda kullanılacak kadar güvenilir değil. Antropik patron, “Amerika'nın savaşçılarını ve sivillerini riske atan bir ürünü bilerek teslim etmeyeceğiz” dedi.

Anthropic ile Pentagon arasındaki gerilim, şirketin yazılımının Venezuela lideri Nicolás Maduro'yu yakalamak için düzenlenen ABD askeri operasyonunda kullanıldığı ortaya çıktıktan sonra kamuoyuna açıklandı. Tam olarak ne için kullanıldığı belirsizliğini koruyor.

OpenAI anlaşmasının detayları net değil

Başlangıçta Pentagon ile OpenAI arasındaki anlaşmanın toplu gözetleme ve otonom silahlar konusunda ayrıntılı olarak neyi öngördüğü belirsizliğini koruyordu.

Açıklamada gerilimi düşürme arzusu dile getirildi.

Ayrıca OpenAI'nin modellerin amaçlandığı gibi davranmasını sağlamak için teknik korumalar geliştireceğini ve bunun da bakanlığın istekleri doğrultusunda olacağını açıkladı. Altman ayrıca Pentagon'un tüm etkileşimlerde güvenliğe derin bir saygı duyduğunu ve mümkün olan en iyi sonuca ulaşmak için birlikte çalışma arzusu gösterdiğini vurguladı.

Pentagon yetkilisi Michael şunu yazdı:

(ssi)