Pentagon ile yapay zeka şirketi Anthropic arasında yapay zeka yazılımının ABD ordusunda kullanılması konusunda çıkan anlaşmazlıkta ihaleyi rakip OpenAI kazanmış gibi görünüyor. Platformda yapılan açıklamada detaylar başlangıçta belirsizliğini korudu. Duyuru, Pentagon'un yapay zeka kullanımındaki tutarsızlıklar nedeniyle Antropik'i ulusal güvenlik riski olarak sınıflandırmasından birkaç saat sonra geldi.
Duyurudan sonra devamını okuyun
ChatGPT operatörü OpenAI ve Anthropic şirketi, yazılımlarını yapay zeka ile şirketlere ve otoritelere entegre etmek için yarışıyor.
Altman önemli güvenlik ilkelerinden bahsediyor
Artık OpenAI aradaki farkı kapatıyor gibi görünüyor. Altman, X hakkında şunları yazdı: “Bu gece Savaş Bakanlığı ile modellerimizi onların gizli ağlarına yerleştirmek üzere bir anlaşmaya vardık.” Pentagon şefi Pete Hegseth ve üst düzey yetkili Emil Michael bu açıklamayı yeniden yayınladılar.
Altman ayrıca OpenAI'nin temel güvenlik ilkelerinden ikisinin ulusal kitlesel gözetlemenin yasaklanması ve otonom silah sistemleri de dahil olmak üzere güç kullanımında insanın sorumluluğu olduğunu açıkladı. “Savaş Bakanlığı bu ilkeleri kabul ediyor, bunları yasa ve politikada benimsiyor ve biz de bunları anlaşmamıza dahil ettik.”
Pentagon ile Antropik arasındaki anlaşmazlık şiddetlendi
Duyurudan sonra devamını okuyun
Aslında rakip Anthropic de bu iki noktada ısrar etti. Patronu Dario Amodei'ye göre şirket, yapay zeka yazılımının ABD ordusunda kullanımına sınırlamalar getirmek istiyordu, böylece şirketin yapay zekası ABD'de kitlesel gözetleme amacıyla veya tamamen otonom silahlarda kullanılmayacaktı.
Tartışma Cuma günü tırmandı: Hegseth, Anthropic'in “tedarik zincirinde ulusal güvenlik riski” olarak sınıflandırılmasını emretti. Hegseth, derhal geçerli olmak üzere, ABD askeri yüklenicilerinin, tedarikçilerinin veya ortaklarının artık şirketle iş yapmasına izin verilmeyeceğini yazdı.
Tedbir, Başkan Donald Trump'ın tüm federal kurumların antropojenik teknolojiyi kullanmayı bırakması yönündeki emriyle bağlantılı.
Antropik: Otonom silahlar için güvenilmez yapay zeka
Savunma Bakanlığı yalnızca yazılımlarının “yasal kullanımını” kabul eden yapay zeka şirketleriyle çalışmak istiyor. Ancak Anthropic, şirketin talep ettiği kısıtlamaların önemli olduğu konusunda ısrar etti.
Amodei, bir blog yazısında, yapay zekanın, İnternet'e dağılmış bireysel verileri büyük ölçekte, hayatlarının ayrıntılı bir resmine otomatik olarak derlemeyi mümkün kıldığı konusunda uyardı. Aynı zamanda yapay zeka henüz tamamen otonom silahlarda kullanılacak kadar güvenilir değil. Antropik şef, “Amerikalı savaşçıları ve sivilleri riske sokan bir ürünü bilerek sağlamayacağız” dedi.
Anthropic ile Pentagon arasındaki gerilim, şirketin yazılımının Venezuela lideri Nicolás Maduro'yu yakalamak için ABD askeri operasyonunda kullanıldığı ortaya çıktıktan sonra kamuoyuna açıklandı. Tam olarak ne için olduğu belli değildi.
OpenAI anlaşmasının detayları belirsiz
Başlangıçta Pentagon ile OpenAI arasındaki kitlesel gözetleme ve otonom silahlara ilişkin anlaşmanın ayrıntılarının neler içerdiği belli değildi.
Açıklamada gerilimi düşürme arzusu dile getirildi.
Ayrıca OpenAI'nin modellerin beklendiği gibi davranmasını sağlamak için teknik korumalar geliştireceğini ve bunun da bakanlığın istekleri doğrultusunda olacağını açıkladı. Altman ayrıca Pentagon'un tüm etkileşimlerde güvenliğe derin bir saygı duyduğunu ve mümkün olan en iyi sonuca ulaşmak için birlikte çalışma arzusunu gösterdiğini vurguladı.
Pentagon yetkilisi Michael şunu yazdı:
(ssi)
Bir yanıt yazın