Sam Altman, DC'deki OpenAI savunma çalışması toplantısında 'ciddi sorularla' karşılaştı

OpenAI CEO'su Sam Altman, Washington DC'de bir avuç milletvekiliyle bir araya geldi ve D-Ariz'den Senatör Mark Kelly, şirketin savaşa yaklaşımı ve Savunma Bakanlığı ile yaptığı son anlaşma hakkında bazı “ciddi sorular” yönelttiğini söyledi.

CNBC'den Emily Wilkins ile yaptığı röportajda Kelly, grubun gözetleme ve yapay zeka sistemlerinin bir ölüm zinciri içinde nasıl kullanılabileceği hakkında “ayrıntılı olarak” konuştuğunu söyledi. Bunu “iyi bir tartışma” olarak nitelendirdi.

Kelly, “Korkuluklar olmalı ve her zaman Anayasayı düşündüğümüzden ve ona uyduğumuzdan emin olmalıyız” dedi.

OpenAI, rakip Anthropic'in şirketi “Ulusal Güvenliğe Yönelik Tedarik Zinciri Riski” ilan eden Savunma Bakanı Pete Hegseth tarafından kara listeye alınmasından birkaç saat sonra geçen ayın sonlarında Savunma Bakanlığı ile bir anlaşma yaptı.

Anthropic, Savunma Bakanlığı ile sözleşmesini yeniden müzakere etmeye çalışıyordu ancak görüşmeler, teknolojinin nasıl kullanılabileceği konusundaki anlaşmazlık nedeniyle durdu. Savunma Bakanlığı, Anthropic'in orduya tüm yasal amaçlar doğrultusunda modellerine sınırsız erişim izni vermesini isterken Anthropic, modellerinin tamamen otonom silahlar veya yerel kitlesel gözetleme için kullanılmayacağına dair güvence istedi.

Altman, anlaşmanın bozulduğu gün X'te yayınlanan bir gönderide, yurt içi kitlesel gözetleme yasağının ve otonom silah sistemleri de dahil olmak üzere güç kullanımında insanın sorumluluğunun şirketin “en önemli güvenlik ilkelerinden” ikisi olduğunu söyledi. Savunma Bakanlığı'nın kabul ettiğini ve onları anlaşmaya dahil ettiğini söyledi.

OpenAI, DOD ile olan sözleşmesinin bir bölümünü yayınladı; bu, ajansın “AI Sistemini tüm yasal amaçlarla kullanabileceğini” söylüyor. Şirket, OpenAI'nin güvenlik yığını, sözleşme dili ve mevcut yasalar nedeniyle Savunma Bakanlığı'nın AI sistemlerini toplu gözetleme veya tamamen otonom silahlar için kullanamayacağından emin olduğunu söyledi.

Altman Perşembe günü CNBC'ye verdiği demeçte, “Amerika Birleşik Devletleri hükümetini ve demokratik süreci desteklemenin çok önemli olduğunu düşünüyoruz.” OpenAI, Pentagon'un Antropik'i bir tedarik zinciri riski olarak tanımlama kararına katılmasa da hükümetin “ülkedeki en önemli şeylerin nasıl işleyeceği” konusunda kararlar alabilmesi gerektiğini düşündüğünü ekledi.

Anthropic ile Savunma Bakanlığı arasındaki çatışma Washington'daki yetkililer ve teknoloji uzmanları için şok etkisi yarattı. Pek çok kişi Anthropic'in modellerini üstün görmeye başlamıştı (bunlar teşkilatın gizli ağlarında ilk kez kullanılan modellerdi) ve şirketin Palantir gibi mevcut savunma yüklenicileriyle entegre olma becerisini savunuyorlardı.

Kelly, CNBC'ye Kongre'nin “bir role sahip olması gerektiğini” söyledi.

“Bu sınırların, korkulukların bir kısmını oluşturan bu konuda mevzuata ihtiyacımız var” dedi. “Burası Amerika Birleşik Devletleri Kongresi, işler istediğimiz kadar hızlı ilerlemiyor, ancak bu teknoloji çok hızlı ilerliyor.”

KOL SAATİ: Sam Altman milletvekilleriyle toplantı hakkında: İstihdam üzerindeki ekonomik etki çok büyük bir konu olacak