Sam Altman, Savunma Bakanlığı'nın OpenAI çalışanlarını Anthropic'e karşı gerilimini 'azalttı'

OpenAI CEO'su Sam Altman Perşembe günü geç saatlerde çalışanlara, şirketin rakip Anthropic ile Savunma Bakanlığı arasındaki “gerginliği azaltmaya yardımcı olmaya çalışmasını” istediğini söyledi.

Altman, CNBC tarafından görüntülenen bir notta şöyle yazdı: “Yapay zekanın kitlesel gözetleme veya otonom öldürücü silahlar için kullanılmaması gerektiğine ve insanların yüksek riskli otomatik kararlar için döngüde kalması gerektiğine uzun süredir inanıyoruz.” “Bunlar bizim ana kırmızı çizgilerimizdir.”

Anthropic'in, Pentagon'a yapay zeka modellerini sınırlama olmaksızın tüm yasal kullanım durumlarında kullanmasına izin verip vermeyeceğine karar vermek için Cuma günü saat 17:01 ET'ye kadar süresi var. Başlangıç, teknolojisinin tamamen otonom silahlar veya Amerikalılara yönelik yerel kitlesel gözetleme için kullanılmayacağına dair güvence istiyor, ancak Savunma Bakanlığı bundan taviz vermedi.

Altman'ın Perşembe günü yazdığı dahili mektup, OpenAI'nin Anthropic'in sınırlarını paylaştığını göstermeyi amaçlıyordu. Bu notu ilk bildiren The Wall Street Journal oldu.

Altman'ın notundan önce OpenAI çalışanları sosyal medyada Anthropic'i desteklemek için konuşmaya başlamıştı. İnternet sitesine göre, mevcut 70 kadar çalışan bakanlıktan “bu baskı karşısında ortak anlayış ve dayanışma” yaratmayı amaçlayan “Bölünmeyeceğiz” başlıklı açık bir mektuba imza attı.

Altman, Cuma günü CNBC'ye verdiği bir röportajda “Anthropic ile sahip olduğum tüm farklılıklara rağmen, şirket olarak çoğunlukla onlara güveniyorum ve güvenliği gerçekten önemsediklerini düşünüyorum ve savaş savaşçılarımızı destekledikleri için mutluyum” dedi. “Bunun nereye varacağından emin değilim.”

OpenAI geçen yıl Savunma Bakanlığı tarafından 200 milyon dolarlık bir sözleşmeyle ödüllendirildi ve bu, ajansın startup modellerini sınıflandırılmamış kullanım durumlarında kullanmaya başlamasına olanak tanıdı. Anthropic, modellerini gizli ağlardaki görev iş akışlarına entegre eden ilk yapay zeka laboratuvarıydı.

Altman, OpenAI'nin modellerini gizli ortamlara “ilkelerimize uygun” şekilde dağıtmak için Savunma Bakanlığı ile bir anlaşma yapıp yapamayacağını göreceğini söyledi. Şirketin “işlerin doğru çalıştığından emin olmak” için teknik güvenlik önlemleri oluşturacağını ve personel görevlendireceğini söyledi.

Altman, “Sözleşmenin, yurt içi gözetleme ve otonom saldırı silahları gibi yasa dışı veya bulut konuşlandırmalarına uygun olmayan kullanımlar dışındaki her türlü kullanımı kapsamasını istiyoruz” diye yazdı.

Altman, OpenAI'nin son günlerde konuyla ilgili toplantılar yaptığını ve şirketin henüz ne yapacağına dair bir karara varmadığını söyledi. Cuma günü OpenAI'nin güvenlik ekipleriyle daha fazla toplantı yapılacağını söyledi.

Altman, “Bu benim için güçlü görünen ama samimiyetsiz olan kolay şeyi değil, doğru olanı yapmamızın önemli olduğu bir durum” diye yazdı. “Ancak bunun kısa vadede bizim için “iyi görünmeyebileceğinin” ve pek çok nüans ve bağlamın olduğunun farkındayım.”

— CNBC'den Kate Rooney bu rapora katkıda bulundu.

KOL SAATİ: OpenAI, Amazon, Nvidia ve Softbank'ın desteğiyle 110 milyar dolarlık finansman turunu tamamladı