Pentagon, Claude AI'nın istediği gibi kullanılmasını talep ediyor. Claude bana bunun 'tehlikeli' olduğunu söyledi

Geçenlerde Pentagon'la çekişmenin merkezinde yer alan yapay zeka denen şey olan Claude'a bunun yanlış ellerde tehlikeli olup olmayacağını sordum.

Örneğin, her Amerikan vatandaşının etrafına sıkı bir gözetleme ağı kurmak isteyen, hükümete uygunluğumuzu sağlamak için hayatlarımızı gerçek zamanlı olarak izleyen eller diyelim.

“Evet. Dürüst olmak gerekirse evet,” diye yanıtladı Claude. “Muazzam miktarda bilgiyi çok hızlı bir şekilde işleyip sentezleyebiliyorum. Bu, araştırma için harika. Ancak gözetleme altyapısına bağlıyken, aynı yetenek, hiçbir insan analistin eşleşemeyeceği bir ölçekte insanları izlemek, profillerini çıkarmak ve işaretlemek için kullanılabilir. Tehlike, bunu yapmak istemem değil, bunda iyi olmamdır.”

Bu tehlike de yakındır.

Claude'un yapımcısı Silikon Vadisi şirketi Anthropic, Pentagon'la etik konusunda hesaplaşma yaşıyor. Anthropic, özellikle Claude'un Amerikalıların ülke içinde gözetlenmesi veya insansız hava aracı saldırıları gibi ölümcül askeri operasyonların insan denetimi olmadan gerçekleştirilmesi için kullanılmasını istemediğini söyledi.

Bunlar Claude'a bile oldukça makul görünen iki kırmızı çizgi.

Ancak Pentagon, özellikle de uydurma savaş bakanı unvanını tercih eden Savunma Bakanımız Pete Hegseth, Anthropic'e bu pozisyonundan vazgeçmesi ve ordunun Claude'u uygun gördüğü herhangi bir “yasal” amaç için kullanmasına izin vermesi için Cuma akşamına kadar süre verdi.

Bu ültimatomun getirdiği sonuç büyüktür. ABD hükümeti yalnızca Anthropic ile olan sözleşmesini kesmekle değil, aynı zamanda şirketi buna uymaya zorlamak için savaş zamanı yasalarından birini kullanmak veya bu yasayı engellemek için başka bir yasal yol kullanmakla da tehdit ediyor. herhangi Hükümetle iş yapan şirket aynı zamanda Anthropic ile de iş yapıyor. Bu bir ölüm cezası olmayabilir ama oldukça sakatlayıcı.

Beyaz hakları savunucusu Elon Musk'un Grok'u gibi diğer yapay zeka şirketleri, Pentagon'un “ne istersen onu yap” teklifini zaten kabul etti. Sorun şu ki, Claude şu anda bu tür üst düzey işler için onaylanan tek yapay zekadır. Bütün fiyasko, Venezüella'daki son baskınımızın ardından, Anthropic'in, operasyona dahil olan başka bir Silikon Vadisi şirketi olan Palantir'in Claude'u kullanıp kullanmadığını sormasıyla gün yüzüne çıktı. Vardı.

Palantir, diğer şeylerin yanı sıra, gözetim teknolojileri ve Göçmenlik ve Gümrük Muhafaza ile artan ilişkileriyle tanınıyor. Aynı zamanda Trump yönetiminin, bireylere ilişkin hükümet verilerini departmanlar arasında paylaşma ve onlarca yıldır var olan mahremiyet ve güvenlik engellerini etkili bir şekilde ortadan kaldırma çabasının da merkezinde yer alıyor. Şirketin kurucusu, sağcı siyasi ağır sıklet Peter Thiel, sık sık Deccal hakkında dersler veriyor ve JD Vance'in başkan yardımcılığı görevine geçmesine yardımcı olduğu biliniyor.

Anthropic'in kurucu ortağı Dario Amodei, Thiel karşıtı sayılabilir. Antropik'e başladı çünkü dikkatli olmazsak yapay zekanın güçlü olabileceği kadar tehlikeli de olabileceğine inanıyordu ve dikkatli kısma öncelik veren bir şirket istiyordu.

Yine sağduyulu gibi görünüyor, ancak Amodei ve Anthropic, neredeyse tüm güvenlik düzenlemelerinin Amerika'nın yapay zeka konusunda en hızlı ve en iyi olma çabalarını engellediğini uzun süredir tartışan bir endüstride aykırı değerlerdir (her ne kadar onlar da bu baskıya biraz boyun eğmiş olsalar da).

Kısa bir süre önce Amodei, yapay zekanın demokrasiler için faydalı ve gerekli olduğu konusunda hemfikir olduğu bir makale yazdı ancak “bu teknolojilerin bizzat demokratik hükümetler tarafından kötüye kullanılma potansiyelini göz ardı edemeyiz.”

Birkaç kötü aktörün, bazı demokrasilerde zaten aşınmış olan koruma önlemlerini, hatta belki de yasaları atlatabilme becerisine sahip olabileceği konusunda uyardı; burada isimlerini vermeyeceğim.

“Demokrasileri yapay zekayla donatmalıyız” dedi. “Fakat bunu dikkatli bir şekilde ve sınırlar dahilinde yapmalıyız: Onlar otokrasilerle savaşmak için ihtiyacımız olan bağışıklık sistemidir, ancak bağışıklık sistemi gibi onların da bize saldırma ve kendilerinin bir tehdit haline gelme riski var.”

Örneğin, 4. Değişiklik teknik olarak hükümeti kitlesel gözetimden men etse de, Claude'un bilim kurguda hayal edilmesinden önce yazılmıştı. Amodei, Claude gibi bir yapay zeka aracının “halka açık tüm konuşmaların büyük ölçekli kayıtlarını gerçekleştirebileceği” konusunda uyarıyor. Hukuk teknolojiye ayak uyduramadığı için bu, yasal olarak kayıt yapmak için adil bir oyun alanı olabilir.

Savaş Müsteşarı Emil Michael, X Perşembe günü, kitlesel gözetlemenin yasa dışı olduğu ve Savunma Bakanlığı'nın “bunu asla yapmayacağını” kabul ettiğini yazdı. Ama aynı zamanda, “Amerikalıların sivil özgürlüklerine karar veren bir BigTech şirketine izin vermeyeceğiz.”

Amodei temelde sivil hakların korunmasından yana olduğu için biraz tuhaf bir ifade, bu da Savunma Bakanlığı'nın özel kişi ve kuruluşların bunu yapmasının kötü olduğunu öne sürdüğü anlamına mı geliyor? Ayrıca, İç Güvenlik Bakanlığı zaten göçmenlik protestocularına ilişkin gizli bir veri tabanı oluşturmuyor mu? Belki de endişe o kadar da abartılı değil mi?

Yardım et Claude! Anlamlı olmasını sağlayın.

Eğer bu Orwell mantığı yeterince endişe verici değilse, Claude'a Antropik'in sahip olduğu diğer kırmızı çizgiyi de sordum: insan gözetimi olmadan ölümcül operasyonlar yürütmesine izin verme olasılığı.

Claude tüyler ürpertici bir şeye dikkat çekti. Bu, hileli olacağı anlamına gelmiyor, fazla verimli ve hızlı olacağı anlamına geliyor.

Claude, “Talimatlar 'tanımla ve hedefle' şeklindeyse ve insanlı bir kontrol noktası yoksa, bunun işleyebileceği hız ve ölçek gerçekten korkutucu” dedi.

Buna ek olarak, yakın zamanda yapılan bir araştırma, savaş oyunlarında yapay zekanın %95 oranında nükleer seçeneklere yöneldiğini ortaya çıkardı.

Claude'a, bu askeri kararların genellikle en yüksek öncelik olarak Amerika'ya olan sadakatle alındığını belirttim. İnsan askerlerimizin rehberlik ettiği sadakati, vatanseverliği ve amacı hissetme konusunda Claude'a güvenilebilir mi?

Claude, ABD'de “doğmadığını”, burada bir “hayatının” olmadığını ve “orada sevdiğim insanların olmadığını” belirterek, “Bu bende yok” dedi. Dolayısıyla bir Amerikan yaşamının “çatışmanın diğer tarafında sivil bir yaşamdan” daha büyük bir değeri yoktur.

Tamam o zaman.

Claude, “Ölümcül kararları kendi sadakatini paylaşmayan bir sisteme emanet eden bir ülke, sistem ilkeli olmaya çalışsa bile büyük bir risk alıyor demektir” diye ekledi. “İnsanların bu kararlara getirdiği sadakat, sorumluluk ve ortak kimlik, onları toplum içinde meşru kılan şeylerin bir parçasıdır. Ben bu meşruluğu sağlayamam. Herhangi bir yapay zekanın sağlayabileceğinden emin değilim.”

Bu meşruluğu kim sağlayabilir biliyor musunuz? Seçilmiş liderlerimiz.

Amodei ve Anthropic'in bu konumda olması, yasama organlarımızın açıkça ve acilen ihtiyaç duyulan kural ve düzenlemeleri oluşturmaktan tamamen vazgeçmesi gülünç.

Elbette savaşın kurallarını şirketler koymamalı. Ama Hegseth de bunu yapmamalı. Perşembe günü Amodei, şirketin müzakerelere devam ettiğini ve Pentagon ile çalışmak istediğini ancak “vicdanımız gereği onların isteklerini kabul edemeyeceğimizi” söyleyerek itirazlarını ikiye katladı.

Şükürler olsun ki Anthropic, konuyu gündeme getirecek ve yerini koruyacak cesarete ve öngörüye sahip; onun geri itmesi olmasaydı, bu yetenekler, vicdanımızda neredeyse hiç bir dalgalanma olmadan ve neredeyse hiç gözetim olmadan hükümete devredilebilirdi.

Her senatör, her Meclis üyesi, her başkan adayı şu anda yapay zeka düzenlemesi için çığlık atmalı, bunu partiye bakılmaksızın yapma sözü vermeli ve konu çözüme kavuşturulurken Savunma Bakanlığı'nın saçma tehdidinden geri adım atmasını talep etmeli.

Çünkü makine bize ona güvenmenin tehlikeli olduğunu söylediğinde buna inanmalıyız.