OpenAI-Pentagon anlaşmasından sonra ChatGPT'den kaçış. Bu nedenle mahremiyetin ortadan kaldırılması riskine giriyor

Şubat ortasında Anthropic, Pentagon'a yapay zeka modellerine tam erişim izni vermeyi reddetti.

Antropik CEO'su Dario Amodei'ye göre, tüm etik önlemleri kaldırın Amerika Birleşik Devletleri'ni savaştığı veya şeytanlaştırdığı ülkelere benzetecektir.

Amerikan Savaş Bakanlığı'nın değeri 200 milyon dolar civarında olan Anthropic ile olan işbirliğini kesme ve Sam Altman'ın yönettiği OpenAI şirketine güvenme kararı alması da bundan dolayıdır. ChatGPT'yi kim geliştiriyor?Üretken yapay zekanın mükemmel sembolü.

Katkıda bulunan bir tema boykot başlatmak bu da OpenAI'yi cezalandırıyor ve Antropik'i ödüllendiriyor. Hatta Pentagon'la yapılan anlaşmanın ardından OpenAI müşteri kaybetti, öyle ki ChatGPT'nin kaldırılma oranları %295 arttı ve Anthropic'in yapay zeka modeli Claude, en çok indirilen uygulamalar arasında ilk sıralara yükseldi, bu da uygulamayı ve siteyi birkaç saatliğine kapatmaya yetti. Orada soru daha karmaşık İlk okumada bunun nasıl anlaşılabileceği, çünkü söz konusu olan sadece savaş faaliyetleri değil, yapay zekanın ince ve zaten sallantılı olan demokratik dengeleri tehlikeye atmak için potansiyel kullanımıdır. Örneğin, Anthropic ile sürtüşmeye rağmen Pentagon, İran'a yönelik ilk saldırıları koordine etmek için şirketin modellerini kullanacak ve Beyaz Saray'ın verdiği emre aldırış etmeyecekti.

Sam Altman'ın duyurusu ve hukuka saygı

Sam Altman'ın Amerikan Savaş Bakanlığı (Başkan Donald J. Trump tarafından başlatılan Savunma Bakanlığı'nın yeni terminolojisi) ile işbirliğinin başladığını bildirdiği duyuru, etik ve demokratik temel taşların korunmasının altını çiziyor.

The Verge'ın da altını çizdiği gibi Altmam, OpenAI'nin kitlesel gözetime açık olabileceğini ve insanın sorumsuzluğu konusundaki tutumunu yumuşatabileceğini kategorik olarak dışlıyor.

The Verge raporunun görüştüğü kaynaklara göre, daha derinlemesine analizler, Sam Altman'ın açıklamalarının duman ve aynadan biraz öteye geçmesine neden olacak.

Aslında, OpenAI taviz almazdı, sadece Pentagon'un taleplerine boyun eğmeyi kabul ederdi. Teslim olmalarını, yürürlükteki yasalara, yani kitlesel gözetlemenin yasallık sınırlarının dışına çıkmasını öngören yazılı ve onaylanmış kurallara tam uyumun garantisini çağrıştıran muğlak bir dille maskelemek.

Pentagon ve OpenAI arasındaki anlaşmanın özellikleri

Pentagon ile imzalanan anlaşma şunları içeriyor: madde herhangi biri için OpenAI modelleri sağlayan yasal kullanım. Plakada üç temel unsur var.

Dördüncü Değişiklik, insanlara mantıksız arama ve el koymalara karşı korunma hakkı verir. Buna, elektronik gözetleme faaliyetlerini düzenleyen 1978 tarihli bir federal yasa olan Yabancı İstihbarat Gözetim Yasası (FISA) da eklenmiştir.

Üçüncü unsur, 1981 yılında dönemin Amerikan başkanı Ronald Regan tarafından imzalanan ve daha sonra yapılan değişiklikler sayesinde Amerika Birleşik Devletleri dışındaki gözetim operasyonları için düzenleyici bir temel taşı haline gelen ve FISA tarafından dayatılan iç kurallara uymak zorunda olmadıkları için izinsiz faaliyetleri onaylayan 12333 sayılı Yönetici Kararıdır.

Ve Altman'ın sözleri tam da bu üç yapı iskelesinden ve bunların yıllar boyunca kullanılma biçiminden ilham alınarak göreceli hale getirilebilir.

Algoritmik demokrasi

PRISM programının Apple ve Google gibi Büyük Teknoloji şirketlerinden veri toplanmasına nasıl izin verdiğini ve bu sayede 12333 sayılı Yürütme Emri ile belirlenen hakların bir sonucu olarak Amerika Birleşik Devletleri içindeki iletişimlere müdahale etmeyi başardığını gösteren Amerikalı analist Edward Snowden'ın açıklamalarının üzerinden 13 yıl geçti.

Böyle bir bağlamda, Yasayı destekleme sözü vermek bir mahremiyet garantisi değil, Pentagon'a verilen bir lisanstır 1988'den beri inovasyon, teknolojik politikalar ve sivil özgürlükleri kapsayan Techdirt sitesinin kurucusu Mike Masnick, yapay zekayla geliştirilmiş kitlesel casusluk uygulamalarına devam edilmesi gerektiğini söylüyor.

İddialarıyla örtüşen ifadeler Dario Amodeihangisine göre Yapay zeka kullanımının mümkün kıldığı gözetim düzeyi demokratik değerlerle bağdaşmıyor. Eleştirmenlere göre Sam Altman, genel analize izin verdiğini reddederken, askeri güçlerin OpenAI çalışanlarının teknik olarak onları anlaşma şartlarını ihlal etmekle suçlayamayacağı şekilde çalışmasına izin vermek için belirsiz terimler kullanıyor.

Risk sadece savaş değil

OpenAI, modellerinin yalnızca bulutta barındırılacaklar ve doğrudan dronların üzerinde değil. Ancak uzmanlar bunu tanımlıyor alakasız ayrım Çünkü hedef tanımlamayı, haritalamayı ve seçmeyi içeren “otonom öldürme zinciri” neredeyse tamamen bulutta çalışan algoritmalar aracılığıyla gerçekleşiyor.

Ortaya çıkan tablonun karmaşıklığında yapay zeka yalnızca savaş operasyonlarına destek sağlamakla kalmayacak, aynı zamanda davranış kalıplarının tanımlanmasını kolaylaştıracaktır Örneğin coğrafi konum, ziyaret edilen web sayfaları, finansal ve seçim verilerinin yanı sıra güvenlik kameraları tarafından çekilen görüntülere çapraz referans vererek her vatandaşın ayrıntılı profillerini döndürebilmektedir.

Dolayısıyla OpenAI ile Pentagon arasındaki anlaşma geri dönüşü olmayan bir noktaya işaret edecek. Yasalar istihbarat teşkilatları tarafından esnek bir şekilde yorumlandığında, yalnızca OpenAI tarafından sunulan garantiler zayıf olmakla kalmıyor, aynı zamanda yasaların kendisi de aşılaması gereken güvenden yoksun kalıyor.

OpenAI ve Anthropic'in vizyonları arasındaki çatışma ABD içinde bir sürtüşmeye neden oluyor. Washington'a göre Anthropic, hükümetin tedarik zincirini riske sokan bir şirket; normalde Çinli ve yabancı olmak üzere düşman şirketlere yönelik bir etiket.

Savunma Bakanı Pete Hegseth, ABD'nin askeri kaderinin yerli teknoloji şirketlerinin ideolojileri tarafından rehin tutulmayacağını açıkça belirtti.

Bu nedenle OpenAI'nin konumu, vatandaşların verilerinin gerçek anlamda korunmasına zarar verecek şekilde hükümetin misillemelerini önlemeye yönelik stratejik bir uyum gibi görünüyor.