Anthropic'in kendisi için kurduğu tuzak

Cuma öğleden sonra, tam da bu röportaj başlarken bilgisayar ekranımda bir haber uyarısı belirdi: Trump yönetimi, 2021'de Dario Amodei tarafından kurulan San Francisco yapay zeka şirketi Anthropic ile bağlarını koparıyordu. Savunma Bakanı Pete Hegseth, Amodei'nin Anthropic'in teknolojisinin ABD vatandaşlarının kitlesel gözetimi için veya insan müdahalesi olmadan hedefleri seçip öldürebilen otonom silahlı dronlar için kullanılmasına izin vermemesinin ardından şirketin Pentagon ile iş yapmasını kara listeye almak için bir ulusal güvenlik yasasını devreye sokmuştu.

İnsanı hayrete düşüren bir diziydi. Anthropic, değeri 200 milyon dolara varan bir sözleşmeyi kaybedecek ve Başkan Trump'ın Truth Social'da her federal kuruma “Antropik teknolojinin tüm kullanımını derhal durdurması” talimatını vermesinin ardından diğer savunma yüklenicileriyle çalışması yasaklanacak. (Anthropic o zamandan beri Pentagon'a mahkemede itiraz edeceğini söyledi.)

Max Tegmark, on yılın büyük bir kısmını, giderek daha güçlü yapay zeka sistemleri inşa etme yarışının, dünyanın bunları yönetme becerisini geride bıraktığı konusunda uyararak geçirdi. MIT fizikçisi, 2014 yılında Yaşamın Geleceği Enstitüsü'nü kurdu ve sonunda Elon Musk da dahil olmak üzere 33.000'den fazla kişi tarafından imzalanan ve gelişmiş yapay zeka geliştirmede bir duraklama çağrısında bulunan açık bir mektubun düzenlenmesine yardımcı oldu.

Antropik krize bakış açısı acımasızdır: Şirket, rakipleri gibi, kendi çıkmazının tohumlarını ekmiştir. Tegmark'ın argümanı Pentagon'la değil, yıllar önce alınan bir kararla başlıyor; bağlayıcı düzenlemelere direnme konusunda sektör genelinde paylaşılan bir seçim. Anthropic, OpenAI, Google DeepMind ve diğerleri uzun süredir kendilerini sorumlu bir şekilde yöneteceklerine söz verdiler. Anthropic bu hafta kendi güvenlik taahhüdünün temel ilkesinden bile vazgeçti; şirket, zarar vermeyeceğinden emin olana kadar giderek daha güçlü hale gelen yapay zeka sistemlerini piyasaya sürmeyeceği sözünü verdi.

Tegmark, artık kuralların yokluğunda bu oyuncuları koruyacak pek bir şey kalmadığını söylüyor. Uzunluk ve netlik açısından düzenlenmiş o röportajdan daha fazlasını burada bulabilirsiniz. Konuşmanın tamamını önümüzdeki hafta Tmzilla'ın StrictlyVC Download podcast'inde duyabilirsiniz.

Az önce Anthropic ile ilgili bu haberi gördüğünüzde ilk tepkiniz ne oldu?

Cehenneme giden yol iyi niyet taşlarıyla döşelidir. On yıl öncesini, insanların kanseri tedavi edecek, Amerika'daki refahı artıracak ve Amerika'yı güçlü kılacak yapay zekayı nasıl yapacağımız konusunda bu kadar heyecanlandıklarını düşünmek çok ilginç. Ve şimdi ABD hükümetinin, yapay zekanın Amerikalıların ülke içinde kitlesel gözetimi için kullanılmasını istememesi ve aynı zamanda hiçbir insan katkısı olmaksızın otonom olarak kimin öldürüleceğine karar verebilecek katil robotlara sahip olmasını istememesi nedeniyle bu şirkete kızdığı noktadayız.

Anthropic tüm kimliğini güvenliğe öncelik veren bir yapay zeka şirketi olmaya odaklamış olmasına rağmen savunma ve istihbarat teşkilatlarıyla işbirliği yapıyordu. [dating back to at least 2024]. Sizce bu hiç de çelişkili mi?

Bu çelişkilidir. Bu konuyu biraz alaycı bir şekilde ele alabilirsem – evet, Anthropic kendilerini güvenlikle ilgili olarak pazarlamada çok başarılıydı. Ancak iddialardan ziyade gerçeklere bakarsanız Anthropic, OpenAI, Google DeepMind ve xAI'nin güvenliği ne kadar önemsedikleri hakkında çok konuştuğunu görürsünüz. Hiçbiri diğer sektörlerde olduğu gibi bağlayıcı güvenlik düzenlemelerini desteklemedi. Ve bu şirketlerin dördü de artık verdikleri sözleri tutmamış durumda. İlk önce Google'ı vardı; şu büyük slogan: 'Kötü olma.' Sonra bunu düşürdüler. Daha sonra, temelde yapay zekaya zarar vermeyeceklerine söz verdikleri daha uzun bir taahhütten vazgeçtiler. Gözetim ve silahlar için yapay zeka satabilmek amacıyla bunu düşürdüler. OpenAI, misyon beyanından güvenlik kelimesini çıkardı. xAI tüm güvenlik ekibini kapattı. Ve şimdi Anthropic, hafta başında en önemli güvenlik taahhüdünden vazgeçti; güçlü yapay zeka sistemlerini zarara yol açmayacaklarından emin olana kadar piyasaya sürmeyecekleri sözü.

Bu kadar belirgin güvenlik taahhütleri veren şirketler nasıl bu konuma geldi?

Bu şirketlerin tümü, özellikle de OpenAI ve Google DeepMind ve bir dereceye kadar da Anthropic, 'Bize güvenin, biz kendimizi düzenleyeceğiz' diyerek ısrarla yapay zekanın düzenlenmesine karşı lobi faaliyeti yürüttüler. Ve başarıyla lobi yaptılar. Yani şu anda Amerika'da yapay zeka sistemleri üzerinde sandviçlerden daha az düzenlemeye sahibiz. Bilirsiniz, bir sandviç dükkanı açmak istiyorsanız ve sağlık müfettişi mutfakta 15 fare bulursa, tamir edene kadar sandviç satmanıza izin vermez. Ancak, 'Endişelenmeyin, sandviç satmayacağım, 11 yaşındaki çocuklar için yapay zekalı kız arkadaşlar satacağım ve bunların geçmişte intiharlarla bağlantısı var ve sonra süper istihbarat denilen, ABD hükümetini devirebilecek bir şeyi yayınlayacağım, ama benimki hakkında iyi hislerim var' derseniz, müfettişin şunu söylemesi gerekir: 'Tamam, devam edin, sadece sandviç satmayın.'

Gıda güvenliği düzenlemesi var ama AI düzenlemesi yok.

Ve bence bu şirketlerin hepsi gerçekten de suçu paylaşıyor. Çünkü eğer o zamanlar nasıl bu kadar güvende ve iyi olacaklarına dair verdikleri tüm sözleri yerine getirselerdi, bir araya gelselerdi ve sonra hükümete gidip 'Lütfen gönüllü taahhütlerimizi alın ve bunları en özensiz rakiplerimizi bile bağlayan ABD yasalarına dönüştürün' deselerdi – bunun yerine bu olurdu. Tam bir düzenleyici boşluk içindeyiz. Ve tam bir kurumsal af olduğunda ne olacağını biliyoruz: Talidomide maruz kalıyorsunuz, tütün şirketlerinin çocuklara sigara satmasına neden oluyorsunuz, akciğer kanserine neden olan asbeste maruz kalıyorsunuz. Bu nedenle, yapay zeka ile neyin uygun olup olmadığını söyleyen yasalara sahip olma konusundaki dirençlerinin artık geri gelip onları ısırması biraz ironik.

Şu anda Amerikalıları öldürmek için yapay zeka inşa edilmesine karşı bir yasa yok, dolayısıyla hükümet aniden bunu isteyebilir. Eğer şirketler daha önce çıkıp 'Biz bu yasayı istiyoruz' deselerdi bu zor durumda olmazlardı. Gerçekten kendilerini ayaklarından vurdular.

Şirketlerin karşı argümanı her zaman Çin'le yarıştır; eğer Amerikan şirketleri bunu yapmazsa Pekin yapacak. Bu iddia geçerli mi?

Bunu analiz edelim. Yapay zeka şirketlerinin lobicilerinin en yaygın konuşma noktası – artık fosil yakıt endüstrisi, ilaç endüstrisi ve askeri-endüstriyel kompleksteki lobicilerin toplamından daha iyi finanse ediliyorlar ve sayıları daha fazla – herhangi biri herhangi bir düzenleme önerdiğinde 'Ama Çin' diyorlar. Öyleyse şuna bakalım. Çin, AI kız arkadaşlarını doğrudan yasaklama sürecinde. Sadece yaş sınırlaması değil, tüm antropomorfik yapay zekaların yasaklanması da amaçlanıyor. Neden? Amerika'yı memnun etmek istediklerinden değil, bunun Çinli gençliği mahvetmek ve Çin'i zayıflatmak olduğunu düşündükleri için. Açıkçası bu durum Amerikan gençliğini de zayıflatıyor.

Ve insanlar Çin'e karşı kazanabilmek için süper zeka oluşturmak için yarışmamız gerektiğini söylediğinde, aslında süper zekayı nasıl kontrol edeceğimizi bilmediğimizde, dolayısıyla varsayılan sonuç insanlığın Dünya'nın kontrolünü uzaylı makinelere kaptırması olduğunda, tahmin edin ne oldu? Çin Komünist Partisi kontrolü gerçekten seviyor. Aklı başında kim Xi Jinping'in bazı Çinli yapay zeka şirketlerinin Çin hükümetini devirecek bir şey inşa etmesine göz yumacağını düşünür? Mümkün değil. Süper istihbarat üreten ilk Amerikan şirketinin bir darbeyle devrilmesinin Amerikan hükümeti için de çok kötü olacağı açıktır. Bu bir ulusal güvenlik tehdididir.

Bu zorlayıcı bir çerçeve; süper istihbarat bir varlık değil, ulusal güvenlik tehdidi olarak görülüyor. Bu görüşün Washington'da ilgi kazandığını görüyor musunuz?

Sanırım ulusal güvenlik camiasındaki insanlar Dario Amodei'nin vizyonunu anlatmasını dinlerse – yakında bir veri merkezinde dahilerden oluşan bir ülkeye sahip olacağımızı söylediği ünlü bir konuşma yaptı – şunu düşünmeye başlayabilirler: Durun, Dario az önce 'ülke' kelimesini mi kullandı? Belki de bu dahiler ülkesini, benim takip ettiğim tehdit listesine bir veri merkezine koymalıyım, çünkü bu, ABD hükümetine tehdit gibi geliyor. Ve sanırım çok yakında ABD ulusal güvenlik camiasından yeterli sayıda insan kontrol edilemeyen süper istihbaratın bir araç değil, bir tehdit olduğunu anlayacak. Bu tamamen Soğuk Savaş'a benziyor. Sovyetler Birliği'ne karşı ekonomik ve askeri bir hakimiyet yarışı vardı. Biz Amerikalılar, diğer süper güce kimin daha fazla nükleer krater açabileceğini görmek için yapılan ikinci yarışa hiç katılmadan bu yarışı kazandık. İnsanlar bunun sadece bir intihar olduğunu anladı. Kimse kazanmıyor. Aynı mantık burada da geçerli.

Tüm bunlar yapay zeka gelişiminin hızı açısından daha geniş anlamda ne anlama geliyor? Tanımladığınız sistemlere ne kadar yakın olduğumuzu düşünüyorsunuz?

Altı yıl önce, neredeyse tanıdığım tüm yapay zeka uzmanları, insan düzeyinde dil ve bilgi konusunda uzmanlaşabilecek yapay zekaya sahip olmaktan onlarca yıl uzakta olacağımızı tahmin ediyordu – belki 2040, belki 2050. Hepsi yanılıyordu, çünkü artık buna zaten sahibiz. Yapay zekanın bazı alanlarda lise seviyesinden üniversite seviyesine, doktora seviyesine ve üniversite profesörlüğü seviyesine oldukça hızlı bir şekilde ilerlediğini gördük. Geçen yıl yapay zeka, Uluslararası Matematik Olimpiyatları'nda, neredeyse insanoğlunun görevleri kadar zor olan altın madalyayı kazandı. Sadece birkaç ay önce Yoshua Bengio, Dan Hendrycks ve diğer önde gelen yapay zeka araştırmacılarıyla birlikte YGZ'nin kesin bir tanımını veren bir makale yazdım. Buna göre GPT-4 oraların %27'sindeydi. GPT-5 bu yolun %57'sini oluşturuyordu. Yani henüz o noktaya gelmedik ama %27'den %57'ye çıkmak, bu durumun o kadar da uzun sürmeyebileceğini gösteriyor.

Dün MIT'de öğrencilerime ders verdiğimde onlara, dört yıl sürse bile, yani mezun olduklarında artık iş bulamayacaklarını söyledim. Bunun için hazırlanmaya başlamak için kesinlikle çok erken değil.

Antropik artık kara listede. Bundan sonra ne olacağını merak ediyorum; diğer yapay zeka devleri onların yanında durup “bunu da yapmayacağız” mı diyecekler? Yoksa xAI gibi biri elini kaldırıp “Anthropic o sözleşmeyi istemedi, biz alırız” mı diyor? [Editor’s note: Hours after the interview, OpenAI announced its own deal with the Pentagon.]

Dün gece Sam Altman ortaya çıktı ve kendisinin de Anthropic'in yanında olduğunu ve aynı kırmızı çizgilere sahip olduğunu söyledi. Bunu söyleme cesaretinden dolayı ona hayranım. Bu röportaja başladığımız andan itibaren Google hiçbir şey söylememişti. Eğer sessiz kalırlarsa, bunun şirket olarak onlar için son derece utanç verici olacağını düşünüyorum ve çalışanlarının çoğu da aynı şeyi hissedecektir. Henüz xAI'den de bir şey duymadık. Bu yüzden görmek ilginç olacak. Temel olarak herkesin gerçek yüzünü göstermesi gereken bir an var.

Bunun sonucun gerçekten iyi olduğu bir versiyonu var mı?

Evet, bu yüzden aslında tuhaf bir şekilde iyimserim. Burada çok bariz bir alternatif var. Yapay zeka şirketlerine diğer şirketler gibi davranmaya başlarsak – kurumsal affı kaldırırsak – bu kadar güçlü bir şeyi piyasaya sürmeden önce açıkça klinik deneme gibi bir şey yapmaları ve bağımsız uzmanlara bunu nasıl kontrol edeceklerini bildiklerini göstermeleri gerekir. Daha sonra, varoluşsal endişeler olmadan, yapay zekadan gelen tüm iyi şeylerle altın bir çağ yaşıyoruz. Şu anda bulunduğumuz yol bu değil. Ama olabilir.