Yapay zeka alanında atılım yapılması korkusu ABD ve Çin'i konuşmaya zorluyor

CHONGQING, Çin — Üç yıl önce, San Francisco'nun güneyindeki cennet gibi Woodside kasabasında ABD ve Çin, yapay zekanın oluşturduğu tehlikeler konusunda ilk üst düzey görüşmelerini gerçekleştirdiler. Başkan Xi Jinping ve onun uzun süreli dışişleri bakanı, Pekin ile Washington arasında bir kanalın (acil durumlarda yapay zeka için kırmızı telefon) kurulması gerektiği yönündeki inançlarında ciddi görünüyordu.

2024'te İsviçre'de, ABD başkanlık seçimlerinden yalnızca aylar önce başlayacak bir diplomatik çabaya izin verdiler. Görüşmelere katılan dört kaynağa göre, büyük bir ABD heyeti büyük umutlarla geldi ancak bu umutlar aniden suya düştü. Çinli birlik, Amerika'nın yapay zekânın kontrolden çıkmasıyla ilgili endişelerini akademik ve neredeyse teorik olarak görmezden geldi ve konuyu hızla Pekin'de görülen ihracat kontrollerine, ABD'nin Çin'i geride tutmaya yönelik bir başka çabası olarak çevirdi.

Başkan Biden'ın ABD ulusal güvenlik danışmanı Jake Sullivan bir röportajda, “Doğal olarak, bir yeteneğin şu veya bu şekilde sınırlandırılmasını veya kısıtlanmasını içeren herhangi bir Amerikan diplomatik girişimini bir tuzak olarak görüyorlar” dedi.

Güvensizliğe ve Demokratların Beyaz Saray'ı Donald Trump'a kaptırmasına rağmen, aynı yılın Kasım ayında Peru'da her iki tarafın da yapay zekayı nükleer silahların komuta ve kontrolünden uzak tutmayı kabul ettiği bir anlaşma yapıldı.

Sullivan, “Bu, yapay zeka konusunda gerçekten bir şeyler yapabileceğimize dair mühürün kırılmasıydı” dedi. “Geçiş sırasında, yeni gelen Trump ekibine bu diyaloğu gerçekten sürdürmeleri gerektiğini söyledim. Ancak Trump yönetiminin görüşü çok daha fazla 'bırakınız yapsınlar' yönündeydi ve bununla pek ilgilenmiyorlardı.”

“Son birkaç haftada her şey değişti” diye ekledi.

Bir zamanlar teknolojik üstünlük için silahlanmaya hevesli olan Trump yönetimi, şimdi ilk kez yapay zekanın kontrol edilmediği takdirde ortaya çıkarabileceği gücü hesaplıyor.

Yetkililer Haberler'a, Anthropic'in güçlü yeni modeli Mythos'un piyasaya sürülmesiyle ilgili Pekin ve Washington'da ortak alarmın harekete geçmesiyle, sürpriz bir şekilde tersine dönerek, Başkan Trump'ın bu hafta Çin'e yapacağı devlet ziyareti öncesinde, acil durum kanalında görüşmelerin yeniden canlandırılması konusunu görüşmek üzere sessiz görüşmelerin gerçekleştiğini söyledi.

Üst düzey bir yönetim yetkilisi Pazar günü gazetecilere verdiği demeçte, Beyaz Saray'ın “ABD ve Çin ile yoğun olarak odaklanılan birçok alanda” sahip olduğu diğerleri gibi yapay zeka için bir iletişim kanalı yaratmaya çalıştığını söyledi.

Yetkili, “Sanırım bu iletişim kanalının neye benzediği, formalitesi ve neye benzediği henüz belirlenmedi” dedi ve şöyle devam etti: “Ancak liderler toplantısıyla bu fırsatı bir görüşme başlatmak için kullanmak istiyoruz. Bu konuda bir iletişim kanalı kurmalıyız.”

Mythos'un yetenekleri, endüstri ve hükümet genelinde, hükümet veritabanları, finansal kurumlar ve sağlık programları da dahil olmak üzere dijital iletişim sistemlerine, anlatılmamış sonuçlarla sızabilen ve bunlardan yararlanabilen, benzeri görülmemiş bir siber silahın yetenekleri olarak görülüyor.

Bu hafta bir duyurunun gerçekleşip gerçekleşmeyeceği henüz belli değil. Uzmanlar, ABD ile Çin arasında, her iki tarafın da tam olarak anlamadığı veya kontrol etmediği bir teknolojinin kullanımını düzenleyen bir tür silah kontrol anlaşması tasarlamak üzere yapay zeka düzenlemeleri üzerine yapılacak herhangi bir görüşmenin şüphe, yanlış anlama ve riskle dolu olacağını söylüyor.

Stratejik ve Uluslararası Çalışmalar Merkezi'ndeki Wadhwani Yapay Zeka Merkezi direktörü Aalok Mehta, “Şu anda ABD'li politika yapıcılardan Çin ile yapay zeka yönetişimi konusunda resmi tartışmalara girme konusunda neredeyse hiç destek yok” dedi.

Mehta, “Mantık şu ki bu, kazananın her şeyi aldığı bir yarış ve ABD'nin bu yarışı kazanmasını sağlamak için yapay zekanın ilerlemesini hızlandırmak zorunlu.”

Amerika önde

Çin, bu tartışmalara ABD'nin yapay zeka alanındaki liderliğinin ve Amerikan yapay zeka şirketlerinin hakim stratejisinin dünyayı endişe verici bir sınıra doğru ittiği yönünde güçlü bir argümanla girecek.

Arenadaki her büyük ABD oyuncusu (OpenAI, Google, Antropik, Microsoft ve Meta Platformlar) yapay genel zekaya veya ortak bir tanımı olmayan bir eşik olan AGI'ye yetenekli bir model inşa eden ilk kişi olmak için yarışıyor, ancak çoğu kişi herhangi bir entelektüel insan görevini gerçekleştirmek için bir model gerektireceği konusunda hemfikir.

Yaygın teori, YGZ'ye ilk ulaşanın kendisini katlayan bir ödülü elde edeceği yönünde: kendi kendini eğitme, tekrar tekrar zekayı geliştirme, katlanarak büyüme ve tüm rakipleri arkasında bırakma.

Çinli şirketler ise tam tersine, yapay zekayı ayrı sektörlere ve sistemlere entegre etmeye, bireysel görevleri iyileştirmek ve daha özel bir yaklaşımla büyümeyi hızlandırmaya yönelik eğitim modellerine odaklanan, devlet onaylı bir strateji izliyor.

Stratejik ve Uluslararası Çalışmalar Merkezi'nde Çin iş dünyası ve ekonomisi konusunda kıdemli danışman olan Scott Kennedy, “Çinliler tek bir ırkın değil, birden fazla ırkın olduğuna inanıyor” dedi. “ABD YGZ'yi başarmaya odaklanırken, Çin yapay zekanın ekonomilerinin geri kalanına (üretim, insansı robotlar, nesnelerin internetinin tüm yönleri) yayılmasına ve uygulanmasına odaklanıyor.”

Çinli akademisyenler, yapay zeka sektörünün içerdekileri ve ardı ardına gelen yönetimler, Pekin'in stratejik düşüncesini ve açık sözlülüğünü sorguladılar.

Carnegie Endowment for International Peace'de Çin odaklı küresel teknoloji sorunları uzmanı Matt Sheehan, “Burada AGI'nin bu dönüştürücü potansiyele sahip olacağı toplum tarafından o kadar işlendi ki, insanlar Çin'in de buna odaklanmadığına inanamıyor” dedi. “Uygulamalara odaklandığını söylüyor ama bu dağlarda bir yerlerde gizlenmiş bir YGZ programının sahtesi mi?”

Ancak içeridekilerin çoğu, Pekin'in Çinli şirketlere yönelik rehberliğinin gerçek niyetini ortaya çıkardığına inanıyor.

Sullivan, “Amerika Birleşik Devletleri kadar YZG ile dolu değiller ve sanırım bugün de durum böyle” dedi ve ekledi: “Bu nedenle ABD'de aşırı sınır riski – yanlış hizalama ve kontrol kaybı – hakkındaki konuşmaların çoğunu biraz soyut olarak değerlendirdiler ve yapay zekanın Çin'de nasıl yayıldığını gördükleriyle pek alakalı değil.”

Her ne kadar Çin'in kaydettiği ilerleme ABD'nin beklentilerini aşmış olsa da – özellikle de DeepSeek'in modelini bir yıl önce piyasaya sürmesinden bu yana – devlet, YGZ'ye doğru ilerleyebilecek daha güçlü modeller geliştirmek için gereken geniş strateji yerine bilgisayar gücünü belirli uygulamalara odakladı.

Sheehan, “Bu sadece cips değil. Para da var” diye ekledi. “Çin'in önde gelen şirketleri, mali açıdan ABD şirketlerine göre çok daha kısıtlı durumda. Burada bir balonla ilgili endişeler var, ancak OpenAI'nin değeri 800 milyar dolara yakın. Halka açılan önde gelen Çinli şirketlerin değeri 20 milyar dolar. Mevcut finansmanda sadece büyüklükte bir boşluk var.”

Yine de ABD hükümetindeki bazı kişiler, Çin'in teknolojiyi toptan çalması durumunda benzer bir bilgi işlem gücüne ihtiyaç duymayacağından korkuyor.

Bunu yapmak basit değil. Ancak geçen ay, Beyaz Saray Bilim ve Teknoloji Politikası Ofisi, bir notta Çinli aktörleri “ABD sınır yapay zeka sistemlerini damıtmak için endüstriyel ölçekte kampanyalar yapmakla”, aslında mevcut en gelişmiş modellerin performansını “maliyetin çok altında bir maliyetle” kopyalamakla suçladı. Bildiride Pekin'i bu faaliyeti onaylamakla suçlamıyor.

Bu süreçte, dikkatle oluşturulmuş güvenlik protokollerinin bilinçli olarak ortadan kaldırıldığı notu eklendi.

Çin'in müzakere avantajı

Stratejik hesabı ne olursa olsun Çin, bitiş çizgisinin niteliği konusunda anlaşamasa da yarışı takip eden Trump yönetimiyle görüşmelere başlayacak.

Teorik olarak YGZ, insan anlayışının veya kontrolünün kaybıyla sonuçlanan yinelemeli bir kişisel gelişim aşamasına ulaşabilir. Ancak eğer bu eşiğe ulaşmaya çalışanlar Çinliler değil de yalnızca Amerikalılar ise, o zaman bunu durdurmaktan kim sorumlu?

Biden yönetimi sırasında Dışişleri Bakanlığı'nda yapay zeka politikasını yöneten ve Cenevre görüşmelerinde yer alan Daniel Remler, Çin'in YGZ'ye ilgisizliği ve risklerinin göz ardı edildiği yönündeki iddialarına şüphe uyandırdı. Çin'in yarışta geride kalmasının stratejik bir tasarım olmadığını söyledi.

Remler, “Çinli teknoloji uzmanları ABD yapay zeka ekosisteminin yakın gözlemcileri ve bazen ne düşündüklerini söylüyorlar” dedi. “Birçok kişi etkilendi [Mythos] umutsuzluk noktasına kadar model. Çin'in en iyi yapay zeka laboratuvarlarındaki liderler, son aylarda, hatta Mythos'tan önce bile sınırda bilgi işlem açısından ne kadar kısıtlı olduklarını dile getiriyorlardı. Bazıları Amerikalı rakiplerini asla yakalayamayacaklarını söyledi.”

Yarışın bu noktasındaki görüşmeler, Pekin'in kalkınmada ABD'nin gerisinde olduğunu iddia ettiği, sonuçta müzakere masasında bir handikap ve daha büyük tavizler sağladığı ABD-Çin diplomasisinin yakın tarihindeki tanıdık bir modeli takip edebilir.

Çin'in Dünya Ticaret Örgütü'ne girişi ve Pekin ile Obama yönetimi arasındaki siber güvenlik müzakereleri gibi diğer rekabetçi alanlarda, sonuçta Washington'un sonradan bakıldığında Amerikan şirketlerinin dezavantajlı durumda olduğuna inandığı anlaşmalara varıldı.

Remler, Trump yönetiminin “Çin'le yapay zeka diplomasisine kendi ulusal çıkarlarımıza bağlı net beklentilerle yaklaşması gerektiğini” ekledi.

Silikon Vadisi yapay zekanın düzenlenmesi konusunda bölünmüş durumda. Diğer yapay zeka şirketlerinin güvenlik ve uyum endişelerini ciddiye almadıkları endişesi üzerine kurulan Anthropic, kendi modeli olan Mythos hakkında Trump yönetimine alarm verdi ve bu, Beyaz Saray'da ileriye yönelik en iyi yol konusunda düşünmeye yol açtı.

Amerika'nın önde gelen bankalarının liderleriyle güvenlik açıkları konusunda görüştükten sonra ürken Hazine Bakanı Scott Bessent, ABD hükümetine gelecekteki model sürümleriyle ilgili dahili incelemeler tavsiyesinde bulundu; bu, “ağırlıklar” olarak bilinen modeller için eğitim parametrelerinin kamuya açıklandığı Çin'de halihazırda devam eden bir uygulamadır.

Hükümetin gözetimi önerisi bile Silikon Vadisi'nde tepkiye yol açtı. Geçtiğimiz hafta Beyaz Saray, sektördeki müttefiklere, yeni modellerin federal incelemeye sunulmasının kesinlikle gönüllülük esasına dayalı olacağı konusunda güvence vermek amacıyla bir not gönderdi.

Uzmanlar, Washington ile Pekin arasında yapay zeka konusundaki görüşmelerin eninde sonunda yeniden başlaması halinde, müzakerelerin Soğuk Savaş'ta nükleer silahları düzenleyen silah kontrol anlaşmalarıyla sonuçlanan müzakerelerden çok daha karmaşık olacağına inanıyor.

Süper güçler yalnızca küresel finansal sisteme yönelik istikrarsızlık tehditlerini değil, aynı zamanda nükleer silahların yayılmasından (gelişmiş yapay zeka araçlarının her iki ülkeyi de hedef alabilecek biyolojik veya siber silahlar kullanmakla ilgilenen kötü aktörlerin eline geçmesinden) duyulan korkuları da tartışıyor olacak.

Ve sonuçta, güvenin en düşük ve doğrulamanın en zor olduğu dünyanın en büyük düşmanları arasında neredeyse anlaşılmaz bir hedef olan yapay zekanın Çin ve ABD ordularına entegrasyonunu düzenlemeyi tartışıp tartışmayacaklarına karar vermeleri gerekecekti.

Sektörde yapay süper zekanın neler getirebileceğinden en çok korkanlar Trump yönetimine Çin ile görüşmelerin varoluşsal bir gereklilik olduğunu söylediler.

Ancak diplomasiyi savunan Anthropic'in içinde bile Pekin'in mevcut dezavantajını kullanarak Amerikan endüstrisini en büyük başarısının zirvesine çıkarabileceğine dair endişeler var.

Sektörden iki kaynak, sektör içerisindeki kişilerin tek bir kapsamlı anlaşma için baskı yapmak yerine, yönetime Pekin ile nükleer komuta ve kontrol paktı gibi belirli riskleri azaltmak için hedefli anlaşmalar yapmasını tavsiye ettiğini söyledi.

Sullivan, özel görüşmelerde hem Xi hem de Çin Dışişleri Bakanı Wang Yi'nin önlerinde gelişen teknolojinin ciddiyetinin bir tür işbirliği gerektirdiğini anlamış göründüklerini söyledi.

Sullivan, “Kavramsal düzeyde, bu konuda bir kanaatleri olduğuna ve buna izin verdiklerine inanıyorum” dedi, “ancak onların aciliyet düzeylerinin bizimkinden çok daha düşük olduğuna inanıyorum ve bunu, zamanla sonuçlanacak daha uzun vadeli bir süreç olarak gördüler.”

“Aciliyet seviyeleri ve bu konudaki payları arttı” diye ekledi.