Yüzyıllardır her önemli yeni teknolojinin ortaya çıkışı toplumu iki karşıt kampa böldü. Bir yanda sosyal ilerlemeye odaklananlar
bundan doğabilir; diğer yanda son teknolojik yeniliklerin yol açtığı riskleri vurgulayanlar.
Birkaç örnek vermek gerekirse, pek çok kişi tarafından refah ve modernliğin sembolü olarak görülen, ancak o zamanın basınında “öldürücü akım” olarak yeniden adlandırılan ve Frankenstein'a ilham kaynağı olan elektrik, 19. yüzyılda ortaya çıktı.
Mary Shelley. Benzer bir durum yine 19. yüzyılda bir yandan geleneksel yaşamın ve yerel toplulukların sonunu getirecek bir araç olarak kabul edilen trenin yaygınlaşmasıyla, diğer yandan da trenin yaygınlaşmasıyla ortaya çıktı.
dünyayı daha bağlantılı ve daha zengin hale getirme fırsatı.
Aynı şey telefon (kötümserler için kişisel ilişkileri parçalayacaktı) ya da sosyal medya (iyimserler için diktatörlükleri yenecekti) gibi yeni iletişim araçlarında da yaşandı. İyimserler ve kötümserler arasındaki bu kutuplaşma – esas olarak televizyonla ilgilenen Umberto Eco bunu yeniden adlandırdı Kıyamet ve Bütünleşik 1964'teki ünlü makalesinde her fırsatta yeniden gündeme geliyor.
Eğer durum böyleyse, 21. yüzyılın en önemli teknolojisinin yayılmasından sonra da aynı durumun yaşanması kaçınılmazdı: İşten iletişime, sanattan savaşa, sağlıktan eğitime yaşadığımız toplumun her alanını hızla dönüştüren ama dünyayı bir kez daha iki karşıt kampa bölen yapay zeka teknolojisi.
Bunu yeni bir sanayi devrimine ve yaygın bir refah çağına yol açacak dönüştürücü bir teknoloji olarak kutlayanlar var. Ve bunun yerine felaketle ilgili terimlerle konuşanlar, Frankenstein'ın canavarı gibi kontrolümüzden kaçabilecek bir enstrümanın “varoluşsal risklerini” vurgulayanlar.
Ancak bu iki varoluşsal uç arasında, “kıyamet benzeri ve entegre” yapay zekanın özel bir alt kategorisiyle karşılaşıyoruz: daha az bilim kurguya, somut ve acil potansiyele ve risklere odaklananlar. En olumsuz kamptan, “varoluşsal kıyametçiler” olarak yeniden adlandırdığımız kamptan başlayalım ve sonra tam tersi uç noktaya, ChatGpt ve kardeşlerini toplumun tüm hastalıklarına çare olarak görenlere geçelim.
Varoluşsal kıyamet
Bu kampların en felaket yanlısını, 2014 tarihli Süper Zeka makalesinde yapay zekanın gelişimiyle bağlantılı “varoluşsal riskler” konusunda alarmın yükseltilmesine herkesten daha fazla katkıda bulunan kişiden yola çıkmadan analiz etmek imkansızdır: İsveçli filozof, uzun süredir Oxford'da profesör olan Nick Bostrom. Onun “ataş paradoksu”, önemli sorumlulukları gelişmiş yapay zekalara emanet etmeye karar verirsek nelerin ters gidebileceğinin muhtemelen en iyi bilinen örneğidir. Bu düşünce deneyinde Bostrom, yapay zekadan mümkün olduğu kadar çok ataç üretmesini istediğini hayal ediyor. Yapay zeka bizimle aynı değerlere sahip olmadığından (uzmanların söylediği gibi “hizalı” olmadığından), bu varsayımsal sistem gezegeni yok ederek her şeyi ataçlara dönüştürebilir ve böylece gerçek talep doğrultusunda üretimi en üst düzeye çıkarabilir. Her ne kadar gerçekçi olmasa da, yapay zekanın insan kontrolünden kaçacak kadar güçlü tehlikeleri anlatıldığında Bostrom'un paradoksu dile getiriliyor. Tartışmalı filozofa göre yapay zeka, çevre krizinden daha büyük bir riski temsil ediyor: Örneğin 2019'da şöyle açıklamıştı: “İklim değişikliğinin iyi bir şey getirmesi pek olası değil, ancak yapay zekanın gelişimi ters giderse çok daha kötü olacak.” Nick Bostrom'un kehanetlerini son derece ciddiye alan kişi, yapay zekayı geliştirmenin “şeytanı çağırmak” gibi bir şey olduğunu söyleyen Güney Afrikalı girişimci ElonMusk'tur: “Pentagramlarla silahlanmış, kutsal su ve yani şeytanı kontrol altında tutmaya mı çalışıyoruz? Birkaç yıl önce bir konferansta şöyle açıklamıştı: Yapay zekaların doğasında olan kontrol edilemezlik, daha az bilim kurgu potansiyeline ve risklere, daha fazla Musk'a odaklandıkları için onları atom bombalarından daha da tehlikeli kılıyor. Elon Musk'un, alarmlarına rağmen, Grok chatbot'unu geliştiren X.AI şirketinin başında olması ilginç. Bostrom ve Musk'ın korkuları, yalnızca içinde bulunduğumuz teknolojinin olumlu taraflarını görenler tarafından göz ardı edilmiyor. Ama aynı zamanda kendilerinin bizi gözetleme, mahremiyet, çevresel etki, iş ve çok daha fazlası açısından yapay zekanın oluşturduğu somut risklerden uzaklaştıran bilim kurgu vizyonları olduğunu düşünenler tarafından. Varsayımsal bir süper yapay zekadan korkmamalıyız; bunun yerine şirketlerin bizi herhangi bir tedbir almadan yapay zekayı benimsemeye zorlamasından korkmalıyız. Gazeteci Brian Merchant. Makinedeki Kan Kendisini neo-Luddit olarak tanımlayan ve yapay zeka sistemlerinin gelişigüzel entegrasyonunun sosyal sonuçlarıyla uzun zamandır ilgileniyor. Merchant yakın zamanda şunları yazdı: “İş kayıplarının çoğu, yapay zekanın aslında insan emeğinin yerini alması nedeniyle değil, iş maliyetlerini düşürmek için ideolojik bir gerekçe olarak kullanılması nedeniyle meydana geliyor.” “Eğer Amazon, yapay zekasının onların yerine geçebilecek kadar gelişmiş olduğunu iddia ederek 30.000 işçiyi kovarsa, yatırımcılar, Amazon'un işe yaramaz hale gelebilecek veri merkezlerini genişletmeye çok fazla yatırım yaptığı için maliyetleri düşürmesi gerektiğini kabul etmesinden çok daha mutlu olacaktır.” Nüfusun gözetlenmesi ve mahremiyetin ihlali, BT araştırmacısı ve mesajlaşma platformu Signal'i yöneten kar amacı gütmeyen kuruluşun başkanı Meredith Whittaker'ı en çok endişelendiriyor. Korkuları yapay zeka ajanlarının son zamanlarda yayılmasına odaklanıyor: “Ajanların vaat ettiklerini yerine getirebilmeleri için – e-postalarınızı özetlemeleri veya paranızı harcamaları – dijital yaşamınıza neredeyse tam erişime sahip olmaları gerekiyor. Tarayıcı geçmişiniz, kredi kartı bilgileriniz, özel mesajlarınız veya konumunuz, “bağlam” adı verilen bulanık bilgi yığınında biriken yapay zeka için yakıt olmaya mahkumdur. Riskler zaten açık: Araştırmacılar, yapay zeka ajanlarının erişebildikleri hassas verileri ifşa etmek için kandırılabileceğini veya bilgisayar korsanları tarafından kötü niyetli eylemler gerçekleştirmeleri için kandırılabileceğini gösterdi. Basitçe söylemek gerekirse, yapay zeka ajanları mahremiyet ve güvenliğin ortadan kaldırılmasına yol açıyor,” diye yazdı Whittaker yakın zamanda dergide yayınlanan bir başyazıdaİktisatçı. Ancak her şeyin ters gitmesi şart değil. Yapay zekanın etkisi aynı zamanda çok büyük faydalar da sağlayabilir. Örneğin Fei Fei Li şöyle düşünüyor: Stanford'da Çinli bir bilgisayar bilimi profesörü ve 2000'li yılların başında yapay zeka sistemlerinin ilerlemesine en çok katkıda bulunan kişiler arasında. Son zamanlarda dikkati sağlık gibi temel bir alanda yapay zeka sistemlerinin faydalarına odaklandı: “Hastaların yeterli ve zamanında bakım almasını sağlamamız gerekiyor ancak yeterli tıbbi personel yok. Bu da beni yapay zekanın tedaviyi destekleyebileceğini düşünmeye yöneltiyor: gözlemleme, dinleme, öncelik belirleme ve tehlikeleri uyarma. Yapay zeka, duruma bağlı olarak, düşmek üzere olan bir hastayı izleyen ve hemşireleri uyaran bir çift göz olabilir. Test sonuçlarını sürekli kontrol eden bir yazılım olabilir. Hasta sorularını yanıtlayan bir konuşma sistemi veya yazılımı olabilir. Sağlık hizmetleri ve bilimsel araştırmalar, yapay zekanın son yıllarda gerçekten muazzam bir potansiyel gösterdiği alanlardan biridir. Bu, özellikle Google DeepMind tarafından geliştirilen, proteinlerin üç boyutlu yapısını tahmin edebilen ve yeni ilaçların ve hedefe yönelik tedavilerin geliştirilmesini hızlandırabilen AlphaFold algoritmasıyla kanıtlanmıştır. Ancak sağlık hizmetleri, yapay zekanın katkıda bulunabileceği alanlardan yalnızca biridir. Diğerleri, bu araçların enerji tüketimini optimize etme, enerji tüketimini azaltma, enerji tüketimini azaltma ve enerji tüketimini optimize etme potansiyeline dikkat çekiyor. Su israfı, daha verimli malzemelerin belirlenmesi, bürokrasiyi kolaylaştırmak ve çok daha fazlası. Yapay zeka, “beton entegre sistemler” için topluma o kadar çok alanda yardımcı olabilir ki, derin öğrenmenin öncüsü Andrew Ng, bunu elektrikle karşılaştırdı: “Elektrik kullanımı dünyayı değiştirdi. Yapay zeka, yüz yıl önce neredeyse her şeyi dönüştürdüğü gibi, bugün de yapay zekanın önümüzdeki birkaç yıl içinde dönüştürmeyeceği bir sektör düşünmekte zorlanıyorum.” bir röportajda açıkladı. Peki gelişiminin kontrolümüzden kaçması riskleri? Bu, Andrew Ng'nin 2015'teki ünlü açıklamasında şu şekilde göz ardı ettiği bir korku: “Olası kötü bir yapay zeka hakkında endişelenmek, Mars'a ayak basmadan önce aşırı nüfus hakkında endişelenmek gibidir.” Ve son olarak, yapay zekanın dünyayı kurtaracağına ve bizi sonsuz bir refah çağına yansıtacağına inanan insanlar var. Bu bir abartı değil ama OpenAI kurucusu Sam Altman'ın 2024'teki bir gönderisinde tam olarak belirttiği gibi: “Zeka Çağı, muazzam kapsamlı bir gelişmedir. Geleceğin o kadar parlak olacağına inanıyorum ki, hiç kimse onu bugün tanımlamaya çalışarak hakkını veremez: Bununla birlikte, belirleyici özelliklerden biri muazzam refah olacaktır. Yavaş yavaş gelseler bile, iklim değişikliğini yenmek ve fiziği çözmek gibi şaşırtıcı buluşlar eninde sonunda sıradan gerçekler haline gelecek. Neredeyse sınırsız zeka ve bol enerjiyle, harika fikirler üretme ve bunları hayata geçirme yeteneğiyle çok şey yapabiliriz.” Çok güçlü yatırımcı Marc Andreessen (Mosaic'in geliştiricileri arasında) 2023 Tekno-iyimser Manifestosu'nda pek farklı şeyler desteklemiyordu: “Yapay zekanın bizim simyamız, Felsefe Taşımız olduğuna inanıyoruz: yapay zeka evrensel bir sorun çözücü olarak görülmelidir. Ve çözmemiz gereken sorun sıkıntısı yok. İnanıyoruz ki” Yapay zekanın gelişimindeki herhangi bir yavaşlamanın hayatlara mal olacağı, var olmasına izin verilmeyen bir yapay zekanın önleyebileceği ölümlerin bir anlamda cinayet olduğu.” Sam Altman ve Marc Andreessen'in ütopik vizyonlarına göre yapay zekanın gelişmesi, tüm insanlık için refah ve mutluluk çağını beraberinde getirecek. Hatta haklı olabilirler. Peki onların, “entegre varoluşçular”da sıklıkla olduğu gibi, tam da bu alanda muazzam ekonomik çıkarlara sahip olmaları bir tesadüf müdür?
Bir yanıt yazın