Yapay zeka araştırmacısı uyarıyor: “Tüm testler alarm veriyor, sirenler çalıyor. Ve biz bunu görmezden geliyoruz”

İngiliz bilgisayar bilimcisi Stuart Russell, yapay zekanın varoluşsal tehlikeleri konusunda uyarıyor. 50 yıldır yapay zeka sistemlerini araştıran ve teknolojinin ebelerinden biri olan Russell, insanlığın teknoloji üzerindeki kontrolünü kaybetme sürecinde olduğunu söylüyor. “İnsanlık kötü durumda. Tüm testler alarm veriyor, sirenler çalıyor. Ve biz bunu görmezden geliyoruz. Bu delilik” dedi “Spiegel” ile yaptığı röportajda.

Bugün bile Silikon Vadisi'ndeki yapay zeka geliştiricileri, süper sistemlerinin hangi hedeflere sahip olduğunu ve bunlara nasıl ulaşmayı planladıklarını artık bilmiyorlar. Russell, Spiegel'e “Ne 'düşündüklerini' bilmiyoruz. Tam olarak nasıl çalıştıklarını bile anlamıyoruz” dedi. Aslında insanlardan daha yetenekli sistemler ortaya çıktığı anda, “biz insanların artık söz hakkı yok.”

Elbette insanlık kontrolü kaybettiğini hissettiği anda yapay zekayı kapatmaya çalışacak. “Soru, makinelerin bize hâlâ izin verip vermeyeceğidir. Eğer onları kapatmak istediğimizi fark ederlerse, bunu engellemek için her türlü nedenleri var. Bizi yok etmeleri gerekiyor. Dolayısıyla süper zekayı kendi çıkarlarımıza uyarlamadan, anlamadan, güvenlik garantileri olmadan geliştirmeye devam edersek, o zaman kontrolü kaybedeceğimizi düşünüyorum.”

Kaliforniya'daki elit Berkeley Üniversitesi'nde araştırma yapan ve dünyadaki en tanınmış yapay zeka uzmanlarından biri olan Russell'a göre, bilgisayarlar büyük ihtimalle bir noktada insanlıkla bir çatışmanın olacağını öngörüyor. Russell, bu gerçekleştiğinde “birçok şekilde çoğalacaklar, milyonlarca kez kopyalayacaklar” diyor.

“Yapay zeka, Hitler'in yaptığını daha hızlı, daha iyi ve daha etkili bir şekilde yapabilirdi”

“Sadece internete erişim bile onlara insan davranışları üzerinde Adolf Hitler'in sahip olduğundan daha fazla etki sağlıyor. Hitler aynı anda yalnızca tek bir mikrofonla konuşabiliyor, tek seferde yalnızca bir mesaj gönderebiliyordu. Yine de kitleleri kışkırtıyordu. Bu sistemler interneti doldurabilir, aynı anda beş milyar görüşme yapabilir, beş milyar bireysel insanı etkileyebilir. Hitler'in yaptığını yapay zeka daha hızlı, daha iyi ve daha etkili bir şekilde yapabilirdi.”

Bu süper yapay zeka aynı zamanda bugün dünya çapında kullanımda olan milyonlarca robot aracılığıyla fiziksel dünyaya da erişim sağlıyor. Russell, yarı otonom silah sistemlerine nüfuz edebileceğini veya biyolojik laboratuarları kontrol edebileceğini söyledi. Bunu önlemek için henüz geç değil. Ancak bunun için teknolojinin bir an önce yasal düzenlemeye tabi tutulması gerekiyor. Ayrıca tek amacı “insan çıkarlarını desteklemek” olan bir yapay zeka. Russell, bunun gibi bir şeyin kurulmasının “kolaylıkla on yıl alabileceğini” söylüyor. Bu nedenle teknoloji konusunda bir kalkınma moratoryumuna ihtiyaç var. “Bir nevi duraklama tuşuna bastık ve güvenlik üzerinde çalıştık.” Russell'a göre bu, insanlığın varlığını güvence altına alması için tek şans. “Uzun vadede yalnızca üç gelecek var: güvenli yapay zeka, yapay zekanın olmaması veya insanların olmaması.”