Demis Hassabis'in yapay zekayı güvenli bir şekilde kullanma planı var

Sir Demis zaten yapay zekayı düzenlemek için çeşitli öneriler sunmuştu. 14 Temmuz'da internette yayınlanan ve The Economist ile özel bir röportajda geliştirilen son girişimi daha somut. Ona göre ABD hükümeti, yeni yapay zeka modellerinin lansmanına izin vermeden önce güvenliğini değerlendirecek bir sistem oluşturmalı. “Bunun sadece bir sektör organı olmaması önemli” diyor. Ancak geleneksel bir kamu kurumunun da yeterli olmayacağına inanıyor. “Yeterince hızlı hareket edemez ve gerekli kaynaklara da sahip olamaz.” Bunun yerine, borsacıları ve menkul kıymet piyasalarını denetleyen özel bir kuruluş olan Amerika Birleşik Devletleri Finansal Endüstri Düzenleme Otoritesi FINRA'dan ilham almayı öneriyor.

Bu pragmatik bir öneridir. İlk önce uluslararası bir fikir birliğine varılması konusunda bazı meslektaşlarının hala sahip olduğu en iyimser umutlar geride kaldı. Sir Demis'e göre ABD liderliği ele almalı. Kendisi, küresel bir anlaşmanın gerekli olduğunu düşünmüyor, çünkü ona göre diğer ülkeler Amerikan teknolojisine ve ABD pazarına erişimlerini korumak için uyum sağlayacaklar. Sonunda bu, güvenlik konusunda dibe doğru giden bir yarışın önlenmesine yardımcı olacak Çin'i bile kapsayabilir. Programın başlangıçta model geliştiriciler için gönüllü olması gerektiğine inansa da, sonunda zorunlu olacağını umuyor. Örneğin FINRA, Devlet tarafından devredilen geniş uygulama yetkilerine sahiptir.

Sir Demis'in yaklaşımı, OpenAI CEO'su Sam Altman'ın bu ayın başlarında Financial Times'da yayınlanan bir görüş yazısında savunduğu yaklaşımdan farklı. Her ikisi de yeni denetim organının misyonunun standartlar oluşturmak, riskleri değerlendirmek ve yalnızca bu ilkelere bağlı olan ülkelerin en son teknolojiye sahip yapay zekaya erişebilmesini sağlamak olması gerektiği konusunda hemfikir. Ancak Altman, ABD tarafından koordine edilmesine rağmen uluslararası bir çabayı savunuyor. Her iki öneri de Fransa'daki son G7 zirvesinde dünya liderlerine sunuldu.

Sir Demis'in teklifi, bugüne kadar yapay zeka sektörünün önde gelen isimlerinden birinin öne sürdüğü en ayrıntılı teklif. Bu sektörün ana liderleri, sıfırdan bir düzenleyici kurum tasarlamak yerine genel standartlar talep etmekten daha rahat olma eğilimindedir. Sir Demis ise daha pratik yönlere dikkat etti. Yeni ajansın sektörün katkılarıyla finanse edilmesi gerektiğini ve ilk önceliklerinden birinin yüksek vasıflı profesyonelleri çekmek olacağını düşünüyor. Bu arada mevcut yapay zeka güvenlik kurumları geçici destek sağlayabilir.

“Son teknoloji laboratuvarlar”

Sir Demis, yeni ajansın çalışmalarını en gelişmiş yapay zeka modellerini geliştiren laboratuvarlara odaklamasını öneriyor. Amerika Birleşik Devletleri ve Avrupa Birliği'nin önceki teklifleri, belirli bir izlemenin ne zaman gerekli olduğunu belirlemek için bir modeli eğitmek için kullanılan bilgi işlem gücünü kaba bir referans olarak kullanıyordu. Sir Demis farklı bir yaklaşım öneriyor: Bir modeli, seçilen bir dizi kıyaslama testinde belirli eşikleri aştığında “son teknoloji” olarak sınıflandırın. Bu modellerin geliştiricileri “son teknoloji laboratuvarlar” olarak kabul edilecek ve ek sorumluluklar üstleneceklerdir. Sir Demis, akademik veya açık kaynaklı modellerin dahil edilmesi veya hariç tutulması gerektiği konusundaki tartışmayı önlediği için bu yaklaşımın “zarif” doğasını vurguluyor. Gerçekten önemli olan yeteneklerinizdir.

Uygun değerlendirme kriterlerinin seçimi yeni ajansın temel sorumluluklarından birini oluşturacaktır. Şu anda yapay zeka modellerinin testleri öncelikle programlama veya genel bilgi gibi ticari olarak ilgili yeteneklere odaklanıyor. Bazı kuruluşlar daha da ileri gitti: Örneğin Birleşik Krallık'taki Yapay Zeka Güvenlik Enstitüsü, bir elektrik santraline izinsiz giriş girişimini simüle eden, saygın bir siber saldırı yetenekleri testine sahiptir. Bununla birlikte, bir modelin talimatları göz ardı etme veya gerçekte olduğundan daha az yetenekliymiş gibi davranma isteği gibi diğer özellikler nadiren sistematik olarak değerlendirilir ve güvenlik eşiklerinin oluşturulmasına izin vermez.

Giderek bölünmüş bir yapay zeka topluluğunun desteğini kazanmak kolay olmayacak, ancak Altman'ın önerisiyle benzerlikler bunun ulaşılamaz bir hedef olmadığını gösteriyor. Dahası, ABD hükümeti bunu dikkate almış gibi görünüyor ve tercih ettiği yaklaşımı sunmak üzere olduğu bildiriliyor.

Sonra en karmaşık kısım geliyor. Sir Demis, “Hiçbir teklif kötü uygulamadan güvenli değildir” diye kabul ediyor. “Açıkçası bunun özellikle yararlı olmayabilecek versiyonları var.”

Yine de hızlı hareket etmenin acil bir ihtiyaç olduğu konusunda ısrar ediyor. «Zaman kısa; Zaten geç kaldık. Siber tehdidi gördük ve çok daha ciddi tehditler geliyor. Bir şeyler yapılmalı: Artık zamanı geldi.