Demis Hassabis'in yapay zekayı güvenli bir şekilde kullanma planı var (HT Tech)

Sir Demis geçmişte yapay zeka düzenlemesi için tekliflerin taslağını çizmişti. 14 Temmuz'da internette yayınlanan ve The Economist'le yapılan bir röportajda ayrıntılarıyla açıklanan son girişimi daha somut. Amerikan hükümetinin, yeni yapay zeka modellerinin piyasaya sürülmeden önce güvenliğini test edecek bir sistem geliştirmesi gerektiğini söylüyor. “Bunun sadece bir endüstri kuruluşu olmaması önemli” diye ekliyor. Ancak normal bir devlet kurumu da bunu yapmaz. “Yeterince hızlı hareket edemez veya doğru kaynaklara sahip olamaz.” Bunun yerine Sir Demis, Amerika'da brokerleri ve borsaları düzenleyen özel bir kurum olan Finansal Endüstri Düzenleme Otoritesi FINRA'dan ilham almayı öneriyor.

Pragmatik bir öneri. Bazı akranlarının hâlâ ilk önce uluslararası konsensüs oluşturma yönündeki iyimser umutları sona erdi: Amerika'nın öncülük etmesi gerektiğini söylüyor. Anlaşmaya gerek yok çünkü diğer ülkeler Amerikan teknolojisine ve geniş Amerikan pazarına erişimi sürdürmek için sıraya girecek. Bir gün bu durum Çin'e kadar uzanabilir ve güvenlik konusunda dibe doğru giden bir yarışın önlenmesine yardımcı olabilir. Sir Demis, programın başlangıçta model yapımcıları için gönüllü olması gerektiğini düşünse de, sonunda zorunlu hale gelmesi bekleniyor. Örneğin FINRA'nın devlet tarafından kendisine devredilen sıkı uygulama yetkileri vardır.

Sir Demis'in yaklaşımı, bu ayın başlarında Financial Times'da bir köşe yazısı yazan OpenAI'nin patronu Sam Altman'ın önerdiğinden farklı. Her iki adam da yeni gözetim organının işinin standartlar oluşturmak, riskleri analiz etmek ve yalnızca davaya katılan ülkelerin en son teknolojiye sahip yapay zekaya erişim kazanmasını sağlamak olacağı konusunda hemfikir. Ancak Bay Altman, Amerika tarafından koordine edilse de uluslararası bir çaba çağrısında bulundu. Her iki öneri de yakın zamanda Fransa'da yapılan G7 zirvesinde dünya liderlerine sunuldu.

Sör Demis'in yeni teklifi, yapay zeka kodamanlarından gelen en ayrıntılı teklif. Şu ana kadar sektörün üst düzey isimleri, düzenleyici kurumları sıfırdan tasarlamak yerine soyut kurallar talep etme konusunda daha rahat davrandılar. Sir Demis ise tam tersine pek çok pratik ayrıntıyı değerlendirdi. Yeni ajansın endüstri tarafından finanse edilmesi gerektiğini ve acil dikkatinin çoğunun yetenekli bir ekibin işe alınmasına yönlendirileceğini (Amerika ve Britanya'dakiler gibi mevcut yapay zeka güvenlik kurumları kısa vadede destek sunabilir) söyledi.

Sir Demis, yeni ajansın en yetenekli yapay zeka modellerini (kendisininki de dahil) üreten laboratuvarlara odaklanması gerektiğini öne sürüyor. Amerika ve Avrupa Birliği'nin daha önceki önerilerinde, gözetimin gerekli olduğu durumlar için kaba bir kılavuz olarak bir modeli eğitmek için kullanılan bilgi işlem gücü miktarına bakılıyordu. Sir Demis bunun yerine, seçilen bir dizi kıyaslamada belirli eşikleri karşılamaları durumunda yapay zeka modellerinin “sınır” olarak belirlenmesini öneriyor. Bu modellerin yaratıcıları daha sonra “sınır laboratuvarları” olarak belirlenecek ve onlara ekstra sorumluluklar yüklenecek. Sir Demis, yaklaşımın akademik veya açık kaynaklı modellerin dahil edilip edilmeyeceği sorusunu atlatan “zarif” yöntemiyle gurur duyuyor. Önemli olan yetenekleridir.

Doğru kriterlerin seçilmesi yeni ajansın önemli bir işlevi olacaktır. Yapay zeka modellerine yönelik mevcut testler, büyük ölçüde yazılım kodlama ve genel bilgi de dahil olmak üzere ticari yeteneklere odaklanıyor. Bazı kuruluşlar daha da ileri gitti: Örneğin Britanya'nın Yapay Zeka Güvenlik Enstitüsü, bir elektrik santraline izinsiz girmeyi simüle eden, bilgisayar korsanlığı yetenekleri için saygın bir test geliştirdi. Ancak bir modelin kullanıcının talimatlarını göz ardı etme veya olduğundan daha az yetenekliymiş gibi davranma konusunda ne kadar istekli olduğu gibi diğer özellikler, bir güvenlik eşiği belirlemek için kullanılabilecek sistematik bir şekilde nadiren incelenir.

Her ne kadar Bay Altman'ın teklifiyle ortak noktalar bunun imkansız olmadığını gösterse de, giderek daha kırılgan hale gelen yapay zeka topluluğundan destek almak kolay olmayacak. Amerikan hükümeti de dinliyor gibi görünüyor ve tercih ettiği yaklaşımı açıklamaya yakın olduğu söyleniyor. Daha sonra işin zor kısmı gelecek. Sir Demis, “Hiçbir teklifin kötü bir şekilde uygulanmaya karşı bağışıklığı olamaz” diye itiraf ediyor. “Bunun çok kullanışlı olmayabilecek versiyonları olduğu açık.”

Ancak Nobel ödülü sahibi, acil eylemin gerekli olduğunu savunuyor. “Vakit kısa, saat geç” diyor. “Siber tehdidi gördük; çok daha ciddi tehditler yolda. Bir şeyler yapılması gerekiyor: artık zamanı geldi.”

Ticareti, endüstriyi ve teknolojiyi şekillendiren trendleri takip etmek için küresel ticaretle ilgili yalnızca abonelere özel haftalık bültenimiz “The Bottom Line”a kaydolun.