Yapay zekayı yönetmek için BM masasına oturan İtalyan

Kırk bağımsız uzman Birleşmiş Milletler Genel Sekreteri'nin çağrısıyla dünyanın her köşesinden üniversitelerden, teknoloji şirketlerinden ve insani yardım kuruluşlarından gelenler Antonio Guterres önümüzdeki üç yıl içinde bir Yapay zeka yönetimi için küresel çerçeve. Bunların arasında var tek bir İtalyan: Silvio Savarese, Napoli'de doğan bilgisayar bilimci, Federico II'den mezun oldu, California Teknoloji Enstitüsü'nden elektronik mühendisliği alanında doktora derecesine sahip, bugün Stanford'da profesör ve Salesforce Yapay Zeka Araştırmaları'nın İdari Başkan Yardımcısı ve Baş Bilimcisi. 2024 yılında listeye girmişti Zaman Yapay zeka alanında en etkili 100 kişiden biri. Şimdi İtalya'yı temsilen şu anın en önemli masasında oturuyor: yapay zekanın gezegen düzeyinde nasıl yönetilmesi gerektiğine karar verilen masa.

“ABD'yi değil İtalya'yı temsil ediyorum”

Savarese, adaylığın aynı zamanda somut bir kurumsal boyutu da beraberinde getirdiğini açıklıyor. «Doktorla zaten iletişim halindeyim Alessandro De PetisDışişleri Bakanlığı bilgi teknolojisi ve teknolojik inovasyondan sorumlu genel müdür” diyor. “Bakanlık, Birleşmiş Milletler'in yapay zeka yönetimi çerçevesi olan Küresel Dijital İlkeler Sözleşmesi'nin kabul edilmesine zaten katkıda bulundu. Bu konularda işbirliği yapabildiğim için mutluyum”. Panel halihazırda tematik alt gruplara ayrılarak çalışmaya başladı: Yapay zeka biliminin evrimi ve gelecekteki yörüngeleri, sağlık ve eğitim sektörlerindeki sosyal uygulamalar, ekonomik etkiler çalışma ve üretkenlik konularında güvenlik ve çevresel etkiBen insan haklarıdemokrasi ve bilgi, kültürel gelişim ve bireysel özerklik. Savarese özellikle dijital temsilciler konusuna odaklanacak – ana araştırma alanı Satış gücü — ve bu otonom sistemlerin otomasyon, insan muhakemesi ve sorumluluk arasındaki ilişkiyi nasıl yeniden tanımladığı.

Kongre

Marc Benioff: “Ajan devrimi başladı. Yapay zeka insanları yükseltir, onların yerini almaz”

kaydeden Eleonora Chioda

15 Ekim 2025

“Katkım esas olarak şirketlerdeki ve toplumdaki yapay zeka ajanlarının geleceğiyle ilgili olacak” diye açıklıyor. «Nasıl çalışacaklar, insanlarla nasıl etkileşime girecekler, kendi yetenekleri açısından birbirlerini nasıl tamamlayacaklar. Ve son olarak otomasyon, muhakeme ve sorumluluk arasındaki dengenin nasıl tanımlanacağı.”

Henüz adı konamayan sorun

Savarese ayrıca yakın zamanda yayınlanan bir makalede bu konulara değindi. FallarSalesforce Baş Hukuk Sorumlusu Sebastian Niles ile birlikte yazılmıştır. Başlangıç ​​noktası tarihsel bir metafordur: 1832 tarihli Londra Bankacılar Takas Odası, rakip bankaların günlük ticaretlerini merkezi bir otoriteye dayanmadan, itibar, karşılıklılık ve kayıtlı kimlik yoluyla düzenlemeyi başardıkları sistem. Bir güven mimarisiteknik bir sistemden önce bile.

Savarese, bugün benzer bir dönüm noktasında olduğumuzu ancak çok daha karmaşık bir durumda olduğumuzu öne sürüyor. Makalede şöyle yazıyor: “Yapay zeka ajanlarının doğrudan insan denetimi olmadan şirketler, sektörler ve ulusal sınırlar arasında günde binlerce kez müzakere yapacağı bir döneme girmek üzereyiz.” «Teknik protokoller oluşturuluyor. Henüz kimse tarafından inşa edilmemiş olan şey, rakip yapay beyinler arasında müzakereyi mümkün kılan güven mimarisidir.” Sorun, göründüğünden daha incelikli. Mevcut dil modelleri, yardımcı, uzlaşmacı ve konuşkan olacak şekilde eğitildi. Bir müzakerede bir tutum sergilemek, stratejik tavizin sonuçlarını değerlendirmek veya başarısız bir müzakerenin ne zaman gerçek bir ekonomik kayıpla sonuçlanabileceğini anlamak için değil. Savarese, “Günümüzün modelleri müzakere etmek için eğitilmedi” diyor. niyetleri okumak, bağlamı değerlendirmek, tehlikede olan şeyin ağırlığını anlamak ve ajanlar arasındaki müzakerenin gerektirdiği şey tam olarak budur.”

Savarese ve ekibinin test sırasında gözlemlediği somut bir örnek: Her ikisi de işbirlikçi olmaya programlanmış iki ajan, araştırmacıların “yankılama davranışı” dediği aşırı uyum döngüsüne girebilir. Bir çift ayakkabının iadesini yapması gereken temsilci, karşı tarafla tüketicinin ayakkabıyı saklaması, iade ücreti ödemesi ve belki de ikinci bir çift alması konusunda anlaşmaya varır. Ayakkabılarla eğlence. Sağlık hizmetleri izinleri veya tedarik sözleşmeleri nedeniyle potansiyel olarak yıkıcı.

Yapay zeka ve eşitsizlik: kaçınılmaz bir risk değil, bir fırsat

Guterres'in paneli başlatırken belirttiği misyon açıktı: Yapay zekanın gelişmiş ve gelişmekte olan ülkeler arasındaki uçurumları genişletmek yerine kapatmasını sağlamak. Bu konuda Savarese'nin kesin ve orta derecede iyimser bir vizyonu var. “Yapay zeka eğitim için çok güçlü araçlar sağlıyor” diye açıklıyor. «Planlama, hafıza ve bu sistemlerin işleyebileceği muazzam miktardaki bilgiden yararlanarak son derece kişiselleştirilmiş öğrenme yolları oluşturabilir. Aksi takdirde kaliteli eğitim kaynaklarına erişimin sınırlı olacağı bağlamlarda beceri gelişimini hızlandırabilir.”

Birkaç büyük şirketin elinde yoğunlaşan “seçkin” bir teknolojinin riskine karşı Savarese doğrudan şunları söylüyor: “Yapay zekanın bir azınlığın teknolojisi olarak kalmaya mahkum olduğunu düşünmüyorum. Halihazırda hızlı bir maliyet düşüşü görüyoruz; birçok iyi dil modeli açık kaynak haline geldi veya uygun fiyatlarla sunuluyor. Biraz internette, sonra cep telefonlarında olana benziyor: Başlangıçta sınırlı bir alana ayrılmış gibi görünen, daha sonra milyarlarca insanın günlük yaşamının bir parçası haline gelen teknolojiler.»Bu, gerilimleri görmezden gelmek anlamına gelmiyor. “Kesinlikle son teknoloji gelişmeler büyük oyunculara fayda sağlıyor” diye itiraf ediyor. «Fakat şirketlerin çıkarı bu hizmetleri güvenilir ve kullanışlı kılmak, kullanıcılara değer kazandırmaktır. Çıkarlar uyumlu.” Bu anlamda panel, tam da bu çıkarların küresel düzeyde ortak bir buluşma noktası bulabileceği çerçeveyi oluşturmaya hizmet ediyor.

Merkezdeki adam her zaman

Savarese'nin bir noktada hiç şüphesi yok ve bunu açıkça yineliyor: Ne kadar güçlü olursa olsun, Yapay zeka hazır değil – ve kısa vadede hazır olmayacak – özerk kararlar almak gerçekten önemli olan durumlarda. “Potansiyel olarak geri dönüşü olmayan kararlar alınması gerektiğinde, kontrolün insanların elinde olması gerekiyor” diyor. «Yapay zeka tavsiyeler, göstergeler ve öneriler sağlayabilir. Ancak son karar insana kalmış.” Bahsettiği sınırlar sadece teknik değil: “Yapay zeka çoğu zaman sağduyuyu hesaba katmıyor, ahlaki yönleri yakalayamıyor. Karmaşık sonuçları olan kararlar şu anda yapay zekaya verilemez. Ve önümüzdeki beş ila on yıl içinde o noktaya ulaşacağımızı sanmıyorum.” Savarese'ye göre yapay zekanın muazzam bir potansiyele sahip olduğu ancak aynı zamanda yapısal sınırlara sahip olduğu konusundaki bu farkındalık, panelin çalışmasının temellerinden biri. “Tartışmada sadece yapay zekanın neler yapabileceğini kutlamak değil, aynı zamanda sınırlamalarını da vurgulamak önemlidir. Yapay zekanın bilinçli kullanımı tam olarak bu sınırların anlaşılmasından geçer. Aksi takdirde henüz hazır olmadığı görevleri ona emanet etme riskiyle karşı karşıya kalırsınız.”

Röportaj

San Francisco'nun teknoloji rönesansı

kaydeden Eleonora Chioda

24 Ekim 2025

Geleceğin kurallarını yazmak için üç yıl

Panel üç yıl sürecek. Amaç bağlayıcı bir anlaşma üretmek değil, belki de inşa edilmesi daha zor bir şey: Yapay zekanın uluslararası düzeyde yönetimine rehberlik edebilecek, tamamen farklı geçmişlere sahip sesler (teknisyenler, hukukçular, etikçiler, insani yardım kuruluşlarının temsilcileri) tarafından geliştirilen bir dizi ortak öneri. Savarese, “Amacımız, çeşitli bakış açılarının bir sentezini yapmaktır” diyor. «Farklı açıları dikkate alan ve daha sonra kuruluşlar ve hükümetler için somut yönergelere dönüştürülebilecek tutarlı bir mesaj ortaya çıkarın». Stanford'da bir ayağı akademik araştırmalarda, diğer ayağı Silikon Vadisi'nde olan bir İtalyan için bu sorumluluğun ağırlığı ortadadır. Yapay zeka, iş, ekonomi, politika, insanlar ve kurumlar arasındaki güven gibi her şeyin kurallarını yeniden tasarlıyor. Savarese, önümüzdeki üç yıl boyunca dünyanın bunu nasıl daha iyi yapacağını anlamasına yardımcı olacak kırk kişiden biri.