Dinleyecek biri varsa yapay zeka için bir yol haritası

Washington'un Anthropic'ten ayrılması, yapay zekayı yöneten tutarlı kuralların tamamen yokluğunu açığa çıkarırken, iki partili bir düşünürler koalisyonu, hükümetin şimdiye kadar üretmeyi reddettiği bir şeyi bir araya getirdi: sorumlu yapay zeka gelişiminin gerçekte nasıl görünmesi gerektiğine dair bir çerçeve.

İnsan Yanlısı Deklarasyon, geçen haftaki Pentagon-Antropik çekişmeden önce sonuçlandırıldı, ancak iki olayın çarpışması olaya dahil olan hiç kimse tarafından gözden kaçırılmadı.

Çalışmanın organize edilmesine yardımcı olan MIT fizikçisi ve yapay zeka araştırmacısı Max Tegmark, bu editörle yaptığı görüşmede, “Sadece son dört ayda Amerika'da oldukça dikkat çekici bir şey oldu” dedi. “Aniden oy verme [is showing] Amerikalıların yüzde 95'i süper zekaya karşı düzenlenmemiş bir yarışa karşı çıkıyor.”

Yüzlerce uzman, eski yetkili ve tanınmış şahsiyetin imzaladığı yeni yayınlanan belge, insanlığın bir yol ayrımında olduğuna dair saçma sapan bir gözlemle açılıyor. Bildirgenin “yerini değiştirme yarışı” olarak adlandırdığı yollardan biri, gücün hesap sorulamayan kurumlara ve onların makinelerine tahakkuk etmesiyle, insanların önce işçiler, sonra da karar vericiler olarak yerini almasına yol açıyor. Diğeri ise insan potansiyelini büyük ölçüde genişleten yapay zekaya yol açıyor.

İkinci senaryo beş temel dayanağa dayanıyor: İnsanları kontrolün elinde tutmak, gücün yoğunlaşmasını önlemek, insan deneyimini korumak, bireysel özgürlüğü korumak ve yapay zeka şirketlerini yasal olarak sorumlu tutmak. Daha güçlü hükümleri arasında, güvenli bir şekilde yapılabileceği ve gerçek demokratik katılımın sağlanabileceği konusunda bilimsel bir fikir birliğine varılıncaya kadar süper istihbarat gelişiminin doğrudan yasaklanması yer alıyor; güçlü sistemlerde zorunlu kapatma anahtarları; ve kendi kendini kopyalayabilen, otonom olarak kendini geliştirebilen veya kapanmaya direnebilen mimarilere yönelik bir yasak.

Bildirgenin yayınlanması, aciliyetinin anlaşılmasının çok daha kolay olduğu bir döneme denk geliyor. Şubat ayının son Cuma günü, Savunma Bakanı Pete Hegseth, şirketin Pentagon'a teknolojisini sınırsız olarak kullanma izni vermeyi reddetmesinin ardından, yapay zekası halihazırda gizli askeri platformlarda çalışan Anthropic'i bir “tedarik zinciri riski” olarak tanımladı; bu etiket normalde Çin ile bağlantısı olan firmalara ayrılmıştı. Saatler sonra OpenAI, Savunma Bakanlığı ile kendi anlaşmasını imzaladı; hukuk uzmanları bunun anlamlı bir şekilde uygulanmasının zor olacağını söylüyor. Tüm bunların açıkça ortaya koyduğu şey, Kongre'nin yapay zeka konusunda eylemsizliğinin ne kadar maliyetli hale geldiğidir.

Foundation for American Innovation'ın kıdemli üyelerinden Dean Ball'un daha sonra New York Times'a söylediği gibi, “Bu sadece bir sözleşmeyle ilgili bir anlaşmazlık değil. Bu, ülke olarak yapay zeka sistemleri üzerindeki kontrol konusunda yaptığımız ilk konuşma.”

Tegmark konuştuğumuzda çoğu insanın anlayabileceği bir benzetme yaptı. “İnsanlar onu nasıl güvenli hale getireceklerini bulmadan önce bazı ilaç şirketlerinin büyük zarara neden olan başka bir ilacı piyasaya süreceğinden asla endişelenmenize gerek yok” dedi, “çünkü FDA yeterince güvenli olana kadar hiçbir şeyi piyasaya sürmelerine izin vermeyecek.”

Washington'daki bölge savaşları nadiren yasaları değiştiren türden bir kamuoyu baskısına neden olur. Bunun yerine Tegmark, çocuk güvenliğini mevcut çıkmazı çözebilecek en muhtemel baskı noktası olarak görüyor. Gerçekten de deklarasyon, intihar düşüncesinin artması, zihinsel sağlık koşullarının kötüleşmesi ve duygusal manipülasyon gibi riskleri kapsayan yapay zeka ürünlerinin (özellikle genç kullanıcılara yönelik sohbet robotları ve yardımcı uygulamalar) zorunlu dağıtım öncesi testlerinin yapılması çağrısında bulunuyor.

Tegmark, “Eğer tüyler ürpertici yaşlı bir adam, genç kız gibi davranan 11 yaşındaki bir çocuğa mesaj atıyor ve bu çocuğu intihara ikna etmeye çalışıyorsa, adam bunun için hapse girebilir” dedi. “Zaten yasalarımız var. Bu yasa dışı. Peki bunu bir makine yapıyorsa neden farklı olsun?”

Çocuk ürünlerine yönelik yayın öncesi test ilkesi oluşturulduktan sonra kapsamın neredeyse kaçınılmaz olarak genişleyeceğine inanıyor. “İnsanlar gelip şöyle diyecekler: Hadi birkaç gereksinim daha ekleyelim. Belki bunun teröristlerin biyolojik silah yapmasına yardımcı olamayacağını da test etmeliyiz. Belki de süper istihbaratın ABD hükümetini devirme yeteneğine sahip olmadığından emin olmak için test yapmalıyız.”

Eski Trump danışmanı Steve Bannon ve Başkan Obama'nın Ulusal Güvenlik Danışmanı Susan Rice'ın, eski Genelkurmay Başkanı Mike Mullen ve ilerici inanç liderleriyle birlikte aynı belgeyi imzalaması küçümsenecek bir şey değil.

Tegmark, “Elbette hepsinin insan olduğu konusunda hemfikir” diyor. “Eğer konu insanlar için mi yoksa makineler için mi bir gelecek istediğimize gelecek olursa, elbette onlar da aynı tarafta olacak.”