Birleşmiş Milletler'den önce 22 Eylül Pazartesi günü yapay zeka için gardiyan tanımlamak isteyen yeni bir açık mektup başlatıldı. Etkileyici imzacı listesine rağmen, önceki çağrılar veya girişimlerle aynı kaderi biliyor mu, hepsi kaybediyor … sadece bir fare mi?
2026 yılının sonundan önce yapay zeka (AI) için sınırlar belirlemek için yeni bir çağrı 22 Eylül Pazartesi günü Birleşmiş Milletler Genel Kurulu sırasında başlatıldı. Metin 200'den fazla kişilik ve 70 kuruluş tarafından imzalandı. Bunlar arasında, 2023'te benzer bir çağrı sırasında iki “AI sponsoru”, Geoffrey Hinton ve Yoshua Bengio'yu buluyoruz. Aynı zamanda Openai (CHATGPT'ye neden olan şirket), Google DeepMind veya Antropic, Sınır Tanımayan Gazeteciler veya Fransa Deeptech gibi kuruluşların yanı sıra eski devlet ve Avrupa milletvekillerinden IA araştırmacılarından ve yöneticilerinden biridir.
Önceki çağrılarda olduğu gibi, mektubun tonu alarmisttir. Çünkü ” Mevcut AI yörüngesinin benzeri görülmemiş tehlikeleri var “” Açık ve doğrulanabilir kırmızı çizgilerle ilgili uluslararası bir anlaşma gereklidir “, Yazarlarını tartışın. Siyasi karar -Inkerlar benimsemeli” kırmızı çizgiler »Uluslararası Bağlama 2026'nın sonunda imzacıları dövüldü. Mektup, Berkeley Üniversitesi'nin Fransız AI (Cesia), Gelecek Topluluğu ve “İnsan Uygun Yapay Zeka Merkezi” tarafından başlatıldı.
“Amaç, büyük bir olay meydana geldikten sonra tepki vermek değil”
Çağrı, geçmişte, biyolojik ve nükleer silahları yasaklayan uluslararası antlaşmalar veya insan klonlamasını gibi diğer küresel “kırmızı çizgilerin” tanımlandığını göstermektedir. AI açısından, Birleşmiş Milletler Genel Kurulu'nun bir kararı, küresel bir antlaşmanın iyi ve vadesi gelmesi için müzakerelerinden önce ilk adım olan 2026'nın sonuna kadar başlatılabilir.
Bir basın noktasında ifade edilen Fransız AI Güvenliği Merkezi'nin (Cesia) CEO'su Charbel-Raphaël Segerie için ” Amaç, büyük bir olay meydana geldikten sonra tepki vermek değil … ancak büyük ölçekli riskleri önlemek ve gerçekleşmeden önce potansiyel olarak geri döndürülemez ».
“” AI yakında pandemilerin yaratılması, büyük ölçekli dezenformasyon, ulusal ve uluslararası güvenlik, kitlesel işsizlik ve sistemik insan hakları ihlalleri gibi riskleri çoğaltabilir “Mektubun yazarlarını listeleyin. Altın,” Milletler henüz AI ile ne yapmak istediklerini kabul etmeyi başaramazsa, en azından AI'nın asla yapmaması gerektiğine katılmaları gerekir. “Dedi Charbel-Raphaël Segerie.
AI'yı düzenlemek için başka bir çağrı var mı?
Böyle bir çağrı ilk kez başlatılmamıştır. Üretken AI dalgasının başlangıcından bu yana, bu girişimler çoğaldı, en ünlü ve halka açık olan 2023'ün altı aylık moratoryum çağrısında, daha da alarmist.
Ayrıca okuyun: AI insanlık için tehlikeli mi? Elon Musk ve yüzlerce bilim adamı araştırmada bir mola istiyor
AB ve Amerika Birleşik Devletleri arasında ortak bir “davranış kuralları” kurma arzusuna, hatta bir IA anlaşması (Thierry Breton tarafından başlatılan % 100 Avrupa girişimi), sadece nadir çılgın muhafızlar kabul edildi.
Ayrıca okuyun: Davranış Kuralları, Pakt, Uluslararası Ajans … AI Multipling'i Düzenlemeye Yönelik Girişimler Nasıl
Avrupa Birliği (AB) içinde, AI üzerindeki Avrupa düzenlemesi, sosyal puanlama için AI kullanımı gibi “kabul edilemez” olarak kabul edilen bazı kullanımları yasaklamaktadır. Çin ayrıca ulusal mevzuatı da kabul etti. Washington ve Pekin arasındaki bir anlaşma, nükleer silahların AI'nın kontrolü altında değil, insan kontrolü altında kalması gerektiğini öngörüyor.
Ayrıca, AB, ABD ve Kanada da dahil olmak üzere elli ülke arasında müzakere edilen AI hakkında bir tür uluslararası insan hakları antlaşması ve demokrasisi olan en bilinmeyen “AI kadrosu” na dikkat edin. Her eyalet yine de ulusal düzeyde benimsemelidir.
Ayrıca okumak için: “AI'nın İnsan Hakları” müzakere ediliyor, onunla ilgilenmelisiniz
Kendi adına, AI sektöründeki bazı şirketler beyaz bacaklar gösterdi, bazen Amerika Birleşik Devletleri, İngiltere veya Avrupa Birliği'nde çeşitli gönüllü taahhütler imzalayarak iyi öğrenciler oynuyorlar.
Ancak, ulusal, bölgesel veya komplecül olmayan kapsamı olan bu metinlerin yanı sıra, tüm uluslararası girişimler şu an için iyi niyetli ifadelerin başlangıcı ile sınırlıdır. Ve birçok uzman için, kısıtlayıcı kurallar olmadan, bu AI yarışında başlatılan şirketler her zaman kamu güvenliğine ilişkin ticari çıkarlarını destekleyecektir.
Oluşturmak için bağımsız bir kontrol gövdesi
Güvenlik, uzmanlar tarafından gündeme getirilen tek sorun değildir. Son zamanlarda, bir AI konuşma ajanının bir gencin intiharında, hatta bir cinayette olduğu iddia edilen rolü, bu teknolojinin ruh sağlığı üzerindeki olası etkisine dikkat çekmiştir.
Ayrıca okuyun: Amerika Birleşik Devletleri'nde Chatgpt bir cinayetle uğraşmakla suçlanıyor
Ve bu dramalarla sınırlı olmaktan çok, AI ile bağlantılı mevcut riskler, daha yıkıcı ve daha önemli risklerle hızla gölgede bırakılabilir, açık mektubun yazarlarını uyarabilir.
İkincisi, gelecek anlaşmasının, doğrulama mekanizmaları oluşturmanın ve bağımsız bir organ oluşturmanın yanı sıra, yasakların açık bir listesini tanımlamasını önermektedir.
Gelecekteki Toplumda AI Dünya Yönetim Direktörü Niki Iliadis için AI sektörü için bağımsız bir küresel kuruma ihtiyaç vardır. gerçek güçlerle ». İkincisi kırmızı çizgileri tanımlamak, izlemek ve uygulamak zorunda kalacaktır.
Güvenliği en başından entegre et
“” Nükleer enerji geliştiricileri, patlamalarını nasıl önleyecekleri hakkında bir fikir edinmeden önce nükleer santraller inşa etmediler, AI endüstrisi de güvenliği entegre eden farklı bir teknolojik yol seçmeli ve bunu yaptıklarını bilmeliyiz. “Basın toplantısında konuşan Berkeley Üniversitesi'nde profesör olan Stuart Russell'ı tartıştı.
AI alanındaki araştırmacı olan eleştiri, bunu ekledi ” Kırmızı çizgiler, AI düzenlemesinin bazı dedektörleri tarafından iddia edildiği gibi ekonomik kalkınmayı veya yeniliği engellemez. ».
Amerika Birleşik Devletleri gibi yeni AI devlerinin çoğuna ev sahipliği yapan ve büyük bir deregülasyon takipçisine sahip olan ülkelerin böyle bir yaklaşımı destekleyip desteklemeyeceği görülüyor.
Ayrıca okuyun: AI düzenlemeden 10 yıl: Amerika Birleşik Devletleri'nde, kabul edilme sürecinde tartışmalı bir fatura
🔴 Herhangi bir 01net haberini kaçırmamak için bizi Google News ve WhatsApp'ta takip edin.
Bir yanıt yazın