Çin’den sonra hem heyecan hem de endişe uyandıran bir sektörü düzenleyen ilk metin olan yapay zeka (AI) Yönetmeliği’nin kabul edilmesinde Avrupa nerede? 2 ve 3 Ekim’de Avrupa Parlamentosu, Konsey (27 üye ülke) ve Avrupa Komisyonu temsilcileri arasında üçüncü üçlü toplantı gerçekleşti.
Avrupa Birliği’nin (AB) üç ortak yasa koyucusu, geçen yazdan bu yana metnin tek bir versiyonu üzerinde anlaşmaya varmaya çalışıyor. Bu üçleme belli noktalarda ilerlemeyi mümkün kılsa da hâlâ anlaşmazlık duyulan alanlar var. İşte hatırlamanız gerekenler.
ChatGPT gibi sistemler nasıl düzenlenir?
Milletvekillerinin aylardır cevaplamaya çalıştığı soru bu. Geçtiğimiz Mayıs ayında size açıkladığımız gibi, Avrupa Komisyonu bu metni Nisan 2021’de yazdığında, OpenAI’nin konuşma aracısı ChatGPT henüz genel kullanıma açık değildi. Metin, kod veya görsellerin oluşturulmasına olanak tanıyan bu teknoloji olan üretken yapay zekanın çılgınlığı henüz gerçekleşmedi.
Başlangıçta Avrupalı yönetici metinde risk temelli bir yaklaşımı tercih etmişti.Yapay zeka kullanımlarına göre düzenleniyoraz ya da çok güçlü şeffaflık ve yönetişim yükümlülüklerine sahiptir. Fikir şu: Risk ne kadar büyük olursa, bu sistemlerin tedarikçilerine yüklenen yükümlülükler de o kadar ağır olacaktır.
Ancak Kasım 2022’de ChatGPT başlatıldı ve birkaç ay sonra diğer benzer sistemler (Bard veya Ernie Bot gibi) geldi. Konseyi ve ardından Avrupa Parlamentosu’nu, başlangıçta planlanana yeni hükümler ekleyerek bu üretken yapay zekayı özellikle düzenlemeye zorlamak için yeterli.
Böylece Avrupa Parlamentosu üyeleri “” olarak adlandırdıkları şey için yeni yükümlülükler tanımladılar. vakıf modelleri “. Karşılaştığımız andan itibaren bir “ temel modeli »Risk ne olursa olsun, belirli sayıda kurallara uyulmalıdır. Konsey ise risklere dayalı bir yaklaşım mantığında kalmayı tercih etti, çünkü “ Genel amaçlı yapay zeka “. Bu, risk düşük olduğunda yapay zeka sağlayıcısının üzerindeki yükün de düşük kalacağı anlamına geliyor.
Sonuç: İki kurumun yaklaşımları örtüşmüyor. Terminolojiyle başlayalım. “ Her şeyden önce bir temel modelden bahsetmek tehlikelidir çünkü çok tekniktir. », diyor Sorbonne Üniversitesi’nde özel hukuk öğretim görevlisi ve ” Sorbonne Yapay Zeka Merkezi » (SCAI). Yasa koyucu iki yıl boyunca yapay zekanın teknik boyutunu ortadan kaldırmak, daha geniş bir tanımı korumak, teknolojiye değil kullanım senaryolarına odaklanmak için çalıştı. Avantajı: bununla “ Işlevsel yaklaşım », metin belirli bir teknolojiye, temel modellere bağlı değildir. Yeni bir teknoloji ortaya çıktığında başka bir metni benimsemek zorunda kalma riski daha azdır. Ancak şimdilik bu terminoloji seçimine müzakere masasında karar verilecek değil.
İkinci sorun: Parlamentonun yaklaşımını mı yoksa Konseyin yaklaşımını mı tercih etmeliyiz? Avrupa Komisyonu, birini veya diğerini tercih etmek yerine üçüncü bir yol önerirdi: Bu, üretken yapay zekanın özel durumunu düzenlemek için iki kademeli bir sistem olurdu. Bağlam3 Ekim’de. Yürütme, tüm bu araçlara yeni yükümlülükler getirmek yerine, ilk aşamada şunu öneriyor: ” vakıf modelleri » sadece iyi uygulamalara saygı duymak zorundayız; bu da kısıtlayıcı olmayacaktır. İkinci düzeyde, önemli bir etkiye sahip (bu nedenle en riskli olan) temel ve genel amaçlı yapay zeka modelleri (her iki terim de anılıyor) için yükümlülüklere saygı gösterilmelidir. Bu iki seviyeyi birbirinden ayırmaya yönelik kriterler henüz belirlenmemiştir. Ancak 3. üçlü görüşmede üç müzakereci, bu sistemin uygulanması olmasaydı, sistemin ilkesini onaylamış olacaktı.
Öz değerlendirme filtresi
Üçlemenin üzerinde anlaşmaya vardığı bir diğer nokta: “ filtrelenmiş » Bir sistemin araçlar kategorisine girip girmediğini belirlemeyi mümkün kılacak Avrupa Komisyonu tarafından önerildi ” yüksek risk “. Riskler yüksek, çünkü durum böyleyse, ikincisi çok daha ağır yükümlülüklere uymak zorunda kalacak.
Yüksek riskli bir sistemin üreticisinin, Avrupalıların erişimine sunulmadan önce ilk olarak ön değerlendirme ve uygunluk kontrol prosedürlerinden geçmesi gerekecektir. Daha sonra, çok sayıda yükümlülüğe (örneğin doğruluk ve siber güvenlik) uymanın yanı sıra, eğitim için kullanılan verileri yönetmek için bağlayıcı bir politika olan sistemin insan kontrolünü uygulamaya zorlanacak.
Üç kurumun üzerinde mutabakata vardığı bu “filtre” nelerden oluşuyor? Yapay zeka sağlayıcıları pazara çıkmadan önce kendi değerlendirmelerini yapmalıdır. Sistemleri bu üç kategoriden birine giriyorsa (araç temel görevleri yerine getiriyorsa, insan değerlendirmesinin yerini almıyorsa veya yalnızca hazırlık görevlerini gerçekleştiriyorsa) yüksek riskli olarak kabul edilmeyecektir.
Bu tedbir bazı dernekler tarafından eleştirilmiş ve yapay zeka tedarikçilerinin kendi değerlendirmelerini yapmasından üzüntü duyulmuştu. Bu bir ” Şirketlere(…) yapay zeka sistemlerinin, (…) gibi yüksek riskli alanlardan birinde kullanılması amaçlanmış olsa bile, Yapay Zeka Düzenlemesinin gerekliliklerinden muaf olduğuna tek taraflı olarak karar verme yetkisi veren boşluk. adalet veya temel kamu hizmetleri », örneğin İnsan Hakları Birliği’nin de aralarında bulunduğu altmışa yakın derneğin 27 Eylül tarihli açık mektubunda şunu yazdı.
Ancak Arnaud Latil’i anımsıyor: “ bu, örneğin GDPR’de mevcut olan genel bir ön düzenleme ilkesidir: biz kendi değerlendirmemizi yaparız ve daha sonra bir kontrol yapılır “. Koruma önlemleri alınacak: Yapay zeka sağlık, temel haklar ve güvenlik sektörlerinde çalışıyorsa, otomatik olarak “” yüksek risk Şirket kendisini bu öz değerlendirmeye götüren izleri takip etmeli, dolandırıcılık durumunda ağır cezalar ödemelidir.
Somut olarak şunu yapacağız: Operasyonel kullanıma yönelik yapay zekaya yönelik ağır düzenlemeleri bırakın ve yalnızca tesadüfi veya tamamen prosedürle ilgili olduğunda onu kaldırın. Yeniliği teşvik etmek ve küçük veya büyük yapıların tamamen tesadüfi bir boyut nedeniyle bu düzenlemelerle sınırlandırılmasını önlemek bana oldukça adil görünüyor. », Arnaud Latil’i Tahmin Ediyor. Koşulların 25 Ekim’deki bir sonraki üçlemede hala tartışılması ve açıklığa kavuşturulması gerekiyor.
Telif hakkı hâlâ söz konusu
Müzakerecilerin konuya karar vermeden kısaca değinecekleri bir diğer konu: telif hakkıyla korunan yapay zeka sistemlerinden gelen eğitim verilerinin yayınlanması. Bu aşamada herhangi bir ilerleme gözlenmezdi. Avrupa Parlamentosu, üretken yapay zekaları kullanılan verilerin bir özetini yayınlamaya zorlamak istiyor. Üçlemenin başlamasından birkaç gün önce Kültür paydaşları, bu yeni yükümlülüğün doğru yönde gittiğini ancak yeterince ileri gitmeyeceğini savundu.
Hak sahipleri ve yazarlar, yapay zeka geliştiricilerinden, yapay zekaların üzerinde eğitim aldığı çalışmaların kapsamlı bir listesini yayınlamalarını talep ediyor. Üreticileri bu konuda şeffaf olmaya zorlamak, yazarların haklarını savunmalarına olanak sağlayacaktır. “ O zaman ortaya çıkacak soru şudur: Değer, yapay zeka sistemleri ve hak sahipleri tarafından üretilen sonuçlarla nasıl paylaşılacak? Ancak buna cevap vermeden önce eserlerin kullanımına ilişkin kayıtların olması gerekir. », Arnaud Latil’in altını çiziyor.
“Askeri” veya “ulusal güvenlik” amacıyla kullanılan yapay zeka, Yapay Zeka Yasası kapsamı dışında mı tutuluyor?
Yapay Zeka Yasası tarafından düzenlenmeyen yapay zeka sistemleri gibi diğer konularda karar verilmesi gerekiyor: yalnızca yapay zeka sistemleri hariç mi tutulmalı? yalnızca askeri amaçlarla kullanılan veya geliştirilen » (Parlamentonun istediği gibi)? Veya daha doğrusu, tüm sistemlerin “ savunma ve ulusal güvenlik için kullanılır » metinden çıkarıldı: soru 25 Ekim’de yapılması planlanan bir sonraki üçlemede çözülebilir.
Bir yanıt yazın