Bir kareye yönlendirilen kamera, yapay zeka yazılımıyla birleştirildiğinde görünümünü değiştirmiyor. Ancak çok daha fazlasını da yapabilir: Bir yüzü arşivle karşılaştırın ve kimin gözlemlediğini tanıyın.
Kanunun iki uygulama kararnamesinin en çok tartışılan kısmı bu unsur etrafında şekilleniyor. 2025 tarihli 132 sayılı yasaİtalya'nın kendi sistemini uyarladığı Bakanlar Kurulu tarafından yapılan ön incelemede onaylandı.İÇİN Davranmak Yapay zekaya ilişkin Avrupa düzenlemesi Ağustos 2024'te yürürlüğe girdi.
Hükümet bu hükmü Avrupa'da Brüksel kurallarıyla uyumlu ilk organik ulusal çerçeve olarak sunuyor ve güvenlik cephesinde bir dizi garanti talep ediyor: biyometrik tanımlamadolayısıyla potansiyel suçluların yüz tanıma özelliği.
Metin iki farklı hipotezi düzenlemektedir: gerçek zamanlı uzaktan biyometrik tanımlamaTerörizm veya kayıp kişilerin aranması gibi ciddi vakalarda suç öncesinde kullanılabilecek ve sonradan yüz tanımabir olay meydana geldikten sonra etkinleştirilebilir.
Yapay zeka suçluları keşfedecek “Ama bu Büyük Birader değil”
–
Bu konuyu duymuştuk Brando BenifeiDemokrat Parti'nin milletvekili ama her şeyden önce AI Yasası'nın iki raportöründen biri – Rumen yargıç Dragoș Tudorache ile birlikte – ve bugün bunun uygulanmasını takip eden Avrupa Parlamentosu çalışma grubunun başında.
İtalyan kararnamesini okuması, özellikle gerçek zamanlı biyometrik tanıma konusunda Brüksel'de onaylanan kurallarla olası sürtüşmeleri tespit ediyor acil bir prosedür durumunda.
“Yapay zeka kararnamesinin mevcut ifadesi, eylemi önceden izin almadan başlatmak için “sağlam temellere dayanan bir nedene” ihtiyaç duyulduğunu öngörüyor – Benifei bize söylüyor -. Avrupa Yapay Zeka Yasası metni farklı bir şey söylüyor ve hukuki açıdan bakıldığında fark önemli. İtalyan kararnamesinin yapılandırılma şekli nedeniyle, polis müdahalesini kolaylaştırıyor ve prosedürün baştan doğru bir şekilde gerekçelendirilmesine gerek kalmadan acilen başlatılmasına olanak tanıyor.”
Yapay Zeka Yasasına göre somut anlamda ne gibi değişiklikler oluyor?
“Avrupa mevzuatında kullanılan ifade, “usulüne uygun gerekçelendirilmiş” ifadesidir; bu, “haklı gerekçeye” değil, “usulüne uygun gerekçelendirilmiş” ifadesine eşdeğerdir. Haklı gerekçe, polis memuru veya polis komiseri tarafından olay yerinde değerlendirilir. Bunun yerine, resmi bir gerekçe sunma yükümlülüğü, eylemi baştan itibaren motive etmeniz gerektiği ve ilerleyen saatlerde sulh hakimine başvurduğunuzda sonradan değil, harekete geçmeniz gerektiği anlamına gelir.”
Yasal bir incelik gibi görünüyor.
“Evet öyle, ancak bu, polisin önceden gerekçelendirmeye gerek kalmadan, kendi takdirine bağlı olarak, sağlam temellere dayanan bir sebep olduğunu düşünerek hareket etmesine izin veriyor. AI Yasası bu konuda açık: “Usulüne uygun gerekçelendirilmiş”, eylemin derhal ve körü körüne doğru bir şekilde gerekçelendirilmesi gerektiği anlamına geliyor. Bu İtalyan formülasyonu iyi değil ve bence buna Avrupa düzeyinde itiraz etmeliyiz.”
Bu konuda Yapay Zeka Yasasından farklı görünen başka bir şey var mı?
“Evet, hem de daha karmaşık. Yapay Zeka Yasası ile otomatik olarak çelişmiyor ama aslında yasanın temeli olan orantılılık görevlerinin aksine, bir tür genelleştirilmiş biyometrik gözetime yol açıyor. Verilerin yedi gün süreyle saklandığı posteriori tanımadan bahsediyorum. Sorun, eylemin kendisi değil, gerçek zamanlı olmaması, verilerin daha sonra kullanılmak üzere toplandığı göz önüne alındığında, bir önceki noktaya değinmiyor. Uyarıcı olan tedbirin boyutudur. alarm: tüm kamuya açık alanlar için geçerli görünüyor ve bu nedenle orantılılık ilkesinin ihlal edilmesi ve kitlesel gözetim operasyonuyla sonuçlanma riski var”.
İtalyan kararnamesi, kamu düzeni ve güvenlik gereklilikleri olan yer veya etkinliklerde, girenlerin yüzlerine ait biyometrik verilerin, kişisel verilerle ve varsa tahsis edilen koltukla birlikte bir referans veri tabanında 7 gün boyunca yerel olarak saklanarak otomatik olarak işlenmesini öngörüyor.
“Bu kesinlikle orantısız ve asıl sorun da tam olarak bu. Bu formülasyon, vatandaşların verilerinin büyük miktarda ve önleyici bir şekilde toplanmasını yapılandırıyor. Verilerin gerçek zamanlı olarak işlenmediği doğrudur, ancak Avrupa'nın gerçek zamanlı olarak uyguladığı katı sınırları, bunları sonradan kullanıma sokarak aşmaya yönelik açık bir girişim vardır. Gerçek zamanlı biyometrinin kilit noktası, tam da bir yerde bulunan herkesin verilerini toplamasıdır ve bu nedenle Avrupa hukuku çok katı garantiler dayatmaktadır: çok sınırlı vakalar ve izinler Gerektiğinde verilerin yedi gün içerisinde kullanılabileceği düşüncesiyle toplu bir koleksiyon oluşturulması, Avrupa hukukunun mantığına aykırıdır ve burada orantı ilkesi tamamen ortadan kalkmaktadır.
Yapay Zeka Yasası geriye dönük yüz tanıma için tam olarak ne sağlıyor?
“Sonradan tanınmaya izin verilir, ancak bu, bir bütün olarak ancak 2027'nin sonunda tamamen işlevsel hale gelecek bir dizi korumayla mümkündür. Gerçek zamanlı olmayan biyometrik sistemlere ilişkin korumalar, 'yüksek riskli kullanım senaryoları' olarak adlandırılanların kapsamına girmektedir”.
2027 yılına kadar ne değişmeli?
“Yüksek riskli sistemlere ilişkin kuralların tam olarak uygulanması için son tarih, Yapay Zeka Yasasının güvenlik parametrelerine uygunluğun değerlendirilmesine hizmet edecek ortak bir teknik standardın tanımlanmasına izin vermek için tam olarak 2027'nin sonunda belirlendi: veri yönetiminden insan kontrolüne, siber güvenliğe kadar. Bu parametrelere sahip olana kadar, risk, yalnızca özel tedarikçinin beyanlarına dayanarak, gerçek kalitelerini doğrulayacak araçlar olmadan verimsiz sistemleri benimsemektir.”
Ne İtalyan kararnamesi ne de Yapay Zeka Yasası aslında yüz tanıma için katı doğruluk standartlarından bahsetmiyor.
“Bu önemli bir konudur. Teknik standartlar hala geliştirilmektedir ve bu sistemlerin kitlesel kullanımını engelleyen şey kesinlikle birleşik parametrelerin bulunmamasıdır. Bugün Yapay Zeka Yasasının uygulanması, izin verilen kullanımlar için bile eksiktir.”
İtalyan kararnamesinde, biyometrik tanıma için kullanılan teknolojik sistemlerin Avrupa Birliği veritabanına kaydedilmesi zorunluluğundan bahsedilmiyor; bu, yapay zeka yasasının şeffaflığı garanti altına alan merkezi noktalarından biri. Bu eksiklik nasıl açıklanabilir?
“Temel prensip, polisin biyometrik tanıma için hangi sistemleri kullandığının kamuoyu tarafından bilinmesi gerektiğidir. Bu, bu teknolojilerin kullanımının gizli kalmasını engellemeye yarayan bir kayıttır.”
Bu kayıt defteri herkesin erişimine açık mı?
“Bu veri tabanına erişim, Avrupa metninde öngörülen bazı spesifik konular için ayrılmıştır, ancak işlevi kontrol ve şeffaflıktır. İtalyan kararnamesinde bundan söz edilmemesi, Avrupa hukukunun hemen hemen tüm diğer noktalarına körü körüne atıflarda bulunulduğu göz önüne alındığında, tekildir.”
Kararnamede bundan bahsedilmiyorsa, İtalyan polis kuvvetlerinin bu kayıt zorunluluğunu uygulamayabileceği anlamına mı geliyor?
“Kesinlikle hukuki bir bakış açısıyla, Avrupa yönetmeliğinin kendi kendini uygulayan bir kanun olduğunu ve ulusal kanunlara üstün geldiğini, hatta hükümetin yetki veren kanunuyla karşılaştırıldığında ikincil bir kanun olan bir yasama kararnamesinden daha üstün olduğunu hatırlamalıyız. Kararnamede belirtilmeyen ancak Yapay Zeka Kanunu tarafından sağlanan ve açıkça çelişmeyen şeyler hala geçerlidir. Kayıt yükümlülüğü, Avrupa kanunları gereği mevcuttur ve İtalyan makamlarının buna saygı duyması gerekecektir.”
İtalya'da uygulamaya konulan yapay zeka kararnamesi, uygulanan teknolojilerin ötesinde her kararın “insani” kalacağının altını çiziyor.
“Bu gereksiz bir ifade. Karar verme sorumluluğunu bir insanın üstlenmesi gerektiği açık, ancak gerçekçi olmalıyız: Bu araçları tam olarak sınırlandırıyoruz çünkü ciddi hatalar yapabileceklerini, hatta haksız gözaltılara yol açabileceklerini biliyoruz. Bunların kullanımı orantılı kalmalı ve bir hakim tarafından onaylanmalıdır.”
Bir operatörün makineye gerçekten meydan okuduğundan neden şüphe ediyorsunuz?
“Çünkü bu cümle çok açık, asıl soru ise başka: Hangi kamu görevlisi, polis memuru ve hatta doktor, bir hedefi belirten bir sistemle karşı karşıya kalırsa, bunun yanlış olduğuna ikna olarak gerçekten bu sisteme meydan okumaya başlar? Bu çok zor. Bir metni okuyup bir tarihin doğru olup olmadığını kontrol ettiğiniz üretken yapay zekadan bahsetmiyoruz. Burada, ses veya yüz parçaları gibi biyometrik verilere dayanarak insanları tanımlamaya yardımcı olan sistemlerden bahsediyoruz.”
Algoritmaların yüz tanımada dahi hata yapabileceğini biliyoruz.
“Aynen. Bir metinle karşı karşıya kaldığında halüsinasyon doğrulanabilir. Peki ekran karşısında duran bir insan, sistemin bir yüzü tanımada hata yaptığını nasıl kesin olarak tespit edebilir? Bu nedenle kullanımı terörizmden şiddet içeren suçlara, mağdur ve kayıp çocukların aranmasına kadar mutlak ciddi vakalarla sınırlı olmalı ve her zaman bir sulh hakiminin katılımıyla olmalıdır. Hükümetin kontrolü altındaki herhangi bir polis memurunun elinde bir karar olamaz. Bu küçük bir karar değil. fark.”
Yapay Zeka Yasasının müzakere edilmesi ve yazılması sırasında bu teknolojileri doğrudan gördünüz mü? Son yıllarda kişilerin ve faaliyetlerin tanınmasında ne gibi ilerlemeler kaydedildi?
“Evet, kesinlikle ve sistemler çok gelişti. Gerçek şu ki, bildiğimiz kadarıyla bu araçlar hâlâ hata yapıyor: İnsanları yanlış tanımlıyorlar, sahada olmayan veya sistem tarafından tespit edilen eylemi gerçekleştirmeyen kişileri rapor ediyorlar.”
Teknik hatanın yanı sıra ölçek sorunu da var mı?
“Evet ve bunun altında yatan neden de bu. Düzenleyici yönelim, benzer teknolojinin küçük suçlar için değil, tehlikeli suçlularla mücadele ve mağdurların korunması için kullanılması gerektiği yönünde. Size bir örnek vereyim: Birisi bir mağazadan dizüstü bilgisayar çalarsa, ki bu bir suçtur ancak en ciddi suçlardan biri değildir, sırf o hırsızı bulmak için şehri tüm vatandaşları izleyen, onların hareketlerini ve temaslarını kaydeden ve hatta tarihsel verileri analiz ederek gelecekteki davranışlarını tahmin eden biyometrik kameralarla dolduramayız. Aksi takdirde zaten Çin'de olurduk. kamera biyometrileri her yerde.”
Bir yanıt yazın