Ulusal Aile Yardımı Fonu (CNAF), yararlanıcılarının dolandırıcılık yapıp yapmadığını nasıl kontrol ediyor? Bu kontrollerin rastgele yapılmadığını, hangi sosyal minimum alıcının kontrol edileceğini bir algoritmanın belirlediğini biliyorduk. Gerçek şu ki, bu algoritmayı ve işleyişini belli bir donukluk çevreliyordu. Artık biraz daha fazlasını biliyoruz, çünkü aylar süren hukuki mücadeleden sonra CNAF, hangi yararlanıcıların “kontrol edileceğine” karar vermek için kullanılan “puanlama algoritmalarının” iki kaynak kodunu nihayet paylaşmayı kabul etti. Biri 2010, diğeri 2014 tarihli. Bu kaynak kodları Quadrature du Net’in 27 Kasım Pazartesi günü web sitesinde yayınlandı.
Hak savunma derneği, özellikle kullanılan değişkenleri ve bunlara karşılık gelen endeksleri Excel dosyalarında listeleyerek bunları genel kamuoyunun kullanımına sunarak, bu algoritmaları çevreleyen “gizem”e son vermek istedi. Bu, şu anda CNAF tarafından kullanılan algoritmanın kaynak kodu değil. Ancak 2010 ve 2014’ün önceki iki versiyonu, kullanılan değişkenlerin en riskli olanları cezalandırdığını açıkça gösteriyor, diyor Quadrature du Net kendi sitesinde, uygulamadan üzüntü duyarak ” özellikle zararlı bir kitlesel gözetleme sisteminin “.
Her yararlanıcıya verilen bir risk puanı
Dijital hakları savunma derneğinin, bu aracın 2022’de varlığının ortaya çıkmasının ardından talep edilen bu algoritmaların kaynak kodunu alması aylar sürdü. Aynı yılın Aralık ayında, Radio France-Franceinfo Soruşturma birimi, CNAF’ın bu algoritmaları derecelendirdiğini gösterdi. dolandırıcılık riskine göre yararlanıcılarını. Meslektaşlarımız CNAF’ın “ risk puanı » farklı yönetimlerden gelen bilgilere çapraz referans vererek her profile: 1’e ne kadar yakınsa, alıcının kontrol edilme riski de o kadar fazla olur. Meslektaşlarımız, böyle bir sistemde en güvencesiz olanların, daha riskli görülenlerin daha kontrollü olduğunu vurguladı. CNAF, Franceinfo’da bu tür algoritmaları kullandığını ancak marjinal olarak kabul etmişti.
Geriye CNAF’ın bu puanı belirlemek için neye dayandığını görmek kaldı: Bu nedenle bu algoritmanın kaynak koduna erişebilmek gerekiyordu.. La Quadradure du Net, hangi unsurların yararlanıcının puanını düşürebileceğini ve dolayısıyla hangi unsurların ikincisinin kontrol edilme şansını artıracağını görmek için yardım fonundan bu kodu iletmesini istemişti.
“CNAF liderleri algoritma üzerinde gizem oynuyor”
CNAF başlangıçta kaynak kodu düzeltilerek yanıt verdi; tüm değişken adları gizlendi. Yönetim, dolandırıcıların, halihazırda kullanımda olan kodun tamamını yayınlaması halinde algoritmayı kandırabileceğine inanıyordu. Fikir şunu söylemekti: “SBu risk puanlarını hesaplamanın formülünü verirsek, insanlar hangi parametrelerin dikkate alındığını anlayacak ve beyanlarında yalan söyleyerek puanlarını yapay olarak değiştirecekler. », Haberler ile röportaj yapan, kendisini algoritmalarla ilgili kampanyadan sorumlu Alex olarak tanıtan bir Quadrature du Net üyesini açıklıyor. Bu’” korkunç bir kötü niyet iddiası, çünkü formüllere baktığımızda, sosyal yardıma erişim talebinde bulunmak için gerekli olan mali durumla bağlantılı faktörler, güvencesizlik faktörleridir “, o ekler. Yani bunları değiştirirseniz artık sosyal yardımlara erişemezsiniz.
La Quadrature, uzun bir idari prosedüre girişmekten kaçınmak için, bugün artık kullanılmayan önceki kodların (bu kaynak kodları düzenli olarak güncellenmektedir) bir CADA prosedürü (idari belgelere erişim talebi) aracılığıyla yayınlanmasını talep etti. CNAF buna olumlu yanıt verdi.
Aile Harcırahı Fonu’nun 2010’lu yıllardan bu yana bu tür bir algoritma kullandığını biliyoruz. Vincent Dubois, Strasbourg Siyasi Araştırmalar Enstitüsü profesörü ve yazarı Yardım edilenleri kontrol edin. Bir parolanın doğuşu ve kullanımları, bu aracın kasıtlı olarak en güvencesiz insanları hedef aldığını zaten göstermişti. Ancak Quadrature du Net kampanya yöneticisi, profesörün formülü yayınlama hakkına sahip olmadığını açıklıyor. Ve aylar boyunca CNAF liderleri, algoritma hakkında soru sorulduğunda özünde şunu söyleyerek kendilerini savundular: Bu bir veri madenciliği aracıdır. “ Bir anda çok karmaşık bir hal alıyor. Onlara gerçekten en zor durumda olanları hedef alıp almadıklarını sorduğumuzda şöyle cevap verdiler: Hayır ama aslında algoritmada hedefleme yok çünkü bu tamamen istatistiksel bir şey, uzmanlar tarafından oluşturulmuş. “. Bu bir algoritmadır: ” Hata riskine ilişkin istatistiksel durumların bir aynası », örneğin Cnaf’ın genel müdürü Nicolas Grivel geçen Aralık ayında Franceinfo’daki meslektaşlarımıza şunu savundu.
Kaynak kodu değişkenlerinin içerdiği şey budur
2010 ve 2014 kaynak kodlarının yayınlanmasıyla işler biraz daha netleşti. Bu önceki algoritmalar için hangi parametrelerin kullanıldığını biliyoruz. 2014 yılı için, mesleki faaliyetin yapıldığı ay sayısı, çocukların varlığı, engelli yetişkinler için ödenek (AAH) alma durumu, kaç kez bağlantı kurduğunuz gibi unsurları içeren 32 değişkene göz atabiliriz. web alanınıza veya eşinizin 60 yaşın üzerinde olması. Bu değişkenlerden bazıları bazen eşten alınan verileri de içeren birkaç aylık bir geçmişe dayanmaktadır. Değişkenler potansiyel olarak güvensizliğe yol açtıkça (iş kaybı, durum değişikliği gibi), alıcının puanı 1’e yakın olacak ve izlenme olasılıkları da artacaktır.
CNAF politik açıdan çok hassas olan değişkenleri kaldırabilir
Bu mantık Quadrature du Net üyesi için pek de şaşırtıcı değil. Çünkü CNAF tarafından oluşturulan algoritmaların dolandırıcılığı değil, fazla ödemeleri tespit etmek için eğitildiğini açıklıyor. Bunlar, sosyal yardımların fazla ödenmesiyle sonuçlanan, alıcılar tarafından yapılan hatalardır. “ 2010 yılında CNIL’e yapılan açıklamaya göre, CNAF algoritmasının başlangıçta sahtekarlıkla mücadele etmek için tasarlandığını biliyoruz. Ancak dolandırıcılığı algoritmik olarak karakterize etmek ve dolayısıyla bir dolandırıcılık tahmin puanına sahip olmak aslında çok zordur, çünkü dolandırıcılık kasıtlılık gerektirir” Quadrature du Net üyesini ayrıntılarıyla anlatıyor. “ Finansal, kişisel, aile durumu ve CNAF ile olan etkileşimler hakkında verilerimizin bulunduğu bir veri tabanından niyetselliği ölçmek biraz karmaşıktır. “, o ekler. O zaman dolandırıcılık bir kenara bırakılır ve algoritma, uygunsuz ödemeleri tespit edecek şekilde yeniden eğitilirdi, diye devam ediyor. “ Basitleştirirsek sosyal yardımları asgari düzeyde olan, sosyal yardım alan, çok karmaşık kurallarla yönetilen ve hakkında hata yapma ihtimalimizin yüksek olduğu kişileri tespit edecek şekilde algoritmayı eğitmek yeterliydi. “, açıklıyor.
CNAF için algoritma hedeflemez mutlaka en fakir insanlar değil, gelirleri farklılık gösterenler
Bu kaynak kodlarının yayınlanmasının ardından Quadrature du Net, orta vadede kontrol politikasına yansımasını umuyor, ” son derece sert insani sonuçları olan “, başlatıldı. “ CNAF’ın, AAH, yani engelli yetişkinlere yönelik ödenek gibi politik açıdan fazla hassas olan değişkenleri ortadan kaldırması, aynı zamanda genel halk için anlaşılması çok daha karmaşık olan değişkenlerle aynı popülasyonları hedeflemeye devam etmesi beklenmektedir. kitle », Quadrature’ın üyesini tahmin eder. Bu yönetimin liderleri artık algoritmanın arkasına saklanamayacak ve bu politikanın sorumluluğunu reddedemeyecek ”, özetle şöyle: “ En güvencesiz kişilerin defalarca kontrol edilmesi, otomatik uzaklaştırmalar, zaten çok zor durumda olan insanlardan gecikmiş ödemelerin geri alınması… Bunlar ezilen insan hayatları. “.
Hak savunucusu 2017 yılında hazırladığı bir raporda veri madenciliğinin idare tarafından kullanılmasının tehlikeleri konusunda uyarıda bulunarak bunun doğurabileceği ayrımcılık risklerine dikkat çekmişti. “ Veri madenciliği uygulaması, “şüpheli riskleri” hedeflemenin ötesinde, risk altındaki popülasyonların belirlenmesini zorlar ve bunu yaparken, belirli kullanıcı kategorilerinin dolandırıcılık yapmaya daha yatkın olduğu fikrinin aşılanmasına yol açar.detaylandırdı.
Ve derneğin üyesi için tüm bu riskler ve tüm bu sonuçlar buna değmez. “ CNAF’ın mali çıkarlarının sıfır olduğunu bilerek, bu parayı gerçekten dürüst hatalar yapan ve ihtiyaç sahibi insanlardan geri almamız gerekiyor mu? » diye soruyor. İkincisi, Fransız sosyal sisteminin yararlanıcıların hataları nedeniyle zarar görmediğini düşünmektedir.
2022’de Sayıştay, sosyal yardım dolandırıcılığının her yıl 6 ila 8 milyar avro arasında bir rakama tekabül ettiğini tahmin ediyor; bu tutarın henüz doğrulanması gerekiyor; mali yargıçlar, sonradan yürütülen kontrollerde kaynak eksikliğine işaret ediyor. Meslektaşlarımızın bildirdiğine göre CNAF, ödenen 95 milyar avroluk ödeneğin 2,8 milyar avroluk kısmının dolandırıcılık olacağını hesaplamıştı. Fransa Bilgisi Geçen sene. Vergi kaçakçılığı, yani vergiden kaçmak isteme gerçeği çok daha önemli olurdu; 80 milyar avro civarında, ama burada da bu, Solidaires Finances publique union’dan gelen ve 2018 tarihli bir tahmin.
İletişim kuran: HaberlerCNAF, bu makalenin yayınlandığı tarihte yorum talebimize yanıt vermemişti. Ancak Fonun genel müdürü Nicolas Grivel, AFP’ye verilen ve Tech&Co tarafından ele alınan bir röportajda algoritmanın, beyanlarında hata yapma olasılığı en yüksek yararlanıcıları belirlemeyi amaçladığını açıkladı. Ayrımcı olmayacak ve mutlaka en yoksul insanları hedef almayabilir, ancak gelirleri farklılık gösterenleri hedef alır.
Ayrıca okuyun: Banka dolandırıcılıkları: neden bankanızdan geri ödeme talep etmelisiniz?
Kaynak :
27 Kasım 2023 tarihli Quadrature du Net blog makalesi
Bir yanıt yazın