Polis Veri Analizi: “Teknoloji ne kadar invaziv olursa, engeller o kadar yüksek olur”

Polis, mahkemeler ve sivil toplum tarafından veri analizi yazılımının kullanımı konusundaki anlaşmazlıkta anayasal kaygıları defalarca kaydetmiştir. Son zamanlarda Bavaria'daki Palantir'den çapraz prosedüral araştırma ve analiz platformunun kullanımına karşı anayasal bir şikayette bulunan Özgürlük Hakları Derneği'nden (GFF) Franziska Görlitz ile konuştuk- ayrıca Hessendata'ya karşı bir şikayette bulundu.

Polis veri analizleri konusu yıllardır tartışılmıştır. Bu arada, Avrupa alternatifleri üreticileri, araçlarının anayasal kullanımını kullanan başlangıç ​​bloklarında yer almaktadır. Ama bu hiç mümkün değil mi?

Teorik olarak evet, pratik olarak şu anda ele alınacak şekilde değil. Üreticilerin kendilerine karşı şikayet etmiyoruz, ancak polisin otomatik veri analizlerini sağlayan ilgili yasalara karşı. Hesse, Kuzey Ren-Westphalia ve Bavyera'da yasal temeller anayasal gereklilikleri karşılamıyor. Yasama organı net sınırlar belirlemelidir – örneğin, çok kapsamlı verilerin hataların nasıl önlendiği, ayrımcılığın nasıl hariç tutulduğu ve kontrolün nasıl sağlandığı konusunda sistemlere akamayabileceği. Tüm bunlar şimdiye kadar eksik.

Federal Anayasa Mahkemesi 2023'te veri analizlerinin prensip olarak anayasal olabileceğini söyledi.

Bu doğru. Mahkeme temelde böyle bir şeyin mümkün olduğunu doğruladı. Ancak aynı zamanda, bir analiz aracının ne kadar kapsamlı ve karmaşık olursa, koruyucu mekanizmaların daha katı bir şekilde olması gerektiğini açıkça ortaya koydu. Teknoloji ne kadar invaziv olursa, engeller o kadar yüksek olur. Şimdiye kadar açık bir içtihat yok, özellikle yapay zeka ile hala çok açık.

Özellikle bu tür analizlere kim girer?

Bu sistemlerde banal olaylarla sonuçlanabilmeniz özellikle tehlikelidir. Bir trafik kazasına tanık olan veya verileri polis süreç sisteminde bulunan çalıntı bir bisiklet bildiren herkes. Bu veriler daha sonra düzenli olarak büyük engeller olmadan analizlere beslenir. Bu, bir polis prosedürü için asla vesilese sahip olmayan kişilere izin verir.

Polis dosyalarında daha sık görünen diğer insanlarla temasları olan insanlar özellikle etkilenir. Sosyal hizmet uzmanlarını düşünün: içeride, örneğin fan yardımı veya eğitimcide: İçeride gençleri eğitmek zor olan tesislerde. İş nedeniyle, bunlar sürekli olarak birkaç kez fark edilen insanlarla temas halindedir. Bu insanlar yanlış bir şey yapmasalar da, veri analizlerindeki çalışmalarından geçmeleri muhtemeldir. Aynı şey gazeteci için de geçerlidir: Inside ve Ceza Savunma Avukatları: İçeride Düzenli olarak soruşturmada görünen insanlarla konuşur. Önemli bir sosyal görev gerçekleştiren bu gruplar, aniden analiz yazılımı ağına girme riskiyle karşı karşıya.

Siyasette endişeleriniz de duyuluyor mu?

Evet, kendimizi aktif olarak yasama prosedürlerine getiriyoruz. En son Baden-Württemberg ve Saksonya-Anhalt'ta açıklamalar yaptığımız. Sadece geçmişe dönük şikayet etmekle kalmayıp, aynı zamanda sorunları önceden belirtmek ve olası düzeltmeleri talep etmek bizim için önemlidir.

Şimdi bu tür araçların herhangi bir yerde kullanımı için yasal olarak dayanıklı bir temel var mı?

Bizim görüşümüze göre. Önceki yasalar, TO TABS altındaki analize çok fazla verinin dahil edilmesine izin verir ve güçlü enstrümanlar için kullanılır. Aynı zamanda, etkili koruyucu mekanizmalar hatalara ve ayrımcılığa karşı eksiktir.

Bu zayıflıklar cehalet mi yoksa daha fazla cehalet mi?

Kişi cehaletten bahsedilemez. İlk karardan bu yana en geç, belirli ayrıntılar henüz açıklığa kavuşturulmuş olsa bile, temel standartlar her yasa koyucu tarafından bilinmektedir. Yasama tahsisleri de açıkça ifade eder. Ancak, temkinli ve uyumlu bir prosedür anlamında hareket etmek yerine, kişi olabildiğince aşırı sınırlara düzenli olarak gitmeye çalışır – bu da bu sınırların da aşıldığı anlamına gelir.

O zaman neden zaten satın alındı?

Bir örnek, “bir fiyat bağlama dönemi nedeniyle” çok kısa sürede vurulduğu iddia edildi. Bu, bir sağlayıcının alternatif olmadan sunulması tehlikesini etkileyici bir şekilde gösterir. Rekabet olmasına rağmen, fikir geçerlidir: sadece bu teslim edilebilir. Bu, devletin sonunda sona eren bir bağımlılık yaratır. Ve bu kadar belirli bir yazılım çözümüyle ne kadar uzun süre kalırsanız, tekrar ayrılması daha zor olur.

Gazetecilerin yerlerde gösterilebilmesine yardımcı oluyor mu?

Hayır. Bir yandan, gerçek sürümün gösterilip gösterilmediğinden veya soyulmuş bir varyanttan asla emin olamazsınız. Öte yandan, Veri Koruma Denetleme Yetkilileri şimdiye kadar gerçek operasyonda herhangi bir federal eyaletteki yazılımı kontrol ettiler. Bavyera'da bilinen tek incelemenin sonuçları gizlidir ve yazılım güncellemeleri almasına rağmen benzersiz gerçekleşmiştir. Bu tür sistemler sürekli olarak değiştirilip güncellendiğinden, bu inceleme veri çıkışları, hatalar veya manipülasyon risklerini dışlayamaz.

Sonuç nedir?

Federal Anayasa Mahkemesi, veri analizlerine polis tarafından yasal olarak izin verilebileceğini açıklığa kavuşturmuştur. Ama sadece çok yüksek koşullar altında. Şu anda hiçbir yerde karşılanmıyorlar. Özellikle koruma, eğitim ve sosyal hizmet yapan kişilerin, polise dikkat çeken insanlara yakınlık yoluyla girdaplara girebilmeleri özellikle sorunludur.

Ancak aslında, her bireyin veri analizleri tarafından haksız kaydetme riski vardır. Bu siyaseti büyük ölçüde hafife alır. Kütle veri analizleri, özellikle yapay zeka nedeniyle, hatadır ve ayrımcı sonuçlara yol açar – bu nedenle temel haklar için büyük bir tehlikedir.

(Mack)