Berlin'de gözetim: Yapay zeka “sebepsiz yere dolaştığını” bildirdiğinde.

Berlin polisi, riskli nesneler ve sıcak noktalarda güvenliği artırmak için kamusal alanlarda büyük ölçekli algoritmalar kullanmaya hazırlanıyor. İçişleri Bakanı Christian Hochgrebe (SPD) ve Polis Şefi Barbara Slowik'in Pazartesi günü Temsilciler Meclisi İçişleri Komitesi'ne açıkladığı gibi, gelecekte yapay zeka (AI) ile donatılmış kameralar yalnızca Kottbusser Tor'u Görlitzer Park ve çevresinde ve Alexanderplatz'da izlemekle kalmayacak, aynı zamanda Kızıl Belediye Binası, Temsilciler Meclisi ve Eski Belediye Binası'ndaki Senato İçişleri Bakanlığı'nın yakın çevresini de kaydedecek.

TAZ ve RBB gibi medya kuruluşlarının haberine göre güvenlik yetkililerinin öncelikli hedefi personelin üzerindeki yükü hafifletmek. Mülkiyet koruma görevleri şu anda normal güvenlik görevlilerine ek olarak görevlendirilen yaklaşık 400 yeterli eğitimli polis memurunu kapsamaktadır. Slowik'e göre sınırlı insan kaynağı göz önüne alındığında bu durum uzun vadede sürdürülebilir değil. Bu nedenle modern teknolojinin koruma görevlerini desteklemesi gerekir.

2,1 milyon Avro değerindeki ihaleye göre teknik uygulama, görüntüleri gerçek zamanlı olarak değerlendiren ve belirlenen senaryolarda alarm veren yapay zeka sistemlerini kapsıyor. Yazılımın temel görevleri arasında çitlere tırmanan, kısıtlı alanlara giren veya terk edilmiş nesneleri bırakan insanları tespit etmek yer alıyor.

İhale dokümanlarında sivil haklar aktivistleri arasında şüphe uyandıran ifadeler var. Teknoloji aynı zamanda “uzun süre ayakta durmayı veya sebepsiz yere dolaşmayı” ve “tekrarlanan görünümleri” de tespit edecek. Polis, biyometrik tanımlamanın hariç tutulduğunu ve tüm verilerin anonim olarak işlendiğini vurgularken, “kışkırtılmamış” davranışın tanımı büyük ölçüde yazılım programlamasının takdirindedir. Spesifikasyonlara göre yanlış alarm oranı %25'e kadar çıkabilmektedir ki bu da oldukça yüksektir. Bir yıl boyunca süren test çalışmasıyla algoritmaların güçlendirilmesi ve tespit kalitesinin artırılması amaçlanıyor.

Milletvekilleri “kobay” olarak görülüyor

Proje, özellikle Parlamento etrafındaki elektronik gözlerin güçlendirilmesi konusunda siyasi alanda dirençle karşılaşıyor. Sol görüşlü milletvekili Niklas Schrader, eylemi demokratik kontrole bir hakaret olarak görüyor. Yürütme kolunun kendi denetim organı olan Temsilciler Meclisi'ni önceden tartışma olmaksızın gözetim teknolojileriyle donatması sorunlu olurdu. Schrader, temsilcileriyle konuşmaya çalışan vatandaşlar üzerinde caydırıcı bir etki yaratacağı konusunda uyarıyor. Ayrıca milletvekillerinin polisin yapay zeka deneyleri için neden sorulmadan “kobay” olarak görev yapması gerektiği sorusu da var.

Berlin veri koruma görevlisi Meike Kamp, video gözetiminin genişletilmesinin, orantılılık ve gerekliliğin sıkı bir şekilde incelenmesini gerektirdiğini ve vatandaşlara bilgi sağlama yükümlülüğünün sürdürülmesi gerektiği konusunda uyarıyor.

Genel şüphe altyapısı

Mülkiyetin korunmasına paralel olarak polis, suça eğilimli bölgelerde yapay zeka yükseltmeleri yürütüyor. Temmuz ayından itibaren sistem, Kottbusser Tor'da ve ardından Warschauer Köprüsü'nde net görüntüler sağlayacak. Bu durumda yapay zekanın odak noktası vurma veya tekmeleme gibi fiziksel şiddeti tespit etmenin yanı sıra düşen insanları tespit etmektir. Yalnızca projenin bu kısmının maliyetinin 2028 yılına kadar neredeyse dört milyon avroya ulaşması bekleniyor.

Kaos Bilgisayar Kulübü (CCC) de dahil olmak üzere eleştirel sesler bu tür sistemlerin bilimsel etkinliğinden şüphe ediyor. Südkreuz tren istasyonu gibi yüksek maliyetlerle çok az güvenlik iyileştirmesi sağlayan önceki pilot projelere işaret ediyorlar. Davranışların matematiksel standartlaştırılmasının kamusal alandaki her bireyi potansiyel bir risk olarak işaretleyeceği ve dolayısıyla genel bir şüphe altyapısı yaratabileceğine dair korkular var.

Güvenlik politikasında dönüm noktası

CCC, yaptığı itirazda bu projelerin derhal durdurulmasını talep ediyor. Bilgisayar korsanları derneği, polisin ve yapımcıların “istenmeyen davranışı” nasıl tanımladıklarının henüz tam olarak belli olmadığına dikkat çekiyor. Pistte çılgınca koşmanın, virajda uzun süre durmanın veya kucaklaşmanın anormallik olarak kabul edilip edilmediği, kamuoyunun anlayabileceği ve bilimsel kontrolün ötesindedir.

Proje, federal başkentin güvenlik politikasında bir dönüm noktasına işaret ediyor. Şu ana kadar kameralar çoğunlukla yerel toplu taşımaya odaklandı. Şimdiye kadar sokakların ve meydanların video gözetimi bir istisnaydı. Artık bu adımın, özellikle tartışmalı olan bir “davranış tarayıcısı” ile birleştirilmesi bile gerekecek. Yakın zamanda Black and Red tarafından değiştirilen Berlin polis yasası, ticari gözetim yazılımlarını eğitmek ve optimize etmek için kullanılmak üzere kamusal alanlarda olaya karışmayan yoldan geçenlerden toplanan verilerin temelini oluşturuyor.

(Tamam)