Mennesker bliver overvåget i gadebilledet

Illustration: CUPP Research

Kritisk fokus på politiets digitale værktøjer

Sammen med IT-Universitetet er PROSA centralt placeret i det første større forskningsprojekt i EU, der sætter et kritisk fokus på digitaliseringen af politiet. Over tre år skal PROSA være med til at rejse spørgsmål, skabe debat og formidle indsigter i krydsfeltet mellem ordensmagt og it.

Når politiet bliver digitalt, er der så bare tale om nye redskaber i værktøjskassen, eller ændres der samtidigt mere grundlæggende ved forholdet mellem statsmagten og samfundsborgerne?

Det er et af spørgsmålene i forskningsprojektet CUPP – eller Critical Understanding of Predictive Policing – som PROSA er gået ind i.

Med delprojekter i seks forskellige lande og en bevilling på en million euro fra Nordforsk over tre år (2021-2023) er projektet det hidtil mest omfattende forsøg på at kaste nyt lys over politiets digitalisering på tværs af Europa.

Tema

Denne artikel er en del af et tema om overvågning, datadrevet politiarbejde og forskningsprojektet Critical Understanding of Predictive Policing (CUPP).

Vil du bo i Gotham City?
Kritisk fokus på politiets digitale værktøjer

Emner som datasamkørsler, masseovervågning og privacy står centralt. Og som den eneste partner, der ikke er et universitet eller et forskningscenter, er PROSAs rolle at sikre, at projektet kan være med til at skabe folkelig debat og større opmærksomhed omkring temaerne, der ellers kan være svære at forholde sig til for udenforstående.

– I PROSA har vi en tradition for at engagere os i it- og samfundsspørgsmål, og i CUPP-projektet skal vi blandt andet sikre, at forskerne får talt med alt fra it-professionelle til bekymrede borgere, fortæller PROSAs formand Niels Bertelsen og uddyber:

– Mange af PROSAs medlemmer er dybt engagerede i spørgsmål omkring overvågning og datasikkerhed, og med CUPP kan vi både få adgang til den nyeste forskning, selv byde ind og desuden nå ud til en større offentlighed.

At projektet er internationalt, gør det kun ekstra relevant, ifølge PROSAs formand.

Projektet startede officielt i februar 2021, og Prosabladet har bedt involverede forskere fortælle, hvad det er, de skal beskæftige sig med de kommende år.

DANMARK

Vasilis Galis og Bjorn Karlsson, IT-Universitetet

I Danmark ser vi på Rigspolitiets it-platform POL-INTEL, herunder tankerne om leverandøren Palantir Technologies og den konkrete implementering.

Der har været meget lidt offentlig debat omkring POL-INTEL, og der er meget få mennesker, der reelt kender til platformen. I det hele taget har både borgere og politikere kun begrænset indblik i politiets arbejde med digitalisering, hvordan POL-INTEL fungerer, og hvad systemet kan bidrage med. Det er en sort boks, som vores projekt handler om at åbne og bidrage til debat omkring.

Det er blevet klart for os, at politiet undervejs har ændret syn på, hvad de forventer af systemet. Oprindeligt blev det introduceret som en slags supervåben, mens det nu bare omtales som en dagligdags teknologi og en simpel søgefunktion for politiet. Så spørgsmålet er, om POL-INTEL i praksis har vist sig mindre effektiv end forventet, eller om der for eksempel er et ønske et sted om at nedtone systemets potentiale og i så fald hvorfor.

Målet er at bidrage til både offentlig og videnskabelig indsigt i et kompliceret teknisk projekt, der faktisk påvirker samfundet. Politiets arbejdsmetoder vil afspejle, hvordan det står til med demokrati og borgerrettigheder i et samfund, og derfor er det vigtigt med transparens, og at politiet løbende står til ansvar. Derfor ser vi også på politiets kommunikation om platformen og på politikernes ønsker, samt hvad der er sket af forandringer internt i politiet i forhold til hierarkier, sagsgange og roller.

NORGE

Helene Oppen Ingebrigtsen Gundhus, Oslo Universitet

Politiet i Norge bruger i stigende grad it-redskaber til at understøtte risikovurdering – især inden for forebyggelse. Som case har vi valgt at se på ungdomskriminalitet, og hvordan algoritmer bliver brugt til at identificere og udvælge de unge, der skal følges op på for at få dem væk fra en kriminel løbebane.

Området er vigtigt, fordi risikovurderingsværktøjer ikke uden videre er neutrale. Dels er de baseret på bestemte antagelser om sammenhænge, dels vil den digitale ramme i sig selv påvirke, hvordan data bliver behandlet, sammenstillet og analyseret, og hvordan politifolk udøver skøn.

Det vil vi se på blandt andet ved at interviewe både efterforskere, chefer, it-udviklere og dem, der arbejder med forebyggelse.

Indtil videre er jeg blevet overrasket over den vægt, der stadig lægges på politifolkenes erfaringer, fælles diskussioner og vurderinger frem for sandsynlighedstallene, som softwaren producerer. Det er også bemærkelsesværdigt, hvor fremtrædende de klassiske teorier om årsager til ungdomskriminalitet er i arbejdet, for eksempel de sociale årsager, og at politiets indgreb i sig selv kan forstærke stigmatisering.

Målet med projektet er at blive skarpere på, hvordan digitaliseringen påvirker politiarbejdet, og på betydningen af kontekst. Et stikord er her at følge dataenes livscyklus og undersøge eventuelle feedback loops. Det er også et formål med projektet at belyse, hvad prædiktivt politiarbejde betyder i praksis for at bidrage til debatten om overvågningssamfundet.

STORBRITANNIEN

Evie Papada, St. Andrews University



Vores del af projektet ser på politiets brug af ansigtsgenkendelse i London, og hvad det betyder i forhold til det offentlige rum. Konkret ser vi på området over tid, og i hvor høj grad det har påvirket befolkningens muligheder for at opleve og selv forme deres by.

Ansigtsgenkendelse er en af de mest omstridte overvågningsteknologier i dag, og det udstikker samtidig retningen for den fremtidige brug af masseovervågning.

Derfor ser vi nærmere på, hvordan forskellige overvågningsindsatser er blevet gennemført i praksis og på, hvordan området er reguleret. Vi vil især have kig på, i hvilken grad borgernes frihed og privatliv bliver respekteret, og hvordan det ser ud med demokratisk indblik og kontrol.

Undervejs er vi allerede stødt på mange og indbyrdes modstridende holdninger til, om ansigtsgenkendelse er nødvendigt, og om det er effektivt.

Internt i politiet er der for eksempel helt klart tvivl og uenighed om, hvad de får ud af det, idet der er mange fejlgenkendelser. Omvendt er der i offentligheden et relativt højt viden- og analyseniveau omkring spørgsmålet, og hvad der findes af både muligheder og faldgruber.

Målet er at bruge vores forskning i den offentlige debat, både i form af artikler, blogs og podcasts, hvor vi vil bringe vores indsigter i spil og gå i dialog om dem.

Projektet foregår i samarbejde med Antonis Vradis.

SVERIGE

Georgios Mattes, St. Andrews University

Her ser vi på det prædiktive politisystem STATUS, der er udviklet af det private business analytics-firma Qlik i samarbejde med svensk rigspoliti.

Offentlig-private partnerskaber har i stigende grad betydning for politiets dataindsamling og analysearbejde. I praksis har det betydet langt mindre offentligt indblik, og det er her, at vi som forskere kan spille en rolle ved at kaste lys over, hvad der er på færde.

Vi er gået i gang med at læse politirapporter og har blandt andet interviewet systemudviklere, kriminologer og politifolk.

Her har det slået os, at prædiktion eller forudsigelser i sig selv ikke nødvendigvis er det mest kontroversielle, men snarere den rådende fremstilling eller framing af prædiktive analyser og politiarbejde som videnskabeligt, objektivt og fordomsfrit. Navnlig fordi realiteten ofte er mere rodet og sammensat.

Målet er mere transparens og ansvarlighed om digitalt politiarbejde, som vi vil bidrage til at opnå gennem åbne workshops med mere. Der er behov for, at civilsamfund og forskere kan finde sammen, så den rådende teknokratiske fremstilling kan blive udfordret.

Projektet foregår i samarbejde med Antonis Vradis.

ESTLAND

Anu Masso og Tayfun Kasapoglu, Tallinn University of Technology

Vi fokuserer på tre casestudier, der kredser om digitaliseret grænsekontrol, elektroniske opholdstilladelser og genetisk profilering.

Alle de tre emner er eksempler på, hvordan teknologier ikke bare er neutrale, men bliver udviklet og udtænkt af mennesker, der har bestemte idealer, normer og forventninger. I dette tilfælde i forhold til netop udlændinge, der af forskellige grunde søger indrejse i Estland.

Desuden har Estland en af verdens største gendatabaser, men brugen af den både er meget lidt reguleret og meget lidt offentligt belyst.

Det er i høj grad udsatte grupper i form af udlændinge og samfundets svageste, der med de tre systemer er blevet udsat for en stærkt øget kontrol og mistænkeliggørelse.

Resultatet har været en forstærkelse af eksisterende uligheder, og det har faktisk været overraskende i hvor høj grad, at overvågningen er blevet normaliseret og bliver set på som retfærdig.

Det er et vigtigt mål for os at kaste lys over de menneskelige konsekvenser af teknologierne. Herunder hvordan de konkrete it-systemer bliver oplevet i praksis af de personer, som de er sat i verden for at holde styr på.

LETLAND

Irēna Ņesterova, Emils Kilis og Anda Ādamsone-Fiskoviča, Baltic Studies Centre & University of Latvia

Vores fokus er på digital trafikkontrol og vejovervågning med udgangspunkt i cases omkring fartkontroller, droner samt 360-graders-kameraer i politibiler.

Der er tale om overvågningsteknologier, der i høj grad påvirker borgerne, og som er stærkt omdiskuterede. Konkret vil vi derfor se nærmere på de antagelser og idéer, der ligger bag indsatserne, og vi vil prøve at kaste lys over både synlige og usynlige former for overvågning, og hvordan de spiller sammen. Indtil videre har vores informanter i politiet, trafikmyndighederne og de involverede it-udviklere lagt vægt på det forebyggende ved indsatserne frem på afstraffelse og kontrol.

I praksis ser vi til gengæld, at de forskellige overvågningsteknologier bliver mere og mere udbredte, mens myndighederne mangler personale. Vi ser også tegn på, at digitale redskaber ikke nødvendigvis er de mest hensigtsmæssige, hvis målet er en bedre trafiksikkerhed.

Endelig kan vi se, at der bør stilles spørgsmål ved, hvordan og til hvad de indsamlede data skal bruges i fremtiden, herunder hvordan området i det hele taget bør reguleres.

Vi ønsker at lade de forskellige stemmer blive hørt, hvad enten det er politiet, chauffører eller byplanlæggere, så vi reelt kan komme videre i diskussionerne. Det kan for eksempel være i form af mere udførlige regler, hvor der også kan sikres transparens omkring de offentlige digitaliseringsstrategier.