Kritisk fokus på politiets digitale værktøjer

I Danmark ser vi på Rigspolitiets it-platform POL-INTEL, herunder tankerne om leverandøren Palantir Technologies og den konkrete implementering.

Der har været meget lidt offentlig debat omkring POL-INTEL, og der er meget få mennesker, der reelt kender til platformen. I det hele taget har både borgere og politikere kun begrænset indblik i politiets arbejde med digitalisering, hvordan POL-INTEL fungerer, og hvad systemet kan bidrage med. Det er en sort boks, som vores projekt handler om at åbne og bidrage til debat omkring.

Det er blevet klart for os, at politiet undervejs har ændret syn på, hvad de forventer af systemet. Oprindeligt blev det introduceret som en slags supervåben, mens det nu bare omtales som en dagligdags teknologi og en simpel søgefunktion for politiet. Så spørgsmålet er, om POL-INTEL i praksis har vist sig mindre effektiv end forventet, eller om der for eksempel er et ønske et sted om at nedtone systemets potentiale og i så fald hvorfor.

Målet er at bidrage til både offentlig og videnskabelig indsigt i et kompliceret teknisk projekt, der faktisk påvirker samfundet. Politiets arbejdsmetoder vil afspejle, hvordan det står til med demokrati og borgerrettigheder i et samfund, og derfor er det vigtigt med transparens, og at politiet løbende står til ansvar. Derfor ser vi også på politiets kommunikation om platformen og på politikernes ønsker, samt hvad der er sket af forandringer internt i politiet i forhold til hierarkier, sagsgange og roller.

Politiet i Norge bruger i stigende grad it-redskaber til at understøtte risikovurdering – især inden for forebyggelse. Som case har vi valgt at se på ungdomskriminalitet, og hvordan algoritmer bliver brugt til at identificere og udvælge de unge, der skal følges op på for at få dem væk fra en kriminel løbebane.

Området er vigtigt, fordi risikovurderingsværktøjer ikke uden videre er neutrale. Dels er de baseret på bestemte antagelser om sammenhænge, dels vil den digitale ramme i sig selv påvirke, hvordan data bliver behandlet, sammenstillet og analyseret, og hvordan politifolk udøver skøn.

Det vil vi se på blandt andet ved at interviewe både efterforskere, chefer, it-udviklere og dem, der arbejder med forebyggelse.

Indtil videre er jeg blevet overrasket over den vægt, der stadig lægges på politifolkenes erfaringer, fælles diskussioner og vurderinger frem for sandsynlighedstallene, som softwaren producerer. Det er også bemærkelsesværdigt, hvor fremtrædende de klassiske teorier om årsager til ungdomskriminalitet er i arbejdet, for eksempel de sociale årsager, og at politiets indgreb i sig selv kan forstærke stigmatisering.

Målet med projektet er at blive skarpere på, hvordan digitaliseringen påvirker politiarbejdet, og på betydningen af kontekst. Et stikord er her at følge dataenes livscyklus og undersøge eventuelle feedback loops. Det er også et formål med projektet at belyse, hvad prædiktivt politiarbejde betyder i praksis for at bidrage til debatten om overvågningssamfundet.

Vores del af projektet ser på politiets brug af ansigtsgenkendelse i London, og hvad det betyder i forhold til det offentlige rum. Konkret ser vi på området over tid, og i hvor høj grad det har påvirket befolkningens muligheder for at opleve og selv forme deres by.

Ansigtsgenkendelse er en af de mest omstridte overvågningsteknologier i dag, og det udstikker samtidig retningen for den fremtidige brug af masseovervågning.

Derfor ser vi nærmere på, hvordan forskellige overvågningsindsatser er blevet gennemført i praksis og på, hvordan området er reguleret. Vi vil især have kig på, i hvilken grad borgernes frihed og privatliv bliver respekteret, og hvordan det ser ud med demokratisk indblik og kontrol.

Undervejs er vi allerede stødt på mange og indbyrdes modstridende holdninger til, om ansigtsgenkendelse er nødvendigt, og om det er effektivt.

Internt i politiet er der for eksempel helt klart tvivl og uenighed om, hvad de får ud af det, idet der er mange fejlgenkendelser. Omvendt er der i offentligheden et relativt højt viden- og analyseniveau omkring spørgsmålet, og hvad der findes af både muligheder og faldgruber.

Målet er at bruge vores forskning i den offentlige debat, både i form af artikler, blogs og podcasts, hvor vi vil bringe vores indsigter i spil og gå i dialog om dem.

Projektet foregår i samarbejde med Antonis Vradis.

Her ser vi på det prædiktive politisystem STATUS, der er udviklet af det private business analytics-firma Qlik i samarbejde med svensk rigspoliti.

Offentlig-private partnerskaber har i stigende grad betydning for politiets dataindsamling og analysearbejde. I praksis har det betydet langt mindre offentligt indblik, og det er her, at vi som forskere kan spille en rolle ved at kaste lys over, hvad der er på færde.

Vi er gået i gang med at læse politirapporter og har blandt andet interviewet systemudviklere, kriminologer og politifolk.

Her har det slået os, at prædiktion eller forudsigelser i sig selv ikke nødvendigvis er det mest kontroversielle, men snarere den rådende fremstilling eller framing af prædiktive analyser og politiarbejde som videnskabeligt, objektivt og fordomsfrit. Navnlig fordi realiteten ofte er mere rodet og sammensat.

Målet er mere transparens og ansvarlighed om digitalt politiarbejde, som vi vil bidrage til at opnå gennem åbne workshops med mere. Der er behov for, at civilsamfund og forskere kan finde sammen, så den rådende teknokratiske fremstilling kan blive udfordret.

Projektet foregår i samarbejde med Antonis Vradis.

Vi fokuserer på tre casestudier, der kredser om digitaliseret grænsekontrol, elektroniske opholdstilladelser og genetisk profilering.

Alle de tre emner er eksempler på, hvordan teknologier ikke bare er neutrale, men bliver udviklet og udtænkt af mennesker, der har bestemte idealer, normer og forventninger. I dette tilfælde i forhold til netop udlændinge, der af forskellige grunde søger indrejse i Estland.

Desuden har Estland en af verdens største gendatabaser, men brugen af den både er meget lidt reguleret og meget lidt offentligt belyst.

Det er i høj grad udsatte grupper i form af udlændinge og samfundets svageste, der med de tre systemer er blevet udsat for en stærkt øget kontrol og mistænkeliggørelse.

Resultatet har været en forstærkelse af eksisterende uligheder, og det har faktisk været overraskende i hvor høj grad, at overvågningen er blevet normaliseret og bliver set på som retfærdig.

Det er et vigtigt mål for os at kaste lys over de menneskelige konsekvenser af teknologierne. Herunder hvordan de konkrete it-systemer bliver oplevet i praksis af de personer, som de er sat i verden for at holde styr på.

Vores fokus er på digital trafikkontrol og vejovervågning med udgangspunkt i cases omkring fartkontroller, droner samt 360-graders-kameraer i politibiler.

Der er tale om overvågningsteknologier, der i høj grad påvirker borgerne, og som er stærkt omdiskuterede. Konkret vil vi derfor se nærmere på de antagelser og idéer, der ligger bag indsatserne, og vi vil prøve at kaste lys over både synlige og usynlige former for overvågning, og hvordan de spiller sammen. Indtil videre har vores informanter i politiet, trafikmyndighederne og de involverede it-udviklere lagt vægt på det forebyggende ved indsatserne frem på afstraffelse og kontrol.

I praksis ser vi til gengæld, at de forskellige overvågningsteknologier bliver mere og mere udbredte, mens myndighederne mangler personale. Vi ser også tegn på, at digitale redskaber ikke nødvendigvis er de mest hensigtsmæssige, hvis målet er en bedre trafiksikkerhed.

Endelig kan vi se, at der bør stilles spørgsmål ved, hvordan og til hvad de indsamlede data skal bruges i fremtiden, herunder hvordan området i det hele taget bør reguleres.

Vi ønsker at lade de forskellige stemmer blive hørt, hvad enten det er politiet, chauffører eller byplanlæggere, så vi reelt kan komme videre i diskussionerne. Det kan for eksempel være i form af mere udførlige regler, hvor der også kan sikres transparens omkring de offentlige digitaliseringsstrategier.