Midjourney/Vahle

POLICING

Forbud mod predictive policing måske på vej

EU skal den 6. december tage stilling til en ny AI-forordning. Her vil man blandt andet forbyde såkaldte ”predictive policing”-systemer, hvor algoritmer forudser kriminalitet baseret på profilering og lokation. "Et meget vigtigt skridt væk fra muligt skræmmende misbrug af overvågning, hvis det bliver vedtaget", siger PROSAs it-politiske rådgiver, Ole Tange.


En AI-forordning er på vej, og skal efter planen vedtages i morgen, onsdag den 6. december, i EU. Rygterne går dog på, at forhandlingerne er så svære, at det risikerer at blive udskudt.

Der er tale om resultatet af såkaldte triologi-forhandlinger mellem Ministerråd, Kommission og parlament.

Her ønsker parlamentet blandt andet at forbyde såkaldte “predictive policing”-systemer, hvor algoritmer forudser kriminalitet baseret på profilering, lokation eller tidligere kriminel adfærd.

Noget, som har været forsøgt brugt, og som har mødt stor kritik i blandt andet forskellige amerikanske byer. Blandt andet fordi systemerne viste sig at være biased og desuden stemplede ud fra race eller uden egentligt motiv.

I PROSA håber it-politisk rådgiver Ole Tange, at parlamentets ønske bliver vedtaget.

Ole Tange deltager allerede i arbejdsgruppen bag det første større projekt, hvor forskere fra flere europæiske lande forsøger at kortlægge brugen af algoritmer og datahøst i politiets arbejde. Projektet hedder Critical Understanding of Predictive Policing, CUPP.

- Der er heldigvis intet, der tyder på, at politiet i Europa bruger data til at profilere på individniveau, men der er mange små røde flag alligevel i forhold til politiets høst af data, brug af data, samarbejde med store globale private firmaer som Palantir omkring databaserede platforme og i det hele taget indførslen af overvågning, som er uden egentlig transparens, så såvel offentlighed som politikere har reelt kendskab til, hvad og hvordan politiet gør brug af i systemerne, siger Ole Tange.

 

Kan misbruges
Ifølge den it-politiske rådgiver er det vigtigt, at der bliver sat grænser, fordi adgangen til data er næsten grænseløs og dermed også muligheder for misbrug og overvågning.

- Risikoen udgør det, som Snowden refererer til som 'turnkey tyranny'". Turnkey tyranny er en form for tyranni, der ligger klar til brug og blot venter på, at en tyran overtager magten. Forestil dig, hvilke magtmisbrug DDR's ledelse kunne have begået, hvis de havde haft adgang til de omfattende mængder af data, der i dag bliver registreret om os alle. Stasis metoder ville være lige så ineffektive, som en solsort i et stormvejr sammenlignet med den moderne overvågningskapacitet. Det er dét, som vi skal sørge for, at vi ikke bygger op, siger han.
 

Konference om predictive policing
Ole Tange henviser i øvrigt til, at CUPP-projektet fremlægger deres resultater og i det hele taget sætter fokus på politiets brug af data og algoritmer i Europa og andre lande på en større konference på ITU i januar.

- Vi har i den grad brug for fokus, forståelse og forsigtighed. Myndighedernes anvendelse af data hentet fra overvågning og en frygtelig masse systemer og enheder – herunder opbevaringen og sikkerheden af data – er slet ikke debatteret eller har været nok i det offentlige søgelys, siger Ole Tange.

Andre områder, som EU skal tage stilling til onsdag, er parlamentets ønsker om forbud mod alle biometriske kategoriseringssystemer, som anvender følsomme (person)karakteristika, følelsesgenkendelsessystemer inden for retshåndhævelse, grænsekontrol, arbejdspladser og uddannelsesinstitutioner samt AI-systemer, der bruger vilkårlig scraping af biometriske data fra sociale medier eller CCTV-optagelser til at skabe ansigtsgenkendelsesdatabaser.
 

Læs også: Konference sætter fokus på politiets brug af data


Læs også...

Det var en helt ny fornemmelse, da Søren tidligere på året blev ramt af stress, for han havde aldrig oplevet stresssymptomer før. Søren har arbejdet i…

I 1999 havnede Berit Søgaard mere eller mindre tilfældigt i IT-branchen, og hun har arbejdet her lige siden. I dag er hun compliancedirektør i Visma,…

Nettet er proppet til randen med websider, som kan hjælpe dig med det ene eller andet eller har så nørdet viden, at de med fordel kan besøges.

Unge tech-folk fortæller om deres håb og drømme for fremtiden. Danske virksomheder kigger mod et tysk eksporteventyr. Forfatter sætter spot på Kina og…

26-årige Francesca Tremulo rejste til Danmark fra Italien for tre år siden for at realisere drømmen om en fremtid i spilbranchen. Hun er uddannet…

Kinas tech fungerer og er udviklet i benhård konkurrence til at være bedst og billigst. Talentmassen er enorm, og der er prestige og attraktive…

Alberte Viendahl er 25 år og har læst multimediedesign på KEA. Hun er blevet vild med at kode og nørde, og nu vil hun gerne tage en top up-uddannelse…

Benjamin Elias Harris er 27 år, og han har gået på datamatikerlinjen på KEA. Han startede egentlig med at læse engelsk på Københavns Universitet, men…

28-årige Yousra Diab arbejdede i flere år som socialrådgiver, inden hun tog springet og startede på datamatikeruddannelsen. Det har været svært at…

26-årige Sophie Ankjær Andersen har læst multimediedesign på KEA. Hun drømmer om, at hun i fremtiden skal tage sit arbejde med til Bali og arbejde…