Senorforske Rikke Frank Jørgensen

Rikke Frank Jørgensen er seniorforsker på Institut for Menneskerettigheder

perspektiv

Digitalisering med respekt for rettigheder

Der mangler et overblik over offentlige myndigheders brug af kunstig intelligens, mener seniorforsker Rikke Frank Jørgensen.

Danmark er blandt de førende i verden, når det gælder digitalisering af borgernes kontakt med den offentlige sektor.

Denne digitalisering indbefatter i stigende grad også brug af kunstig intelligens til at træffe afgørelser om for eksempel ydelser, indsatser eller sanktioner overfor borgere.

Men trods et stort politisk fokus på området – for eksempel i regeringens strategi for kunstig intelligens – mangler der et overblik over offentlige myndigheders brug af kunstig intelligens, samt hvorledes disse systemer griber ind i borgerens rettigheder.

Spørgsmålet om, hvorledes myndighedernes brug af kunstig intelligens påvirker borgeren, er kun sporadisk blevet adresseret i Danmark, og det offentliges forskellige digitaliseringsstrategier kommer ikke nærmere ind på, hvilke følger det eksempelvis kan få for borgernes retssikkerhed, at dele af sagsbehandlingen udføres af profileringsmodeller.

Både i EU, Europarådet og FN er man bekymret for, at kunstig intelligens kan underminere beskyttelsen af den enkeltes rettigheder.

Der mangler et overblik over offentlige myndigheders brug af kunstig intelligens
- Rikke Frank Jørgensen og Marya Akhtar, Institut for Menneskerettigheder

For brugen af profileringsmodeller kan skabe nye risici for diskrimination og komme i konflikt med databeskyttelsens princip om dataminimering.

Det kan også underminere det grundlæggende retsstatsprincip, at borgere og offentlighed kan kigge forvaltningen i kortene og få indsigt i sagsbehandling og afgørelser.

Fordi profileringsmodeller potentielt har så stor betydning for borgernes rettigheder, er det afgørende, at de udvikles ud fra en rettighedsbaseret tilgang.

En rettighedsbaseret tilgang indebærer, at det skal være muligt at få indblik i myndighedernes brug af profileringsmodeller og til en vis grad også indblik i, hvordan modellerne virker.

Ligeledes bør offentlige myndigheder kunne dokumentere, at de overholder samtlige rettigheder og retsgarantier for borgerne, når de bruger profileringsmodeller.

Offentlige AI-registre

Amsterdam og Helsinki blev i efteråret 2020 nogle af de første byer i verden, der åbnede offentligt tilgængelige AI-registre over myndigheders brug af kunstig intelligens.

Registrene giver overblik over, hvilke AI-systemer der anvendes.

For hvert system er der oplysninger om datasæt, databehandling, sikring mod diskrimination, menneskelig kontrol og generelle risici.

Læs mere i to rapporter fra Institut for Menneskerettigheder

For at skabe større klarhed over området, har Institut for Menneskerettigheder blandt andet anbefalet, at Digitaliseringsstyrelsen opretter en offentligt tilgængelig oversigt over samtlige offentlige myndigheders brug af profileringsmodeller rettet mod borgere.

Instituttet har også anbefalet, at alle offentlige myndigheder, der anvender profileringsmodeller rettet mod borgere, forpligtes til at oplyse borgere om dette samt ved afgørelser at informere borgere om, hvordan modellen er nået frem til sine resultater.

Disse og flere andre anbefalinger er led i en større rapport om offentlige myndigheders brug af profileringsmodeller samt de rettighedsmæssige udfordringer, det rejser.

Lad os håbe, at regeringen tager anbefalingerne til sig, så den danske digitaliseringsdagsorden kan få en stærk rettighedsbaseret forankring.


Læs også...

Kim Sondrup, der arbejdede 4,5 år i drift-organisationen hos Netcompany, peger på, at det var fedt at få lov til at lave samfundskritiske løsninger,…

En tidligere Netcompany-ansat, der var cirka seks måneder i konsulentforretningen, fortæller, at det var hårdt mentalt at arbejde i it-virksomheden.…

Rasmus Madsen, der arbejdede 5,5 år i drift-organisationen hos Netcompany, var glad for jobbet hos it-virksomheden, men oplevede også, at mange…

En tidligere medarbejder, der ønsker at være anonym, arbejdede godt tre år i konsulentforretningen hos Netcompany. Der var mange lange dage på…

Rene Mejer Lauritsen var ansat 5,5 år i konsulentforretningen hos Netcompany. Han peger på, at der var en masse gode muligheder i virksomheden, men at…

Hvis et ekstraordinært stort arbejdspres og et højt stressniveau var hverdag for størstedelen af de ansatte hos Netcompany, ville it-virksomheden ikke…

Vækst har været den helt store overskrift for Netcompany i de seneste år, hvor antallet af medarbejdere også er vokset massivt. Samtidig har medierne…

Blot 13-årige Willis Gibson med gamernavnet Blue Scuti blev den første til at nå ”Kill screen” i Tetris. Det var han dog kun ene om i få dage. Kort…

To år inde i den russiske invasion kæmper it-professionelle stadig med at få en hverdag til at hænge sammen mellem strømafbrydelser og bomberegn. De…

Coding Pirates fylder 10 år den 28. februar. Græsrodsorganisationen har afdelinger i hele landet, hvor børn og unge leger og lærer sig til…