åbenhed

AI giver øget risiko for diskrimination

Når det offentlige bruger kunstig intelligens i sagsbehandlingen, skaber det risiko for diskrimination og manglende åbenhed om beslutninger, der kan have store konsekvenser for borgerne. Sådan lyder fra Institut for Menneske­rettigheder (IMR) i to nye analyser, der undersøger brugen af kunstig intelligens i den offentlige forvaltning.

IMR fastslår, at det i en retsstat er et grund­læggende princip, at borgere og offentlighed skal kunne kigge magthaverne i kortene og få indsigt i de processer, der ligger bag love og afgørelser. Men når dele af afgørelsen træffes af en algoritmisk profileringsmodel, bliver det princip udfordret. 

”Borgeren har ret til at kende til de oplysninger, der indgår i vedkommendes egen sag, og vide, hvad der ligger til grund for en afgørelse. På samme måde har kontrolinstanser og i visse tilfælde også offentligheden krav på at vide, hvordan myndigheden træffer afgørelser”, siger Marya Akhtar, der er jurist og chefkonsulent i IMR.

Modellerne benyttes blandt andet på socialområdet og beskæftigelsesområdet, men det har ikke været muligt for IMR at få et overblik over, hvor mange myndigheder der bruger profileringsmodeller i deres sagsbehandling.


Læs også...

Britisk forskerhold fandt ingen signifikante forskelle i trivslen eller fagligt niveau hos elever på skoler med og uden mobilforbud. Undersøgelsen…

Hvis du bliver præsenteret for en vagtaftale, er det derfor vigtigt, at du ser efter, hvad der gælder for din vagtordning. De vigtigste elementer er…

Du må ved en virksomhedsoverdragelse ikke stilles ringere hos din nye arbejdsgiver, og selvom du ikke nødvendigvis kan forvente at få præcist de samme…

Ny redegørelse viser, at Danmark er i top inden for IT. Hos PROSA mener man, at der er al mulig grund til stolthed af vores digitale infrastruktur og…

Hvordan er du som medlem beskyttet, hvis du bliver opsagt, når du er gravid, på barsel eller står overfor at skulle på barsel inden længe? Det giver…

Hvis din kollega, ven, nabo eller en helt fjerde har det psykisk svært, skal du ikke være bange for at tilbyde din hjælp – tværtimod. Det kan være en…

​​​​​​​Penge og vækst. De to ting er ofte øverst på listen, når det handler om, hvorfor man driver en virksomhed. Og bevares, hos Ghost Ship Games vil…

Millionerne trillede ind, da Søren Lundgaard solgte Ghost Ship Games. Han havde opnået det ypperste, og drømmen om at skabe et succesfuldt spil var…

Gaming kan meget godt for socialisering, fællesskab og interesse for IT. Hvorfor skubbes unge piger over på sociale medier og væk fra spillene i de…

Blockchain er kommet i vælten, efter at kryptovaluta igen er kommet på alles læber. Men hvad er en blockchain, og hvordan arbejder man med den? PROSAs…