åbenhed

AI giver øget risiko for diskrimination

Når det offentlige bruger kunstig intelligens i sagsbehandlingen, skaber det risiko for diskrimination og manglende åbenhed om beslutninger, der kan have store konsekvenser for borgerne. Sådan lyder fra Institut for Menneske­rettigheder (IMR) i to nye analyser, der undersøger brugen af kunstig intelligens i den offentlige forvaltning.

IMR fastslår, at det i en retsstat er et grund­læggende princip, at borgere og offentlighed skal kunne kigge magthaverne i kortene og få indsigt i de processer, der ligger bag love og afgørelser. Men når dele af afgørelsen træffes af en algoritmisk profileringsmodel, bliver det princip udfordret. 

”Borgeren har ret til at kende til de oplysninger, der indgår i vedkommendes egen sag, og vide, hvad der ligger til grund for en afgørelse. På samme måde har kontrolinstanser og i visse tilfælde også offentligheden krav på at vide, hvordan myndigheden træffer afgørelser”, siger Marya Akhtar, der er jurist og chefkonsulent i IMR.

Modellerne benyttes blandt andet på socialområdet og beskæftigelsesområdet, men det har ikke været muligt for IMR at få et overblik over, hvor mange myndigheder der bruger profileringsmodeller i deres sagsbehandling.


Læs også...

Det var en helt ny fornemmelse, da Søren tidligere på året blev ramt af stress, for han havde aldrig oplevet stresssymptomer før. Søren har arbejdet i…

I 1999 havnede Berit Søgaard mere eller mindre tilfældigt i IT-branchen, og hun har arbejdet her lige siden. I dag er hun compliancedirektør i Visma,…

Nettet er proppet til randen med websider, som kan hjælpe dig med det ene eller andet eller har så nørdet viden, at de med fordel kan besøges.

Unge tech-folk fortæller om deres håb og drømme for fremtiden. Danske virksomheder kigger mod et tysk eksporteventyr. Forfatter sætter spot på Kina og…

26-årige Francesca Tremulo rejste til Danmark fra Italien for tre år siden for at realisere drømmen om en fremtid i spilbranchen. Hun er uddannet…

Kinas tech fungerer og er udviklet i benhård konkurrence til at være bedst og billigst. Talentmassen er enorm, og der er prestige og attraktive…

Alberte Viendahl er 25 år og har læst multimediedesign på KEA. Hun er blevet vild med at kode og nørde, og nu vil hun gerne tage en top up-uddannelse…

Benjamin Elias Harris er 27 år, og han har gået på datamatikerlinjen på KEA. Han startede egentlig med at læse engelsk på Københavns Universitet, men…

28-årige Yousra Diab arbejdede i flere år som socialrådgiver, inden hun tog springet og startede på datamatikeruddannelsen. Det har været svært at…

26-årige Sophie Ankjær Andersen har læst multimediedesign på KEA. Hun drømmer om, at hun i fremtiden skal tage sit arbejde med til Bali og arbejde…