åbenhed

AI giver øget risiko for diskrimination

Når det offentlige bruger kunstig intelligens i sagsbehandlingen, skaber det risiko for diskrimination og manglende åbenhed om beslutninger, der kan have store konsekvenser for borgerne. Sådan lyder fra Institut for Menneske­rettigheder (IMR) i to nye analyser, der undersøger brugen af kunstig intelligens i den offentlige forvaltning.

IMR fastslår, at det i en retsstat er et grund­læggende princip, at borgere og offentlighed skal kunne kigge magthaverne i kortene og få indsigt i de processer, der ligger bag love og afgørelser. Men når dele af afgørelsen træffes af en algoritmisk profileringsmodel, bliver det princip udfordret. 

”Borgeren har ret til at kende til de oplysninger, der indgår i vedkommendes egen sag, og vide, hvad der ligger til grund for en afgørelse. På samme måde har kontrolinstanser og i visse tilfælde også offentligheden krav på at vide, hvordan myndigheden træffer afgørelser”, siger Marya Akhtar, der er jurist og chefkonsulent i IMR.

Modellerne benyttes blandt andet på socialområdet og beskæftigelsesområdet, men det har ikke været muligt for IMR at få et overblik over, hvor mange myndigheder der bruger profileringsmodeller i deres sagsbehandling.


Læs også...

Det er absolut ikke let at få et ben inden for i spilindustrien, når man kommer fra udlandet og har taget en uddannelse i Danmark. De regler, som skal…

YouTube er ved at blive det mest populære valg til tv-streaming. Og har også fået fat i de ældre generationer.

I følge studie fra Microsoft er oversættere efterfulgt af historikere, de mest udsatte stillinger i forhold til AI. Webudviklere, forfattere, sælgere,…

En svag adgangskode var tilstrækkeligt til, at en ransomware-bande formåede at ødelægge en 158 år gammel virksomhed og gøre 700 mennesker…

Årets hyggeligste weekend står for døren. Og du kan komme med helt gratis og bruge tiden med andre IT-studerende. Dette års STUD-træf har temaet AI.…

Quiet cracking, hvor forholdet til arbejdspladsen har slået revner, men de ansatte alligevel møder ind dagligt, er en ny tendens som er ved at sprede…

Fra Open Source til hacking, Coding Pirates, frivillige mentorer i NGO'er, spilbranchen. Tech og IT af i dag handler i høj grad om at samarbejde, dele…

Journalist, privacy-forkæmper og IT-debattør Anders Kjærulf fik til opgave at beskrive blockchain i PROSAbladet. Han nåede frem til, at det ikke er…

Jacob Herbst er i dag et vaskeægte IT-sikkerhedskoryfæ, og han har i knap 30 år været med til at sætte retningen for cybersikkerhed. Her fortæller han…

Hos nonprofit-organisationen Hackyourfuture, HYF, oplever man et fald i forhold til at få webudviklere fra de seneste seks uddannelseshold i…