Foto: Mikal Schlosser

Forskning

Retfærdige algoritmer

Professor Asaa Feragen-Hauberg fra Institut for Matematik og Computer Science, DTU, skal i løbet af tre år undersøge om, man kan skabe retfærdige algoritmer i sundhedsvæsnet.

Forskningsprojektet ’Bias and fairness in medicine’ skal udvikle algoritmer for retfærdig kunstig intelligens. Håbet er, at de kan diagnosticere og henvise til behandling i sundhedsvæsenet uden at forskelsbehandle. For fordomme er ikke kun forbeholdt mennesker. Algoritmer er oplært til at reproducere de beslutninger, der forekommer i de data, de er trænet på.

Hvad er problemstillingen?

Hvis mænd bliver underdiagnosticeret med depression, mens kvinder ikke gør, vil den kunstige intelligens udøve den samme partiskhed, når den diagnosticerer depressionen. Og hvis læger holder tilbage med at give psykologtimer til mænd, vil algoritmen gøre det samme. Det er ikke optimalt, at det sker denne forskelsbehandling.

Hvad er projektets mål?

Alle har ret til en korrekt diagnosticering og fair behandling. Projektet skal derfor udvikle algoritmer for kunstig intelligens, der er ude af stand til at diskriminere nogle patienter.

Hvorfor er det interessant?

En veltrænet algoritme vil ikke have den støj, som et menneske har. En algoritme har ikke en dårlig dag, som en læge kan have.

Hvordan vil du gribe projektet an?

Jeg samarbejder med Sune Hannibal Holm, som forsker i AI og etik på KU, og Melanie Ganz, der forsker i depression og statistiske metoder for sundhedsdata på Rigshospitalet. Først vil vi lave et registerstudie, hvor vi ser på depressionsdata hos danske patienter. Vi vil teste vores hypotese om, at der er skævheder i data, for eksempel i hvor tit danskerne bliver diagnosticeret, og hvilken type behandling de får baseret på køn, alder, geografi og indkomst. Herefter vil vi undersøge, hvad det vil sige, at en algoritme skal være fair i sundheds­væsenet. Til sidst vil vi udvikle algoritmer for mere retfærdig kunstig intelligens i sundhedsvæsenet.

Hvad er udfordringen?

Det er ikke oplagt, hvad det vil sige, at en sundheds­algoritme er retfærdig. Det skal vi undersøge, og vi vil skabe nye definitioner af retfærdig kunstig intelligens, for det at være "retfærdig" i sundhedssektoren er med stor sandsynlighed anderledes end andre steder.

Projektet er støttet af Danmarks Frie Forskningsfond.

Følg projektet på fairmed.compute.dtu.dk


Læs også...

Internettet er faktisk sundt, viser en ny undersøgelse, der kommer netop som techgiganter ventes at udfordre Google i kampen om markedsandele med…

PROSAS seneste undersøgelse viser, at 54 procent af medlemmerne ikke havde en eneste dag med efteruddannelse i 2023. "Det er bekymrende", synes…

Lønnen steg mere for PROSA-medlemmer i 2023 end i den øvrige branche. Det viser den nyeste lønstatistik fra 2024.

"It-folk er eftertragtede og en…

Gustav, Valdemar og Julie elsker at game, og de får lov til at dyrke deres passion hver eneste dag – de går nemlig på game design-linjen på Københavns…

Simon og Danni er to af de it-sikkerhedsfolk, som hver dag sidder og kæmper mod hackerne. De kan kalde på Supermand og Catwoman, når der sker noget…

Kønsfordelingen er skæv i it-branchen, men hvorfor er det overhovedet et problem? Og hvordan er vi havnet her? Rikke Kristine Østergaard har en…

Kunstig intelligens gnaver sig med lynets hast ind i it-sikkerhedsbranchen – og det giver både muligheder og udfordringer, påpeger Jacob Herbst fra…

Hvis det offentlige bøjer sig så meget for tech-giganterne, at de ligefrem vil gøre det ulovlige lovligt, så er en vigtig beskyttelse af os alle…

Hvor kommer hackerne fra? Hvad har krigen i Ukraine betydet for cyberkriminaliteten? Og hvor godt rustede er vi egentlig mod truslerne?…

Vi har set flere eksempler på, at virksomhedsplatforme misbruger begrebet 'selvstændig' for at undgå omkostninger til for eksempel løn under sygdom og…