Guide

Dataetiske dilemmaer

Et dataetisk dilemma er en problemstilling, hvortil der ikke findes et enkelt moralsk bestemt svar, og hvor vi eksempelvis skal foretage en afvejning mellem godt og ondt, eller hvor vi ved at gøre noget godt for fællesskabet kommer til at skade andre.

Dilemmaerne kan også opstå, når vi ikke evner at forstå overvågningskapitalismens konsekvenser eller ikke har dannelsen til at overskue rækkevidden af den teknologi, vi implementerer.

Kim Escherich, der AI-dataetisk rådgiver i IBM Danmark, har udviklet en række dilemmaer, som lægger op til debat om vores teknologiske nutid og fremtid. Fire af dem kan du se her.

 

Er dette inden for din dataetiske grænse? Ja, nej måske.
Coronakrisen 2021 I efteråret raser Covid-19 i sin fjerde bølge – værre end nogensinde. Det danske sundhedssystem er under ekstremt pres og de gængse virkemidler er utilstrækkelige. Man beslutter at indføre en række teknologiske løsninger for at identificere og inddæmme smitte samt prioritere ved indlæggelser: Visuel temperatur-id, tvungen smitteapp og triage-algoritmer. • Visuel temperatur-id består af kameraer suppleret med manuel kontrol. • Apple og Google gør Covid-19-registreringen obligatorisk som en del af styresystemet, data lagres centralt, og der kan ikke slukkes for dataindsamling. • Triage-algoritmen beregner en teoretisk livslængde baseret på livsstilsfaktorer og bruges til at prioritere patienter. • Hvis der ikke gøres noget, forventes det, at sundhedssystemet inden for 6-8 uger ikke længere kan klare presset. • Borgerrettighedsaktivister påpeger, at basale rettigheder brydes, og tvivler på, at det er en god idé at lade Apple og Google håndtere dataindsamling.
Kunstige chefer Din arbejdsplads har længe – uden at sige det – brugt kunstig intelligens til at støtte mellemledernes beslutninger. Systemet har lært medarbejdernes styrker og svagheder at kende. Ledelsen beslutter at reducere antallet af mellemledere og lade maskinen tage over. Din nye chef er en AI. • AI udpeger de medarbejdere, hvis interesser, ambitioner og kompetencer bedst matcher virksomhedens behov, og sikrer, at ledelse sker på basis af objektive kriterier og ikke på chefens fordomme og usaglige præferencer. • Det har vist sig, at maskinen faktisk træer bedre og mere rationelle beslutninger end mellemlederne. • Den kan dog ikke forklare, hvordan den når frem til beslutningerne • Man kan heller ikke diskutere med maskinen, hvis man mener, den har taget fejl.
Bekæmp klimakrisen med data Som en del af regeringens ambitiøse klimaplan ønsker man at nudge borgerne til bedre klimaadfærd. Myndighederne har allerede talrige data om den enkelte borgers adfærd og ønsker at bruge disse til at beregne en “klimakarakter” (KK), som kan fortælle hver borger om deres personlige klimaaftryk. • Beregningen fødes af data fra oentlige registre, fx elforbrug fra EnergiNet og kørselsdata fra politiets netværk af nummerpladelæsere. • Borgeren kan vælge at bidrage med adfærdsdata fra Apple Watch, Fitbit og andre kommercielle devices og apps, som også bruges af sundhedsvæsenet. • Jo bedre klimaadfærd, des højere KK vil borgeren opnå. • Borgere med høj KK vil opleve fordele, herunder lavere moms på bæredygtige fødevarer, billigere oentlig transport og billigere opladning af elbiler. • Vælger borgeren at afgive flere adfærdsdata, giver det i sig selv en højere KK.
Sundere og friere borgere Som en del af Sikkerhedspakke 3.0 er der opsat overvågningskameraer med ansigtsgenkendelse på alle oentlige institutioner. En ny algoritme kan bruge ansigtsbillederne til at vurdere borgernes sundhed og mentale tilstand. Derved er det muligt at en yde en eektiv proaktiv sundhedsfremmende indsats over for den enkelte borger – en fordel både for samfund og borger. • Algoritmen vurderer borgerne efter 5-faktormodellen og måler neuroticisme, udadvendthed, åbenhed, venlighed og samvittighedsfuldhed. • Tidlig diagnosticering og forudsigelse vil være et vigtigt værktøj i behandling af borgerne. • Algoritmen vil medføre væsentlige besparelser i form af bedre screening og diagnosticering. • Data fra algoritmen bliver automatisk tilføjet til den fælles elektroniske patientjournal. • Borgeren kan se sin sundhedsvurdering på ”Min Side” på sundhed.dk

Illustration> Mikkel Henssel

TEMA

Denne artikel er en del af et tema om demokratiske algoritmer:
Adas drøm blev til virkelighed
Det menneskelige kompas
Dataetiske dilemmaer
Algoritmer skal være legitime

Læs også

06. maj 2021 FLoC - den nye cookie
30. marts 2021 Jobopsving
04. januar 2021 Fem cloud-tip til dig med livrem og seler

Læs også...

PROSAs politiske rådgiver klager over DR til Datatilsynet

Ole Tange, it-politisk rådgiver i PROSA, har i denne uge indsendt en klage over Danmarks Radio til Datatilsynet. Det skyldes DRs krav om obligatorisk…

3 kompetencer, it-virksomhederne spotter efter

Er du på jagt efter et nyt job i it-branchen? Og er du i tvivl om, hvad virksomhederne især kigger efter? PROSAbladet har spurgt en række…

Her gøres fremtidens startups levedygtige

Fra Baltikums største sciencepark i udkanten af Tallinn sikrer Tehnopol, at hundredvis af startups kommer flyvefærdigt ud i virkeligheden. De får…

I 90’erne plantede Estland et it-træ i skolerne – i dag høster de tech-frugterne

Estiske børn og unge får praktisk talt tech ind med modermælken, da it og tech-gadgets er en helt central del af hverdagen i både børnehaver,…

Kan man stemme digitalt? I Estland er svaret 'ja'

I Estland har borgerne kunne stemme digitalt siden 2005. Der har været kritik og debat, men i dag er det mere end halvdelen af esterne, der bruger…

Fra danselærer til softwareudvikler: "Jeg synes virkelig, at tech er fedt"

Hvis man i Estland gerne vil skifte spor i sin karriere, er der en lang række muligheder for at videreuddanne sig inden for it. Skoler og online…

10 unicorns, et folkeligt DNA af iværksætteri og børn som lærer at programmere

I denne udgave af PROSAbladet har vi lavet et tema-nummer om Estland. Det er sjældent, at vi giver så meget spalteplads til et tema – men det baltiske…

Vivita lærer børn at blive iværksættere

Pulserende krea-værksted klæder estiske børn på med både tech-skills og startup-mentalitet. Der er ingen læreplaner eller kedelige eksamener, men 3D…

TV-show har gjort det nørdede cool blandt unge i Estland

Det minder om en blanding af X Factor og Den store bagedyst, og det lægger på 15. år gaderne øde i Estland. Velkommen til tv-talentshowet Rakett69,…

Hvor skal Estland hen? Fremtiden kalder på mere tech

Estland har rykket sig ufattelig langt de seneste 30 år – men hvad skal der ske nu? En af udfordringerne er, at Estland kommer til at mange hænder og…