portrætfoto

Den hollandske kunstner Jip van Leeuwenstein har udviklet en maske, der gør dig uigenkendelig for den nuværende software til ansigts­genkendelse. "Den forvrænger dine biometriske træk, men uden skjule dine ansigts­udtryk, så du kan stadig have den personlige interaktion mellem mennesker", forklarer han. Se mere på jipvanleeuwenstein.nl Foto: Jip van Leeuwenstein

Overvågning

Ansigtsgenkendelse: San Francisco siger nej

Den californiske storby, som er nabo til Silicon Valley, har som den første by i verden forbudt brugen af teknologi til ansigtsgenkendelse i forbindelse med overvågning. Årsagen er bekymring for frihedsrettigheder og diskrimination.

Uanset om det er på den centrale Union Square, som er omkranset af fancy butikker, hoteller og spisesteder, eller andre steder i San Francisco, er det muligt at lokalisere et øje i det høje – et monteret overvågningskamera.

På den måde er den kuperede storby i Californien ikke anderledes end mange andre steder på kloden.

Men San Francisco er først i verden med et forbud mod, at optagelser fra overvågningskameraer behandles med teknologi til ansigtsgenkendelse.

Byrådet vedtog i maj sidste år en forordning om forbuddet med stemmetallet 8-1.
– Ansigtsgenkendelse medfører i yderste konsekvens, at borgere kan identificeres i realtid i det offentlige rum. Vi ønsker ikke et sådant samfund. Det er ikke foreneligt med San Franciscos værdier, siger Lee Hepner.

Denne artikel er en del af et tema om ansigtsgenkendelse:

Privatlivets endestation
Ansigtsgenkendelse: San Francisco siger nej

Han er assistent for byrådsmedlem Aaron Peskin, som stillede forslaget om forbuddet.

Teknologien til ansigtsgenkendelse bruges blandt andet til opklaring af kriminalitet, identifikation på steder med meget persontrafik og opdagelse af mønstre i folks adfærd i forbindelse med for eksempel indkøb og markedsføring.

San Franciscos forbud er særlig bemærkelsesværdigt, fordi byen er nabo til tech-højborgen Silicon Valley. Meget af den omstridte teknologi til ansigtsgenkendelse udvikles i området, nemlig af virksomheder såsom Faceter, Paravision og giganten Google.

Borgerrettighedsgruppers idé

Initiativet til forbuddet kom fra en alliance af organisationer, der arbejder med borgerrettigheder, menneskerettigheder og diskrimination.

Fremstødet blev ledet af American Civil Liberties Unions (ACLU) i det nordlige Californien, som samarbejdede tæt med Aaron Peskins stab om udformningen af forordningen.
– Generelt er der meget lidt beskyttelse af privatlivets fred i amerikansk lovgivning. Samtidig viser meningsmålinger, at der er betydelig modstand mod at bruge ansigtsgenkendelse uden folks samtykke, siger Matt Cagle, der er advokat i ACLU.

Ansigtsgenkendelse medfører i yderste konsekvens, at borgere kan identificeres i realtid i det offentlige rum. Vi ønsker ikke et sådant samfund
- Lee Hepner, assistent for byrådsmedlem Aaron Peskin, som stillede forslaget om forbuddet

Forbuddet mod brug af ansigtsgenkendelse gælder først og fremmest politiet, men også i parker og andre offentlige områder samt skoler og sundhedssektoren i San Francisco.

Men det gælder ikke de steder, der hører under delstatsmyndigheder og forbundsregeringen, for eksempel San Franciscos internationale lufthavn.

Private virksomheder er heller ikke omfattet. Men de bliver alligevel berørt af forordningen, fordi bestemmelsen sikrer, at al overvågning kræver en forudgående godkendelse af byrådet, og at byens myndigheder ikke må modtage optagelser fra private aktører, hvor der er involveret ansigtsgenkendelse.
– Regulering af private aktører kan meget vel blive næste skridt, mener Matt Cagle.

Mindre frihed – mere diskrimination

Ifølge kritikerne er der to væsentlige problemer ved ansigtsgenkendelse: Teknologien påvirker den forfatningssikrede ytrings- og forsamlingsfrihed, og den øger risikoen for diskrimination.

– Hvis myndighederne ved, hvor du befinder dig, kan de også hurtigt fastslå, om du deltager i en demonstration eller tilhører en bestemt oppositionsgruppe. Den registrering kan påvirke folks lyst til at udøve deres demokratiske rettigheder, som er knyttet til at drage de valgte politiske repræsentanter til ansvar for deres beslutninger, siger Matt Cagle.

Han tilføjer, at der er en tendens til, at teknologien er mindre præcis til at genkende ikke-hvide personer. Særlig har softwaren svært ved at identificere sorte kvinder.
– Fejlen kan have følger for disse personers liv og helbred i mødet med politiet, siger Matt Cagle med henvisning til en stribe tilfælde fra rundt om i USA.

Nyttigt redskab for politiet

Kriminalitet er et massivt og voksende problem i San Francisco, og denne kendsgerning bliver brugt af fortalerne som hovedargument for, at politiet bør have mulighed for at anvende ansigtsgenkendelse. Blandt USAs 20 største byer topper San Francisco med antallet af tyverier og indbrud i forhold til indbyggertallet, viser en opgørelse fra FBI.
– Vi mener, at ansigtsgenkendelse kan være en hjælp for politiet, som trods den bedste indsats ikke har formået at dæmme op for kriminaliteten, siger Frank Noto, som bor i et højtliggende villakvarter syd for Golden Gate Park.

Frank Noto er formand for den private organisation Stop Crime SF, som presser på for skrappere midler i kampen mod kriminalitet.
– Vi erkender, at ansigtsgenkendelsesteknologien ikke er perfekt endnu, men for eksempel var dna-test heller ikke perfekte, da de blev introduceret. Og ansigtsgenkendelse kommer jo ikke til at stå alene, men kan være et supplement til andre beviser, siger Frank Noto.

Han tilføjer, at brug af ansigtsgenkendelsessoftware desuden kan være en hjælp i bestræbelserne på at afværge terrorisme og henviser her til erfaringer fra London.

Der findes mig bekendt ikke eksempler på, at brug af ansigtsgenkendelse har fået folk til at afholde sig fra at begå kriminalitet
- Lee Hepner, assistent for byrådsmedlem Aaron Peskin, som stillede forslaget om forbuddet

Lee Hepner på San Franciscos rådhus afviser på vegne af byrådsmedlem Aaron Peskin og det overvældende flertal i byrådet, at indførelse af teknologi til ansigtsgenkendelse skulle kunne styrke bekæmpelsen af kriminalitet og hindre terrorisme.
– Der findes mig bekendt ikke eksempler på, at brug af ansigtsgenkendelse har fået folk til at afholde sig fra at begå kriminalitet, siger Hepner.

Siden forbuddet i San Francisco er flere andre amerikanske byer ved at tage stilling til lignende begrænsninger på anvendelsen af ansigtsteknologi. Det gælder blandt andet Oakland og Berkeley i Californien samt Portland i Oregon, og Somerville i Massachusetts.

Delstaten Californien har desuden vedtaget et forbud mod, at ansigtsgenkendelse kan benyttes i forbindelse med optagelser med de små kameraer, som politibetjente bærer på kroppen.


Læs også...

70 procent af danske virksomhederne bruger i dag AI-værktøjer - mod blot 44 procent i 2023.

Det viser en ny analyse fra Dansk Erhverv.

996 beskriver en ny trend, hvor især AI-kapløbet får arbejdsgivere til at kræve 72 timers arbejdsuge af deres ansatte. De skal være som olympiske…

Vinteren har budt på mange historier om udviklingen i tech. Særligt tre nyheder nåede rundt i de fleste vestlige landes medier - og de handlede alle…

35-årige Will Stronge er en af verdens førende forskere inden for kortere arbejdstid. Han ser en klar trend mod at forkorte arbejdsugen flere steder i…

Redaktørens indspark: Det kan betale sig at kæmpe - selv mod giganter og måske mod AI-hype. Spørg selv Nanna fra ITU, Jens fra O2Skole og Audrey fra…

Mistral er en fransk AI-startup, grundlagt i 2023, og blandt Europas mest værdifulde AI-virksomheder med en anslået værdi på omkring 14 milliarder…

OS2skole har løsningerne til at erstatte Microsoft og Google i danske grundskoler med open source-værktøjer som f.eks. tekstbehandlingsprogrammer,…

Nanna Inie forsker i, hvordan AI bliver hypet gennem et sprog, som passer techgiganterne bag fint, men ikke forholder sig til, hvad teknologien kan…

FOSDEM er mødestedet hvor 8.000 IT-folk med kærlighed til fri software hvert år samles i Bruxelles for at netværke, få inspiration, høre de nyeste…

PROSAbladet får kritik for manglende forelæggelse og redigering af citat.