Ansigtsgenkendelse via DNA-fremstillede ansigter
Foto: Mike MacKenzie, Creative Commons.
For nylig kombinerede politiet i USA to eksisterende dystopiske teknologier på en helt ny måde for dermed at krænke de borgerlige frihedsrettigheder. Helt i overensstemmelse med retshåndhævelsens tradition med at tage forældede, invasive og undertrykkende teknologier, og gøre dem digitale for derefter at kalde det innovation.
En politistyrke i Californien brugte en ny praksis med at tage en DNA-prøve fra et gerningssted, køre det gennem en tjeneste leveret af det amerikanske firma Parabon NanoLabs, som gætter, hvordan gerningsmændenes ansigt så ud, og derefter tilslutter det gengivne billede til et softwaregram for ansigtsgenkendelse for at kunne udarbejde en liste over mistænkt.
Artiklen her er bearbejdet efter en artikel af Paige Collings og Matthew Guariglia offentliggjort på Electronic Frontier Foundation (EFF) (1)
Ikke alt ved processen er nyt.
Ved mere end én lejlighed har politistyrker fodret billeder af berømtheder ind i et softwareprogram til ansigtsgenkendelse for at generere lister over mistænkte. I et tilfælde fra 2017 besluttede New York Police Department, at den mistænkte lignede Woody Harrelson og kørte skuespillerens billede gennem softwaren for at generere hits. En software leveret af det amerikanske firma Vigilant Solutions gør det muligt for politiet at oprette “et proxybillede fra en skitsekunstner eller en kunstner gengivelse” for at forbedre billeder af potentielle mistænkte, således at ansigtsgenkendelses softwaren kan matche billederne mere præcist.
Siden 2014 har politiet i USA søgt hjælp fra Parabon NanoLabs – et firma, der hævder, at det kan skabe et billede af den mistænktes ansigt ud fra deres DNA. Parabon NanoLabs hævder at have opbygget systemmet ved at træne maskinlæringsmodeller med DNA-data fra tusindvis af frivillige med 3D-scanninger af deres ansigter. I øjeblikket er det det eneste firma, der tilbyder fænotypebestemmelse i samspil med en retsgenetisk slægtsforskningsundersøgelse. Processen er endnu ikke blevet uafhængigt vurderet, og forskere har bekræftet, at det ikke er muligt at forudsige ansigtsformer – specielt fra DNA-prøver. Det har dog ikke forhindret de retshåndhævende myndigheder i at forsøge at bruge det eller fra at køre præfabrikerede billeder gennem ansigtsgenkendelsessoftware.
Kort sagt: politiet bruger DNA til at skabe et hypotetisk og på ingen måde et nøjagtigt ansigt og bruger derefter ansigtet som et fingerpeg til efterforskning af forbrydelser. Ikke alene er det et politi der kaster med terninger, det truer også rettigheder, friheden eller endda livet for den, der er uheldig nok til at ligne det kunstige ansigt lidt.
Det bliver værre.
I 2020 bad en detektiv fra East Bay Regional Park District Police Department i Californien om at få et gengivet billede fra Parabon NanoLabs kørt gennem ansigtsgenkendelses softwaren. 3D-gengivelse, kaldet en Snapshot Phenotype Report, forudsagde, at den mistænkte blandt flere egenskaber var en mand, havde brune øjne og lys hud. Fundet i politiets registre offentliggjort af Distributed Denial of Secrets, ser det som den første rapportering fra en detektiv, der kører en algoritmisk genereret gengivelse baseret på DNA fra gerningsstedet gennem et ansigtsgenkendelsessoftware. Det lægger et nyt lag af spekulationer om den mistænktes faktiske ansigt og det produkt, politiet bruger til at lede efterforskningen og foretage anholdelser med. I forvejen er det kunstige ansigt et gæt, nu vil ansigtsgenkendelse (en teknologi, der er kendt for at fejlidentificere mennesker) skabe det “mest sandsynligt match” for ansigtet.
Disse teknologier og deres hensynsløse brug af politiet er en iboende trussel mod vores individuelle privatliv, ytringsfrihed, informationssikkerhed og social retfærdighed. Teknologierne for ansigtsgenkendelse har en ekstrem historie med fejlidentifikation af farvede mennesker, især sorte kvinder, samt manglende korrekt identifikation af trans- og nonbinære mennesker. Algoritmerne er ikke altid pålidelige, og selvom teknologien på en eller anden måde var 100% nøjagtige, ville det stadig være et uacceptabelt værktøj til invasiv overvågning, som er i stand til at identificere og spore mennesker i massiv skala. Kombination af dette med fabrikerede 3D-gengivelser med DNA fra gerningssteder øger eksponentielt sandsynligheden for falske anholdelser og forværrer de eksisterende skader i et samfund, der allerede er uforholdsmæssigt overvåget med ansigtsgenkendelsesteknologi og diskriminerende politiarbejde.
Ingen regler
Der er ingen føderale regler i USA, der forbyder politiet at foretage disse handlinger. På trods af detektivens anmodning, som overtræder Parabon NanoLabs ‘servicevilkår, er der tilsyneladende ingen måde at sikre overholdelse på. At samle kriterier som hudfarve, hårfarve og køn giver ikke et nøjagtigt ansigt på en mistænkt, og implementering af disse uprøvede algoritmer uden noget tilsyn betyder at folk risikerer at blive mistænkt for en forbrydelse, de ikke har begået. I et tilfælde fra Canada udstedte Edmonton Police Service en undskyldning for sin manglende balance mellem skaderne på det sorte samfund og i forhold til den potentielle efterforskningsværdi efter at have brugt Parabons DNA-fænotype tjenester til at identificere en mistænkt.
Electronic Frontier Foundation (EFF) opfordrer fortsat til et totalt forbud mod regeringens brug af ansigtsgenkendelse – for ellers bliver dette resultatet. Hvor mange flere beviser har lovgiverne brug for, i forhold til at politiet ikke kan stole på denne farlige teknologi? Hvor mange flere mennesker skal fejlagtigt arresteres, og hvor mange flere hensynsløse planer som denne skal der begås, før lovgiverne indser, at det ikke er en bæredygtig metode til retshåndhævelse? Byer over hele USA har allerede taget skridt til at forbyde regeringens brug af denne teknologi, og Montana har specifikt anerkendt en privatlivs interesse i fænotypedata. Andre byer og stater er nødt til at indhente det forsømte, eller Kongressen er nødt til at handle, før flere mennesker kommer til skade, og vores rettigheder trædes under fode.
Noter:
1) Electronic Frontier Foundation (EFF) er den førende nonprofitorganisation, der forsvarer borgerlige frihedsrettigheder i den digitale verden. EFF blev grundlagt i 1990 og kæmper for brugernes privatliv, ytringsfrihed og innovation gennem retssager, politikanalyse, græsrodsaktivisme og teknologiudvikling. EFF’s mission er at sikre, at teknologien understøtter frihed, retfærdighed og innovation for alle mennesker i verden.
Læs mere her:
