PimEyes: Integrationen af Meta Smart briller kan have ‘irreversible konsekvenser’
Foto: Axrxax, Wikimedia Commons
To Harvard-studerende skabte overskrifter efter at de havde konverteret Metas smarte briller til en enhed, der automatisk fanger folks ansigter med ansigtsgenkendelse og kører dem gennem ansigtssøgemaskiner. En af de virksomheder, der leverer ansigtssøgningsfunktionen, PimEyes, var ikke så tilfreds.
PimEyes er en online ansigtssøgemaskine, der gennemgår internettet for at finde billeder, der indeholder givne ansigter. PimEyes bruger søgeteknologier til ansigtsgenkendelse til at udføre en omvendt billedsøgning.
PimEyes skriver at deres “ansigtsfinder hjælper dig med at finde et ansigt og beskytte dit privatliv. Ansigtsgenkendelse online-system giver dig mulighed for at søge efter billede. PimEyes er en ansigtsbilledsøgning og fotosøgemaskine, der er tilgængelig for alle. Det er et fantastisk værktøj til at revidere krænkelse af ophavsretten.”
I en artikel fra Biometric Update fra den 7. oktober 2024 fremgår det, hvordan de to Harvard-studerende AnhPhu Nguyen og Caine Ardayfio udgav en video af sig selv ved at bruge Metas Ray-Ban Smart briller til at identificere folk på gaden for derefter slå deres personlige oplysninger op gennem tjenester som PimEyes. De studerende brugte det integrerede kamera på Metas briller til at optage live video gennem Instagram og derefter køre det gennem deres software I-XRAY.
Computerprogrammet overvåger derefter streamningen og bruger AI til at identificere ansigter. Disse fotos føres derefter ind i offentlige databaser for at finde navne, adresser, telefonnumre og endda slægtninge. Disse oplysninger føres derefter tilbage via en telefonapp. Det fremgår af deres video. Hele processen bliver afsluttet inden for halvandet minut.
Hovedmålet for de to studerende var ikke at demonstrere, hvordan store sprogmodeller og omvendt ansigtssøgning kan arbejde sammen, men at gøre opmærksom på privatlivsrisici ved en bredt tilgængelig teknologi.
PimEyes advarer dog om, at projektet kan have irreversible konsekvenser ved at inspirere andre til at kopiere teknologien.
“De har ikke kun demonstreret deres pointe, men også utilsigtet givet en plan til ondsindede personer om, hvordan man våbengør let tilgængelige værktøjer,” fortalte PimEyes-direktør Giorgi Gobronidze til Biometric Update.
For at kunne skalere projektet på et større niveau kræves API-integration, hvilket PimEyes ikke tillader. Application Programming Interface, forkortet API, er en softwaregrænseflade, der tillader et stykke software at interagere med andet software. PimEyes vil dog på baggrund af projektet implementere yderligere sikkerhedsforanstaltninger for at forhindre misbrug af teknologien.
PimEyes’ software brugt af politiet i New Zealand
I New Zealand, viste en intern revision, at politiets personale havde besøgt PimEyes’ hjemmeside næsten 400 gange sidste år, indtil de blev blokeret i maj 2023. New Zealands politi havde ligeledes brugt en lignende tjeneste kaldet Facecheck.ID næsten 300 gange.
I en erklæring til nyhedsmediet RNZ udtalte politiet, at det ikke var muligt at fastslå, hvad brugerne gjorde på hjemmesiden, men at det var usandsynligt, at personalet havde brugt scanningsfunktionerne.
I år forbød Storbritannien sin største politistyrke at bruge PimEyes, efter at det blev konstateret, at den havde haft adgang til softwaren over 2.000 gange. Myndighedernes brug af softwaren har også skabt bekymring i Australien og Tyskland.
Ifølge Biometric Update har PimEyesr foretaget “væsentlige institutionelle ændringer” i løbet af det sidste år for at sikre overholdelse, herunder fokus på dataminimering. Man har ligeledes arbejdet på at optimere det neurale netværk for at sikre, at børnerelateret indhold blev blokeret med stor nøjagtighed.
Læs mere her:
