OFF’s manifest, en international bevægelse mod digital demens
Illustration: OFF
Da teknologien har infiltreret alle aspekter af menneskets eksistens, har digital bedøvelse bedøvet menneskets autonomi samt evnen til kritisk tænkning.
Det er derfor presserende at genopfinde OFF-knappen, som er forsvundet fra vores liv, og genvinde retten til at bruge teknologi uden at blive brugt af den.
Den internationale borgerbevægelse (“OFF”) med centrum i Spanien har til formål at “fremme kritisk refleksion, borgerengagement og konkrete handlinger” for at modvirke denne farlige udvikling.
Bevægelsen har til det formål offentliggjort et manifest, som er underskrevet af mere end 300 fremtrædende personligheder fra videnskab, kultur, medicin, jura, filosofi og erhvervsliv.
OFF-manifestet er et wake-up call til borgere og myndigheder og fremhæver det kritiske vendepunkt, vi ved at nå i vores forhold til digital teknologi. Den opstiller en række konkrete tiltag for at imødegå udfordringen for vores arts fremtid.
- Manifestet kan underskrives HER.
- Manifestet kan også findes på hjemmesiden, hvorfra det kan downloades på flere sprog.
Præambel / Forord
Teknologi kan være et vidunderligt værktøj for menneskeheden, et værktøj der har gjort det muligt for den at overvinde mange forhindringer og lidelser gennem århundreder. Vi mener dog, at nutidens fremherskende paradigme for teknologisk udvikling ikke er helt i overensstemmelse med menneskehedens interesser, og at der er et presserende behov for en grundig offentlig bevidsthed, der fører til et krav om strenge politiske foranstaltninger for at genvinde kontrollen. Vi ønsker at fortsætte med at nyde de fordele, som teknologien tilbyder os, uden at blive tvunget til at udholde nogle af de mest skadelige konsekvenser, den kan medføre, enten ved design eller på grund af manglende regulering.
En væsentlig del af den digitale teknologi og AI, der i øjeblikket promoveres, fremmer et miljø, hvor mennesker er sårbare, og deres frihed og integritet er truet. De risikerer at få deres vilje betinget, ikke at være i stand til at træffe beslutninger autonomt og uden indblanding udefra, at leve under en overvågningstilstand, hvor der udøves intens kontrol over deres liv, eller at det bliver stadig vanskeligere at skelne sandheden. Hvis vi tillader denne model at konsolidere og slå fodfæste, kan den verden, der er formet af nogle af nutidens teknologier, uigenkaldeligt blive en verden, hvor menneskeheden selv ikke har nogen plads, fordi de logiske elementer ikke anerkender dens unikke natur og dens interesser. Det kan endda føre til vores arts udryddelse.
Stillet over for denne eksistentielle risiko for menneskeheden fastlægger dette MANIFEST en række hastende foranstaltninger for at genvinde kontrollen over digital teknologi og sikre, at den forbliver i menneskehedens tjeneste, samtidig med at de negative konsekvenser, den medfører, inddæmmes så effektivt som muligt.
Manifestet
Genvinding af kontrollen over digitale teknologier
Vi står ved et historisk vendepunkt, hvor teknologiens magt vokser eksponentielt og præsenterer en udfordring uden fortilfælde i vores arts historie.
Den accelererede teknologiske udrulning, vi er vidne til, finder sted med ringe demokratisk kontrol. Da de kortsigtede fordele ved mange teknologiske innovationer har en tendens til at være lettere at opfatte end de risici, de indebærer, er den forhastede anvendelse af teknologiske applikationer – af enkeltpersoner, fagfolk, virksomheder, forvaltninger og uddannelsesinstitutioner – en fristelse, der er vanskelig at modstå i mangel af klare barrierer og protokoller, der evaluerer deres konsekvenser og sikrer, at de respekterer grundlæggende rettigheder og ikke strider mod vores almene interesse.
På den baggrund afviser vi synspunktet om, at vi kun er tilskuere til en ustoppelig teknologisk OFF-determinisme. Tværtimod er vi overbeviste om, at vi skal handle for at blive enige om en ramme, der kan anvendes til at reducere teknologisk kontrol over mennesker, og hvor teknologisk udvikling er i menneskehedens tjeneste og ikke omvendt.
Hvad vi observerer
En bekymrende udvikling
- Den stigende asymmetri mellem menneskelige evner og teknologiens evner betyder, at sidstnævnte kan bruges af enkeltpersoner eller offentlige og private organisationer til at udøve kontrol over andre, hvad enten det er kommercielle, sikkerhedsmæssige eller andre formål. Det begrænser eller eliminerer individets frihed, frie vilje og dømmekraft.
- Vores individuelle og kollektive afhængighed af digitale infrastrukturer er en sårbarhed, der kan udnyttes til kriminelle, terroristiske eller ideologiske formål til at lamme, ødelægge eller beskadige elementer, der er vigtige for vores eksistens.
- Den stigende autonomi fjerner i stigende grad teknologien fra menneskets kontrol. Selvom maskiner indtil for nylig i høj grad blev kontrolleret af mennesker, betyder deres voksende kompleksitet og autonomi, at selv deres bygherrer ofte ikke længere forstår, hvordan de fungerer, og maskiner giver i stigende grad ordrer til mennesker.
Disse træk ved teknologisk udvikling har allerede en dybtgående indvirkning på individer og samfund. Blandt andet observerer vi:
- En markant forværring af både opmærksomhedsspændvidde og mental sundhed blandt den generelle befolkning – og især unge – ledsaget af en øget følelse af ensomhed og isolation. [1]
- En alarmerende manglende indlæring af visse funktioner, der er iboende i mennesker (såsom hukommelse, orientering, ræsonnement eller kritisk tænkning), der kvalitativt ændrer deres natur og øger deres afhængighed af teknologi. [2]
- Forvrængning af centrale valgprocesser gennem desinformationskampagner drevet af store digitale platforme, hvilket fremmer intens social og politisk polarisering. [3]
- En betydelig stigning i den kontrol, som autoritære stater udøver over deres undersåtter gennem et sofistikeret overvågningsnetværk baseret på den stadigt mere omfattende indsamling af personlige oplysninger, der behandles ved hjælp af kunstig intelligens. [4]
- En tendens, også fra demokratiske staters side, til at akkumulere og overdrevent udnytte borgernes personoplysninger og krænke deres privatliv gennem for eksempel misbrug af ansigtsgenkendelse. [5]
- En høj koncentration i teknologisektoren, hvilket betyder, at et meget lille antal virksomheder har en uforholdsmæssig stor magt, der giver dem mulighed for at intensivere den indflydelse, de udøver på borgernes liv, hvilket påvirker deres adfærd, overbevisninger og beslutninger. Disse virksomheder har også en dominerende stilling i forhold til andre virksomheder, og undertiden også i forhold til nationalstaterne selv. [6]
- Cyberangreb på kritiske infrastrukturer – såsom hospitaler eller eldistributionsnet – fremhæver sårbarheden i et samfund, hvor alle essentielle systemer er forbundet, samt det faktum, at sikkerhedskriterier ikke prioriteres tilstrækkeligt i teknologisk design og implementering. [7]
- En stigende miljøpåvirkning på grund af vilkårlig og intensiv brug af teknologi: Den skadelige udvinding af sjældne jordarter til produktion af enheder, en eksponentiel vækst i antallet af satellitter, en stigning i digitale drivhusgasudledninger, intensiv minedrift af kryptovalutaer osv. [8]
Disse tilsyneladende forskellige fænomener er faktisk tæt forbundne. De er bagsiden af vores ukontrollerede forhold til teknologi, hvis fulde potentiale er ukendt.
Hvad vi vil undgå
Principperne for de foreslåede tiltag
I et miljø, hvor menneskets eksistens i alle dens facetter i stigende grad bestemmes af teknologi, afviser vi følgende:
- En verden styret af maskiner, hvor teknologien opnår et så højt niveau af autonomi, at den fuldstændig undslipper menneskelig forståelse og kan føre os i retninger, vi ikke har valgt,
- At kriterier udelukkende baseret på optimering reducerer perimeteren af menneskelige aktiviteter på en sådan måde, at vores art ikke blot marginaliseres, men også berøves det, der gør livet meningsfuldt.
- At handel med menneskelig vilje og samvittighed er tilladt, ved brug af personlige data og forudsigelsesmodeller, der begrænser eller deaktiverer en persons evne til at afgøre, hvad de ønsker, og dermed svækker eller udsletter deres frihed.
- At private organisationer udelukkende ejer teknologier, der giver dem en dominerende position, som koncentrerer magten og giver dem mulighed for at kontrollere eller påvirke en meget væsentlig del af folks liv, en tendens, der er vanskelig at vende.
- At det er tilladt at diskriminere eller klassificere individer eller grupper af mennesker og give eller nægte dem adgang til visse ressourcer på grundlag af kriterier fastsat af maskiner, baseret på udnyttelse af data, der ikke direkte relaterer sig til det formål, hvortil denne kategorisering er etableret, hvilket fører til vilkårlige eller uigennemsigtige resultater, der ikke kan anfægtes eller ankes.
- At en maskines kunstige karakter ikke kan identificeres, hvilket skaber forvirring mellem det menneskelige og det ikke-menneskelige. At teknologier bruges, som med design præsenterer kunstige menneskelige repræsentationer som sandfærdige.
- At stater bruger teknologi til at udøve overdreven og gennemgribende kontrol over deres borgere og især misbruger ansigtsgenkendelse eller teknologier, der ikke garanterer anonymitet i offentlige rum; eller hævder retten til at spore bevægelser, transaktioner eller andre aspekter af menneskelig aktivitet.
- At systemiske teknologier implementeres uden tilstrækkelige sikkerhedsforanstaltninger og derfor kan skabe store sårbarheder.
- En stadig mere dualistisk menneskehed, hvor valget af én del af befolkningen om at fusionere med maskinen de facto vil tvinge resten af menneskeheden til enten at gøre det samme eller til at underkaste sig den førstnævntes magt.
I sidste ende mener vi, at vi skal skabe et miljø, der respekterer menneskers unikke karakter og minimerer potentialet for, at teknologi kan blive brugt til at fremmedgøre dem og underminere deres frihed.
Hvad vi foreslår
En appel til politikere og offentligheden
Dette manifest har ikke til formål at udbrede en afvisning af teknologisk udvikling som sådan. Vi anerkender dens mange fordele. Snarere er det hensigten at opfordre beslutningstagere og civilsamfundet til at tage fat på de omkostninger og risici, som menneskeheden må bære, hvis den fortsat accepterer et paradigme med vilkårlig brug af teknologi uden demokratisk kontrol, og at opfordre til hurtig handling for at minimere disse omkostninger.
For at bevare individets frihed og værdighed som kerneværdier i en kontekst med voksende asymmetri mellem teknologi og mennesker, må demokratier fundamentalt genopfinde deres handlingsrepertoire og forsvare disse rettigheder mere beslutsomt. Indsatsen fra nogle stater eller regioner, både inden for databeskyttelse og i udarbejdelsen af charter eller erklæringer til beskyttelse af digitale rettigheder (den spanske charter 2021, den europæiske erklæring 2023 eller den iberoamerikanske pagt af marts 2023), er prisværdige, men de skal intensiveres og implementeres i langt større skala.
Vi er klar over, at det er en reel udfordring for politiske systemer, der har tendens til at stole på, at individet regulerer sager, der anses for private. Vi står dog over for teknologier, der har den kollaterale effekt at tilsidesætte individuel frihed og påvirke det, der gør os menneskelige. Vi forstår også, at økonomiske og geostrategiske balancer i høj grad afhænger af teknologisk konkurrenceevne, hvilket afskrækker enhver foranstaltning, der kan opfattes som en begrænsning for teknologisk udvikling. Derfor kræver denne eksistentielle udfordring hidtil usete løsninger, ud over bløde anbefalinger.
Uanset niveauet af politisk handling vil et paradigmeskifte kun ske, hvis der sker en reel mobilisering af borgere, der udøver det nødvendige pres for at sætte emnet øverst på den politiske dagsorden. For øjeblikket er den offentlige mening mere følsom over for de kortsigtede fordele ved teknologisk udvikling end over for dens risici, som ofte er ukendte. Der er behov for debat i parlamentet og civilsamfundet for at veje risici og fordele ved det herskende teknologiske paradigme og for i fællesskab at definere de værdier, der bør styre og ramme den teknologiske udvikling.
Vi foreslår at udforske et bredt spektrum af tiltag for at imødekomme de udfordringer, vi står overfor, herunder:
1. Juridisk bindende regler, såsom:
- Forbud mod mikromålrettet reklame.
- Den forfatningsmæssige og transnationale beskyttelse af neurorettigheder (forbud mod at få adgang til vores neurale aktivitet og indsamle dens data med mulighed for at forstyrre vores mentale aktivitet).
- En international lovgivning om forbud mod autonome dødelige våben.
- Forfølgelsen af en “teknologisk deeskalering” i områder, hvor teknologi har en dokumenteret negativ kollektiv indvirkning, og dens implementering udgør en betydelig risiko for befolkningen.
- En ret til afbrydelse, der garanterer adgang til tjenester – især offentlige tjenester – i en ikke-digital kapacitet.
- Forpligtelsen for teknologivirksomheder til at give adgang til data, der gør det muligt for tredjepart inden for lovens rammer autonomt at analysere, hvordan deres platforme og algoritmer fungerer.
- Udvidelsen af protokoller, der sigter mod at validere den etiske hensigtsmæssighed af algoritmer, som virksomheder og regeringer bruger.
2. Målinger vedrørende produkter og markedsføring, herunder:
- Genindførelse og opgradering af “OFF”-funktionen i designet af teknologiske applikationer og enheder, så brugerne bevidst kan tænde og slukke for dem,
- Visse disruptive teknologier vil være underlagt strenge regulatoriske procedurer, før de kommer på markedet, som det allerede er tilfældet i brancher som medicinalindustrien og fødevarer.
- Tiltag til at uddanne, informere og styrke forbrugere, investorer og fagfolk, så deres teknologiske behov er i overensstemmelse med deres rettigheder og interesser.
3. Handlinger inden for forskning og uddannelse, såsom:
- Et moratorium på udbredt adoption af digital teknologi i skoler under en vis alder;
- Mere træning for forskellige aldersgrupper i programmering og hvordan algoritmer arbejder for at reducere asymmetrien mellem teknologi og mennesker.
- Systematisk at formidle information til forældre og værger for at øge bevidstheden om de risici, unge udsættes for,
- Fremme af dybdegående studier af visse teknologiers indvirkning på individer og samfund, især med hensyn til kognitive og adfærdsmæssige problemer, fysisk og mental sundhed samt frihed;
- Alderssvarende brug af enheder, især smartphones og andre tilsluttede enheder.
Regulering af teknologisk innovation er komplekst, og sammen med miljøkrisen udgør det en fundamental udfordring for menneskehedens forbliven en fri art. Spørgsmålet er for vigtigt til at lade debatten blive hængende fast i sekteriske holdninger. Mobilisering kan ikke udsættes så længe, som det har været tilfældet med miljøbevægelsen, hvis vi vil undgå at nå et punkt uden vej tilbage. Derfor er der et presserende behov for enighed for at sikre, at der træffes hurtige og tilstrækkeligt effektive foranstaltninger for at imødegå en udfordring af denne størrelsesorden.
Vi har akut brug for at gøre, hvad der er nødvendigt, så menneskeheden kan tage sin skæbne i egne hænder og sikre sin fortsatte eksistens som en fri art.
Bilag:
1) Blandt andre har psykolog Jean M. Twenge fra University of San Diego gennemført mange studier, der har afsløret omfanget af faldet i mental sundhed blandt unge i 2010’erne. Sammen med Jonathan Haidt fra New York University har de fastslået sammenhænge mellem brugen af smartphone og dette fald.
Se for eksempel:
– Jean M. Twenge, “The Mental Health Crisis Has Hit Millennials. Why It Happened and Why It’s Bad For Democracy”. 25/04/2023.
– “Smartphones and social media are destroying children’s mental health”, Financial Times, 10/03/2023.
2) Se for eksempel:
– Nicholas Carr’s arbejde, fra The Shallows. What the Internet Did To Our Brains til “Nicholas Carr: ‘We are becoming less intelligent, more closed-minded and intellectually limited by technology'”, BBC, 4/02/2021.
– Will Conaway, “Technology Is On The Rise, While IQ Is On The Decline”, Forbes, 29/04/2020. https://www.forbes.com/sites/forbestechcouncil/2020/04/29/technology-is-on-the-rise-while-iq-is-on-the-decline/
– Adrian F. Ward, Kristen Duke, Ayelet Gneezy, and Maarten W. Bos, “Brain Drain: The Mere Presence of One’s Own Smartphone Reduces Available Cognitive Capacity”, Journal of the Association for Consumer Research, 04/2017.
– Kaspersky Lab, “Digital amnesi” betyder, at vi ikke husker information, vi tror, vi har ved hånden, især på vores mobile enheder. For otte år siden kunne halvdelen af befolkningen ikke længere huske deres partners nummer, da de i begyndelsen af 2000’erne huskede snesevis af numre udenad. Dette fænomen med eksternalisering af hukommelsen har siden spredt sig til andre kognitive evner på en stadig mere tværgående måde, hvilket nu påvirker evnen til at argumentere, når man konstant tyer til tjenester som ChatGPT.
3) Undersøgelser foretaget af The Observer og The New York Times afslørede for et par år siden, hvordan Cambridge Analytica forsynede Donald Trumps kampagne med yderst præcise psykometriske data om millioner af Facebook-brugere, hvilket muliggjorde levering af personligt tilpasset annoncering.
Mere information:
– Kurt Wagner, “Mark Zuckerberg says it’s ‘crazy’ to think fake news stories got Donald Trump elected”., Vox, 11/11/2016.
– Víctor Muñoz, “Si crees que ahora hay desinformación sobre las elecciones, aún no he visto nada: prepárate para la IA”, El Confidencial, 04/06/2023.
4) Se for eksempel:
“Denne nye magt […] bruger ikke soldater til at true og dræbe. Den braser ind med en cappuccino, ikke en pistol.” Shoshana Zuboff. Katie Canales & Aaron Mok, “Kinas ‘sociale kredit’-system rangerer borgere og straffer dem med reducerede internethastigheder og et forbud mod at flyve, hvis kommunistpartiet anser dem for upålidelige,” Business Insider, 28/11/2023.
5) Fra Vesten ser vi med rædsel på udrulningen af overvågningsteknologier i Kina. De allestedsnærværende smarte kameraer og biometriske kontrol, der fremmer et samfund præget af hyperkontrol, virker dystopisk for os. Men også vi giver efter for denne fristelse i vores demokratier ved hjælp af “midlertidige eksperimenter”. Videoovervågning med ansigtsgenkendelsesteknologi åbner en Pandoras æske, der truer vores privatliv og anonymitet i det offentlige rum. Det repræsenterer et differentieret spring mod systematisk sporing af vores bevægelser og kontrol over vores liv. Vores ansigt har den særlige egenskab, at det både er offentligt (forstået som synligt, afdækket) og privat (fordi det udnytter en stor mængde information om os, især vores identitet og vores følelser). Hvis AI kombineret med videoovervågning analyserer, hvad der er skjult bag vores ansigt i det offentlige rum, mister vi det primære skjold, der beskytter vores indre. Hvis vi tillader ansigtsgenkendelse at blive udrullet, vil vi ikke blot miste retten til at bevæge os frit uden at blive identificeret, men også information om os vil blive akkumuleret uden at vide, hvordan den vil blive brugt i fremtiden.
Mere information:
– Amnesty International opfordrede til et forbud mod brugen af ansigtsgenkendelsessystemer som en form for masseovervågning, der forstærker racistisk politiarbejde og truer retten til at demonstrere. Kampagne: Dit ansigt spores.
6) Se for eksempel:
– Markedsværdien af verdens største internetvirksomheder i april 2023 (i milliarder af amerikanske dollars).
– Næsten alle verdens data (99%) transporteres via søkabler. 70% af de globale kabelprojekter ledes af Google, Facebook og andre, som allerede administrerer mere end 50% af verdens båndbredde. Med 21 søkabler, hvoraf 6 ejes udelukkende af Google, er Google mesteren på dette område.
– Bruce Schneier, “When It Comes to Security, We’re Back to Feudalism”, Wired, 26/11/2012.
7) Se for eksempel:
– “Cyberattack hits major hospital in Spanish city of Barcelona“, AP NEWS, 06/03/2023.
8) Se for eksempel:
– Sarah Griffiths, “Why your internet habits are not as clean as you think”, BBC, 06/03/2020.
– “Bitcoin consumes ‘more electricity than Argentina”, BBC, 10/02/2021.
Det årlige elforbrug genereret af bitcoin svarer til hele landes.
Læs mere her:
