AI-generatorer er ikke ‘hallucinerende’. Men det er deres skabere
Tech CEO’s vil have os til at tro, at generativ AI (kunstig intelligens) vil gavne menneskeheden. De narrer derimod sig selv.
Naomi Klein trækker i artiklen 4 hallucinationer frem som illustrative eksempler på, hvordan AI snarere bliver et frygtindgydende værktøj til yderligere fordrivelse og udplyndring af os alle sammen:
Hallucination #1: AI vil løse klimakrisen
Hallucination #2: AI vil levere klog styring
Hallucination #3: Man kan stole på, at techgiganter ikke ødelægger verden
Hallucination #4: AI vil befri os fra slid
Målet var aldrig at løse klimaændringer eller gøre vores regeringer mere ansvarlige eller vores dagligdag mere afslappet. Det var hele tiden at profitere på masseimmisering (fattiggørelse), som under kapitalismen er den mest iøjnefaldende og logiske konsekvens af at erstatte de menneskelige funktioner med bots.
Naomi Klein klummeskribent for The Guardia, hvor artiklen blev offentliggjort den 8. maj 2023. Hun er forfatter til bl.a. bestsellerne ‘No Logo’ (*) og ‘The Shock Doctrine’ (**) samt professor i Climate Justice og meddirektør for Center for Climate Justice ved University of British Columbia.
Læs hele artiklen herunder:
Hallucinerer AI bots når de laver fejl?
Når der debatteres om den hurtige udrulning af den såkaldte kunstige intelligens, er der en relativt obskur skærmydsel med fokus på valget af ordet “hallucinere”.
Det er det udtryk, som arkitekter og boostere af generativ AI er blevet enige om at karakterisere de svar, der serveres af chatbots, som er fuldstændig opdigtede eller helt forkerte. Som for eksempel, når du beder en bot om en definition af noget, der ikke eksisterer, og derefter ret overbevisende giver dig en definition, komplet med sammensatte fodnoter. “Ingen i marken har endnu løst hallucinationsproblemerne,” fortalte Sundar Pichai, administrerende direktør for Google og Alphabet, for nylig en interviewer.
Mennesker kan hallucinere
Det er sandt – men hvorfor overhovedet kalde fejlene for “hallucinationer”? Hvorfor ikke algoritmisk skrammel? Eller fejl? Hallucination refererer til den menneskelige hjernes mystiske evne til at opfatte fænomener, der ikke er til stede, i det mindste ikke i konventionelle, materialistiske termer. Ved at tilegne sig et ord, der almindeligvis bruges i psykologi, psykedelika og forskellige former for mystik, fodrer AI’s boostere, mens de anerkender fejlbarheden af deres maskiner, samtidig sektorens mest elskede mytologi: at ved at bygge disse store sprogmodeller og træne dem i alt, hvad der vi mennesker har skrevet, sagt og repræsenteret visuelt, er de i gang med at føde en animeret intelligens på nippet til at udløse et evolutionært spring for vores art. Hvordan kan bots som Bing og Bard ellers snuble derude i æteren?
Forkvaklede hallucinationer er dog faktisk under opsejling i AI-verdenen – men det er ikke bots, der har dem; Det er de tekniske adm. dir., der slap dem løs, sammen med en falanks af deres fans, der er grebet af vilde hallucinationer, både individuelt og kollektivt. Her definerer jeg hallucination, ikke i mystisk eller psykedelisk forstand, sindændrede tilstande, der faktisk kan hjælpe med at få adgang til dybe, tidligere uopfattede sandheder. Nej. Disse folk snubler bare: ser, eller i det mindste hævder at se, beviser, der slet ikke er der, og fremtryller endda hele verdener, der vil bruge deres produkter til vores universelle ophøjelse og uddannelse.
I en verden med hyperkoncentreret magt og rigdom er AI langt fra løsningen
Generativ AI vil udrydde fattigdom, fortæller de os. Den vil helbrede al sygdom. Den vil løse klimaændringerne. Den vil gøre vores job mere meningsfulde og spændende. Den vil frigøre liv med fritid og kontemplation, samt hjælpe os med at genvinde den menneskelighed, vi har mistet til den senkapitalistiske mekanisering. Den vil gøre ende på ensomheden. Den vil gøre vores regeringer rationelle og lydhøre. Jeg frygter, at dette er de virkelige AI-hallucinationer, og vi har alle hørt dem i et loop lige siden Chat GPT blev lanceret i slutningen af sidste år.
Der er en verden, hvor generativ AI, som et kraftfuldt prædiktivt forskningsværktøj og en udøver af kedelige opgaver, faktisk kunne samles til gavn for menneskeheden, andre arter og vores fælles hjem. Men for at det kan ske, skal disse teknologier anvendes inden for en meget anderledes økonomisk og social orden end vores egen, en, der har til formål at opfylde menneskelige behov og beskytte de planetariske systemer, der understøtter alt liv.
Og som de af os, der ikke snubler i øjeblikket, godt forstår, er vores nuværende system ikke sådan. Det er snarere bygget til at maksimere udvindingen af rigdom og profit – fra både mennesker og den naturlige verden – en virkelighed, der har bragt os til, hvad vi måske kan betegne som kapitalismens tekno-nekro-fase. I denne virkelighed med hyperkoncentreret magt og rigdom er AI – langt fra at leve op til alle disse utopiske hallucinationer – meget mere tilbøjelig til at blive et frygtindgydende værktøj til yderligere fordrivelse og udplyndring.
De allerrigeste virksomheder beslaglægger ensidigt summen af menneskelig viden
Jeg vil grave i, hvorfor det er sådan. Men først er det nyttigt at tænke på formålet med de utopiske hallucinationer om AI. Hvilket arbejde laver disse velvillige historier i kulturen, når vi støder på disse mærkelige nye værktøjer? Her er en hypotese: De er de kraftfulde og lokkende forsidehistorier for, hvad der kan vise sig at være det største og mest følgeskabende tyveri menneskehedens historie. Fordi det, vi er vidne til, er, at de rigeste virksomheder i historien (Microsoft, Apple, Google, Meta, Amazon …) ensidigt beslaglægger summen af menneskelig viden, der findes i digital, skrabbar form og lukker den inde i proprietære produkter, hvoraf mange vil tage direkte sigte på de mennesker, hvis livslange arbejde trænede maskinerne uden at give tilladelse eller samtykke.
Det bør ikke være lovligt. I tilfælde af ophavsretligt beskyttet materiale, som vi nu ved trænede modellerne (inklusive denne avis), er der indgivet forskellige retssager, der vil argumentere for, at dette var klart ulovligt. Hvorfor skal f.eks. en profitsøgende virksomhed have lov til at overføre malerier, tegninger og fotografier af nulevende kunstnere til et program som Stable Diffusion eller Dall-E 2, så det kan bruges til at generere dobbeltgængerversioner af netop disse kunstneres arbejde, hvor fordelene tilflyder alle andre end kunstnerne selv?
Maleren og illustratoren Molly Crabapple hjælper med at lede en bevægelse af kunstnere, der udfordrer dette tyveri. “AI-kunstgeneratorer er trænet via enorme datasæt, der indeholder millioner og atter millioner af copyright-beskyttede billeder, høstet uden deres skabers viden, endsige kompensation eller samtykke. Det er faktisk det største kunstkup i historien. Begået af tilsyneladende respektable virksomheder støttet af Silicon Valley venturekapital. Det er røveri i dagslys,” står der i et nyt åbent brev, som hun var med til at udarbejde.
Fidusen er selvfølgelig, at Silicon Valley rutinemæssigt kalder tyveri for “disruption” – og alt for ofte slipper af sted med det. Vi kender dette træk: storm frem på lovløst territorium; hævd, at de gamle regler ikke gælder for din nye teknologi; råb, at regulering kun vil hjælpe Kina – alt imens du får dine fakta solidt på jorden. Når vi alle kommer over nyheden om dette nye legetøj og begynder at gøre status over det sociale, politiske og økonomiske vrag, er teknologien allerede så allestedsnærværende, at domstolene og politikerne rækker deres hænder op.
Vi så det med Googles bog- og kunstscanning. Med Musks rumkolonisering. Med Ubers angreb på taxabranchen. Med Airbnbs angreb på lejemarkedet. Med Facebooks promiskuitet med vores data. Spørg ikke om lov, vil forstyrrerne gerne sige, bed om tilgivelse. (Og smør spørgerne med generøse kampagnebidrag.)
I The Age of Surveillance Capitalism beskriver Shoshana Zuboff omhyggeligt, hvordan Googles Street View-kort tromlede over privatlivsnormer ved at sende sine kameradækkede biler ud for at fotografere vores offentlige veje og ydersiden af vores hjem. Da retssagerne om beskyttelse af privatlivets fred rullede rundt, var Street View allerede så allestedsnærværende på vores enheder (og så cool og så praktisk …), at få domstole uden for Tyskland var villige til at gribe ind.
Nu sker det samme, som skete med det ydre af vores hjem, med vores ord, vores billeder, vores sange, hele vores digitale liv. Alle bliver i øjeblikket beslaglagt og brugt til at træne maskinerne til at simulere tænkning og kreativitet. Disse virksomheder skal vide, at de er involveret i tyveri, eller i det mindste at der kan gøres en stærk sag om, at de er. De håber bare, at den gamle drejebog virker endnu en gang – at omfanget af røveriet allerede er så stort og udfolder sig med en sådan hastighed, at domstole og politikere endnu en gang vil kaste hænderne op over for den formodede uundgåelighed af det hele.
Det er også derfor, deres hallucinationer om alle de vidunderlige ting, som AI vil gøre for menneskeheden, er så vigtige. Fordi disse høje påstande skjuler dette massetyveri som en gave – samtidig med at de hjælper med at rationalisere AIs ubestridelige farer.
Vil AI forårsage menneskelig udryddelse eller lign. permanent umyndiggørelse af den menneskelige art?
På nuværende tidspunkt har de fleste af os hørt om undersøgelsen, der bad AI-forskere og udviklere om at estimere sandsynligheden for, at avancerede AI-systemer vil forårsage “menneskelig udryddelse eller lignende permanent og alvorlig umyndiggørelse af den menneskelige art”. Skræmmende nok var responsen, at der var en 10% chance.
Hvordan rationaliserer man at gå på arbejde og skubbe værktøjer ud, der indebærer sådanne eksistentielle risici? Ofte er begrundelsen, at disse systemer også har enorme potentielle fordele – bortset fra at disse fordele for det meste er hallucinatoriske. Lad os grave ned i et par af de mere vilde.
Hallucination #1: AI vil løse klimakrisen
Næsten altid øverst på listen over AI-fordele er påstanden om, at disse systemer på en eller anden måde vil løse klimakrisen. Vi har hørt det fra alle fra World Economic Forum til Council on Foreign Relations til Boston Consulting Group, som forklarer, at AI “kan bruges til at støtte alle interessenter i at tage en mere informeret og datadrevet tilgang til bekæmpelse af kulstofemissioner og opbygning af et grønnere samfund. Den kan også bruges til at justere den globale klimaindsats mod de mest udsatte regioner.” Den tidligere Google-administrerende direktør Eric Schmidt opsummerede sagen, da han fortalte Atlantic, at AI’s risici var værd at tage, fordi “Hvis du tænker på de største problemer i verden, er de alle virkelig svære – klimaændringer, menneskelige organisationer og så videre. Og derfor vil jeg altid have, at folk skal være klogere.”
Ifølge denne logik skyldes manglende evne til at “løse” store problemer som klimaforandringer et underskud af klogskab. Det er ligegyldigt om kloge mennesker, tunge med ph.d.er og nobelpriser, har fortalt vores regeringer i årtier, hvad der skal ske for at komme ud af dette rod: nedskæring af vores emissioner, efterlade kulstof i jorden, tackle overforbruget af de rige og underforbruget af de fattige, fordi ingen energikilde er fri for økologiske omkostninger.
Årsagen til, at dette meget kloge råd er blevet ignoreret, skyldes ikke et læseforståelsesproblem, eller fordi vi på en eller anden måde har brug for maskiner til at gøre vores tanker for os. Det skyldes, at det, som klimakrisen kræver af os, vil strande billioner af dollars i fossile brændstofaktiver, samtidig med at vi udfordrer den forbrugsbaserede vækstmodel i hjertet af vores indbyrdes forbundne økonomier. Klimakrisen er faktisk ikke et mysterium eller en gåde, vi endnu ikke har løst på grund af utilstrækkeligt robuste datasæt. Vi ved, hvad der skal til, men det er ikke en hurtig løsning – det er et paradigmeskift. At vente på, at maskiner spytter et mere velsmagende og / eller rentabelt svar ud, er ikke en kur mod denne krise, det er endnu et symptom på den.
Ryd hallucinationerne væk, og det ser langt mere sandsynligt ud, at AI vil blive bragt på markedet på måder, der aktivt uddyber klimakrisen. For det første er de gigantiske servere, der muliggør øjeblikkelige essays og kunstværker fra chatbots, en enorm og voksende kilde til kulstofemissioner. For det andet, efterhånden som virksomheder som Coca-Cola begynder at foretage enorme investeringer for at bruge generativ AI til at sælge flere produkter, bliver det alt for klart, at denne nye teknologi vil blive brugt på samme måde som den sidste generation af digitale værktøjer: at det, der begynder med høje løfter om at sprede frihed og demokrati, ender med mikromålretning af annoncer mod os, så vi køber mere ubrugeligt, kulstofspyende ting.
Og der er en tredje faktor, som er lidt sværere at fastslå. Jo mere vores mediekanaler oversvømmes med deep fakes og kloner af forskellig art, jo mere har vi følelsen af at synke ned i et informativt kviksand. Geoffrey Hinton, ofte omtalt som “AI’s gudfar”, fordi det neurale net, han udviklede for mere end et årti siden, udgør byggestenene i nutidens store sprogmodeller, forstår det udmærket. Han har netop opsagt en ledende rolle hos Google, så han kunne tale frit om risiciene ved den teknologi, han var med til at skabe, herunder, som han fortalte New York Times, risikoen for, at folk “ikke længere vil være i stand til at vide, hvad der er sandt”.
Det er yderst relevant for påstanden om, at AI vil hjælpe med at bekæmpe klimakrisen. For når vi er mistroiske over for alt, hvad vi læser og ser i vores stadig mere uhyggelige mediemiljø, bliver vi endnu mindre rustede til at løse presserende kollektive problemer. Tillidskrisen går selvfølgelig forud for ChatGPT, men der er ingen tvivl om, at en spredning af deep fakes vil blive ledsaget af en eksponentiel stigning i allerede blomstrende konspirationskulturer. Så hvilken forskel vil det gøre, hvis AI kommer med teknologiske og videnskabelige gennembrud? Hvis den fælles virkeligheds struktur er ved at falde fra hinanden i vores hænder, vil vi finde os selv ude af stand til at reagere med nogen sammenhæng overhovedet.
Hallucination #2: AI vil levere klog styring
Denne hallucination kalder på en nær fremtid, hvor politikere og bureaukrater, der trækker på den enorme samlede intelligens fra AI-systemer, er i stand til “at se behovsmønstre og udvikle evidensbaserede programmer”, der har større fordele for deres vælgere. Denne påstand kommer fra et papir udgivet af Boston Consulting Groups fond, men det bliver gentaget i mange tænketanke og ledelseskonsulentfirmaer. Og det er sigende, at disse særlige virksomheder – de virksomheder, der er hyret af regeringer og andre virksomheder til at identificere omkostningsbesparelser, ofte ved at fyre et stort antal arbejdere – har været hurtigst til at hoppe på AI-vognen. PwC (tidligere PricewaterhouseCoopers) har netop annonceret en investering på 1 mia. USD, og Bain & Company samt Deloitte er angiveligt begejstrede for at bruge disse værktøjer til at gøre deres kunder mere “effektive”.
Som med klimapåstandene er det nødvendigt at spørge: Er grunden til, at politikere indfører grusomme og ineffektive politikker, at de lider under mangel på beviser? En manglende evne til at “se mønstre”, som BCG-papiret antyder? Forstår de ikke de menneskelige omkostninger ved at udsulte det offentlige sundhedsvæsen midt i pandemier eller ved ikke at investere i ikke-markedsmæssige boliger, når telte fylder vores byparker, eller ved at godkende ny infrastruktur for fossile brændstoffer, mens temperaturerne stiger? Har de brug for AI til at gøre dem “smartere”, for at bruge Schmidts udtryk – eller er de præcis kloge nok til at vide, hvem der skal stå for deres næste kampagne, eller, hvis de kommer på afveje, finansiere deres rivaler?
Det ville være forfærdeligt rart, hvis AI virkelig kunne afbryde forbindelsen mellem virksomhedernes penge og hensynsløs politikudformning – men det link har alt at gøre med, hvorfor virksomheder som Google og Microsoft har fået lov til at frigive deres chatbots til offentligheden på trods af lavinen af advarsler og kendte risici. Schmidt og andre har været på en årelang lobbykampagne, hvor de har fortalt begge parter i Washington, at hvis de ikke er frie til at gå videre med generativ AI, ubelastet af seriøs regulering, så vil de vestlige magter blive efterladt i støvet af Kina. Sidste år brugte de største teknologivirksomheder rekordhøje 70 mio. dollar på at lobbyere Washington – mere end olie- og gassektoren – og det beløb, bemærker Bloomberg News, kommer oven i de millioner, der bruges “på deres brede vifte af handelsgrupper, nonprofitorganisationer og tænketanke”.
Og på trods af deres indgående viden om præcis, hvordan penge former politik i vores nationale hovedstæder, når du lytter til Sam Altman, CEO for OpenAI – skaberen af ChatGPT – der taler om de bedste scenarier for sine produkter, synes alt dette at være glemt. I stedet synes han at hallucinere en verden, der er helt ulig vores egen, hvor politikere og industri træffer beslutninger baseret på de bedste data og aldrig ville sætte utallige liv i fare for profit og geopolitisk fordel. Hvilket bringer os til en endnu en hallucination.
Hallucination #3: Man kan stole på, at techgiganter ikke ødelægger verden
Adspurgt om han er bekymret for den hektiske guldfeber, ChatGPT allerede har sluppet løs, svarede Altman, at det er han, men tilføjede overbevist: “Forhåbentlig ordner det hele sig.” Om hans andre tech CEO’er – dem, der konkurrerer om at forhaste deres rivaliserende chatbots – sagde han: “Jeg tror, de bedre engle vil vinde.”
Bedre engle? Hos Google? Jeg er ret sikker på, at virksomheden fyrede de fleste af dem, fordi de offentliggjorde kritiske papirer om AI eller fortalte om racisme og seksuel chikane på arbejdspladsen. Flere “bedre engle” er holdt op for at slå alarm, senest Hinton. Det skyldes, at Google, i modsætning til hallucinationerne hos de mennesker, der tjener mest på AI, ikke træffer beslutninger baseret på, hvad der er bedst for verden – det træffer beslutninger baseret på, hvad der er bedst for Alphabets aktionærer, som ikke ønsker at gå glip af den seneste boble, ikke når Microsoft, Meta og Apple allerede er all in.
Hallucination #4: AI vil befri os fra slid
Hvis Silicon Valleys velvillige hallucinationer virker plausible for mange, er der en simpel grund til det. Generativ AI er i øjeblikket, hvad vi kan tænke på som den faux-socialistiske fase. Det er en del af en nu velkendt Silicon Valley playbook. Opret først et attraktivt produkt (en søgemaskine, et kortlægningsværktøj, et socialt netværk, en videoplatform, en køretur …); give det væk gratis eller næsten gratis i et par år uden nogen mærkbar levedygtig forretningsmodel (“Leg med bots,” fortæller de os, “se hvilke sjove ting du kan skabe!”); Lav masser af ophøjede påstande om, hvordan du kun gør det, fordi du vil skabe et “bytorv” eller et “informationsfællesskab” eller “forbinde folket”, alt imens du spreder frihed og demokrati (og ikke er “ond”). Derefter, når folk er blevet hooked ved hjælp af disse gratis værktøjer, og dine konkurrenter erklæret konkurs. Når feltet er klart, skal du introducere de målrettede annoncer, den konstante overvågning, politi- og militærkontrakter, black-box-datasalg og de eskalerende abonnementsgebyrer.
Mange liv og sektorer er blevet decimeret af tidligere gentagelser af denne drejebog, fra taxachauffører til udlejningsmarkeder til lokale aviser. Med AI-revolutionen kan denne slags tab se ud som afrundingsfejl, hvor lærere, kodere, billedkunstnere, journalister, oversættere, musikere, plejepersonale og rigtig mange andre står over for udsigten til at få deres indkomst erstattet af en fejlkodet kode.
Bare rolig, AI-entusiasterne hallucinerer – det bliver vidunderligt. Hvem kan godt lide at arbejde? Generativ AI vil ikke være slutningen på ansættelsen, får vi at vide, kun det “kedelige arbejde” – med chatbots, der hjælpsomt udfører alle de sjælsødelæggende, gentagne opgaver, og mennesker, der blot overvåger dem. Altman ser på sin side en fremtid, hvor arbejde “kan være et bredere koncept, ikke noget du skal gøre for at kunne spise, men noget du gør som et kreativt udtryk og en måde at finde opfyldelse og lykke på”.
Det er en spændende vision om et smukkere og mere afslappet liv, som mange venstreorienterede deler (herunder Karl Marx’ svigersøn, Paul Lafargue, der skrev et manifest med titlen Retten til at være doven). Men vi venstreorienterede ved også, at hvis det at tjene penge ikke længere skal være livets drivende imperativ, så må der være andre måder at opfylde vores skabnings behov for husly og næring. En verden uden elendige job betyder, at huslejen skal være gratis, og sundhedsplejen skal være gratis, og alle mennesker skal have umistelige økonomiske rettigheder. Og så taler vi pludselig slet ikke om AI – vi taler om socialisme.
For vi lever ikke i den Star Trek-inspirerede rationelle, humanistiske verden, som Altman synes at hallucinere. Vi lever under kapitalismen, og under dette system er virkningerne af at oversvømme markedet med teknologier, der plausibelt kan udføre utallige arbejdende menneskers økonomiske opgaver, ikke, at disse mennesker pludselig er frie til at blive filosoffer og kunstnere. Det betyder, at disse mennesker vil finde sig selv stirrende ned i afgrunden – med faktiske kunstnere blandt de første, der falder.
Det er budskabet i Crabapples åbne brev, der opfordrer “kunstnere, forlag, journalister, redaktører og journalistiske fagforeningsledere til at tage et løfte om menneskelige værdier mod brugen af generative AI-billeder” og “forpligte sig til at støtte redaktionel kunst lavet af mennesker, ikke serverfarme”. Brevet, der nu er underskrevet af flere tusind af kunstnere, journalister og andre, fastslår, at alle undtagen de største elite kunstnere finder deres arbejde “i fare for udryddelse”. Og ifølge Hinton, “gudfar til AI”, er der ingen grund til at tro, at truslen ikke vil sprede sig. Chatbots fjerner “det slidsomme arbejde”, men “det kan tage mere væk end det”.
Crabapple og hendes medforfattere skriver: “Generativ AI-kunst er vampyrisk og tager for sig af tidligere generationer af kunstværker, selvom den suger livsblodet fra levende kunstnere.” Men der er måder at modstå på: Vi kan nægte at bruge disse produkter og organisere os for at kræve, at vores arbejdsgivere og regeringer også afviser dem. Et brev fra fremtrædende forskere i AI-etik, herunder Timnit Gebru, der blev fyret af Google i 2020 for at udfordre diskrimination på arbejdspladsen, beskriver nogle af de lovgivningsmæssige værktøjer, som regeringer kan indføre med det samme – herunder fuld gennemsigtighed om, hvilke datasæt der bruges til at træne modellerne. Forfatterne skriver: “Ikke alene bør det altid være klart, når vi støder på syntetiske medier, men organisationer, der bygger disse systemer, bør også være forpligtet til at dokumentere og afsløre træningsdata og modelarkitekturer …. Vi bør bygge maskiner, der arbejder for os, i stedet for at ’tilpasse’ samfundet til at være maskinlæsbart og skrivbart.”
Selvom teknologivirksomheder gerne vil have os til at tro, at det allerede er for sent at rulle dette menneskeerstattende, masseefterlignende produkt tilbage, er der meget relevante juridiske og lovgivningsmæssige præcedenser, der kan håndhæves. For eksempel tvang den amerikanske Federal Trade Commission (FTC) Cambridge Analytica såvel som Everalbum, ejeren af en fotoapp, til at ødelægge hele algoritmer, der viste sig at være blevet trænet på ulovligt tilegnede data og genskabte fotos. I begyndelsen fremsatte Biden-administrationen mange dristige påstande om regulering af big tech, herunder at slå ned på tyveri af personlige data for at opbygge proprietære algoritmer. Med et præsidentvalg, der nærmer sig med hastige skridt, ville det nu være et godt tidspunkt at indfri disse løfter – og afværge det næste sæt massefyringer, før de sker.
En verden af deep fakes, imiterende loops og voksende ulighed er ikke en uundgåelighed. Det er et sæt politiske valg. Vi kan regulere den nuværende form for vampyriske chatbots ud af eksistens – og begynde at bygge en verden, hvor AI’s mest spændende løfter ville være mere end Silicon Valley-hallucinationer.
Fordi vi trænede maskinerne. Os allesammen. Men vi gav aldrig vores samtykke. De nærede sig af menneskehedens kollektive opfindsomhed, inspiration og åbenbaringer (sammen med vores mere venale træk). Disse modeller er indelukkede og tilegnelsesmaskiner, som fortærer og privatiserer vores individuelle liv såvel som vores kollektive intellektuelle og kunstneriske arv. Deres mål var aldrig at løse klimaændringer eller gøre vores regeringer mere ansvarlige eller vores dagligdag mere afslappet. Det var altid for at profitere på masseimmisering, som under kapitalismen er den iøjnefaldende og logiske konsekvens af at erstatte menneskelige funktioner med bots.
Er alt dette alt for dramatisk? En indelukket og refleksiv modstand mod spændende innovation? Hvorfor forvente det værste? Altman beroliger os: “Ingen ønsker at ødelægge verden.” Måske ikke. Men som de stadigt forværrede klima- og udryddelseskriser viser os hver dag, synes masser af magtfulde mennesker og institutioner at have det fint med at vide, at de hjælper med at ødelægge stabiliteten i verdens livsstøttende systemer, så længe de kan fortsætte med at tjene rekordoverskud, som de tror vil beskytte dem og deres familier mod de værste virkninger. Altman er, ligesom mange skabninger i Silicon Valley, selv en prepper: tilbage i 2016 pralede han: “Jeg har våben, guld, kaliumiodid, antibiotika, batterier, vand, gasmasker fra den israelske forsvarsstyrke og et stort stykke land i Big Sur, jeg kan flyve til.”
Jeg er ret sikker på, at disse fakta siger meget mere om, hvad Altman faktisk mener om den fremtid, han hjælper med at frigøre, end de blomstrende hallucinationer, han vælger at dele i presseinterviews.
Noter:
*) ‘No Logo’ (udgivet i 2009, 512 sider) var en bog, der definerede en generation, da den blev udgivet første gang i 1999. Ved dens 10-års jubilæum opdaterede Naomi Klein den ikoniske bog. Når du er enogtyve, har du set eller hørt en million reklamer. Men du bliver ikke mere glad af den grund. Dette er en bog om den meget udskældte og meget misforståede generation, der kom op bag slackers, som er intelligente og aktive omkring den verden, de befinder sig i. Det er en verden, hvor alt, hvad der er ‘alternativt’, sælges, hvor enhver innovation eller undergravning straks bliver overtaget af ikke radikale, ansigtsløse virksomheder. Men gradvist begynder en ny generation at bekæmpe forbrugerisme med sine egne bedste våben; og det er de første træfninger i denne krig, som denne slibende intelligente bog dokumenterer glimrende.
**) ‘The Shock Doctrine’ (udgivet 2008, 576 sider) Lidenskabelig, enormt informativ, vidunderligt kontroversiel og skræmmende som fanden’ John le Carre Rundt om i verden i Storbritannien, USA, Asien og Mellemøsten er der mennesker med magt, som indkasserer kaos; udnytter blodsudgydelser og katastrofer til brutalt at genskabe vores verden i deres billede. De er choklægerne. Ved at afsløre disse globale profitører, opdagede Naomi Klein information og forbindelser, der chokerede selv hende om, hvor omfattende choklægernes tro nu dominerer vores verden – og hvordan denne dominans er blevet opnået. At hive milliarder ind af tsunamien, plyndre Rusland, udnytte Irak – dette er den chokerende fortælling om, hvordan nogle få foretager et drab, mens flere bliver dræbt. ‘Spækket med tænkende dynamit … en bog, der skal læses overalt’ John Berger ‘Hvis du kun læser én faglitterær bog i år, så gør det til denne’ Årets Metro-bøger ‘Der er et par bøger, der virkelig hjælper os forstå nuet. Shock Doctrine er en af disse bøger’ John Gray, Guardian ‘En genial bog skrevet med en perfekt destilleret vrede, kanaliseret gennem hårde fakta. Hun har faktisk overgået No Logo’ Independent.
Andre bøger af Naomi Klein: I ‘Hot Money’ (udgivet 2021, 128 sider) fremlægger Naomi Klein beviserne for, at dereguleret kapitalisme fører krig mod klimaet, og viser, at for at stoppe skaden, må vi ændre på hele den måde vi har tænk om, hvordan vores verden drives.
Læs mere her:
Pingback: AI: Derfor er det en rigtig dårlig idé at installere 'robotdommere' i retssalene - nejtil5g.dk
Pingback: Forskere får grønt lys til at fusionere menneskelige hjerneceller med computerchips - nejtil5g.dk
Pingback: Frelse eller ødelæggelse - nejtil5g.dk