Skal kunstig intelligens erstatte de demokratiske processer?
Foto: Hansjorg Keller, Unsplash
ChatGPT, der blev udviklet af firmaet OpenAI og lanceret i slutningen af 2022, truer med at ændre den måde, vi normalt kommunikerer på ved f.eks. e-mails, universitets opgaver, skriftlige opgaver i folkeskolen og gymnasiet samt utallige andre former for tekster. Den kan automatisk og yderst effektivt reagere på skriftlige spørgsmål og input på en måde, der næsten ikke er til skelne fra menneskelig adfærd.
Det kan i sig selv være ret så problematisk og har både etiske og moralske udfordringer, men bagved ligger en langt større trussel: Kunstig intelligens, der erstatter mennesker i de demokratiske processer – ikke gennem afstemninger, men gennem lobbyisme.
ChatGPT kan automatisk udforme kommentarer, der indsendes f.eks. i forbindelse med lovgivningsmæssige processer. Den kan skrive læserbreve m.m. til offentliggørelse i lokale aviser. Den kan kommentere nyhedsartikler, blogindlæg og opslag på sociale medier millioner af gange hver dag. Den kan efterligne det arbejde, som det russiske internet agentur udførte for at påvirke det amerikanske valg i 2016, men uden dets enorme budget samt de hundredvis af ansatte. (At dette påvirkningsforsøg måske ikke havde den ønskede effekt var måske mere et held.)
Problemstillingen tager datalog Nathan E. Sanders og sikkerhedsteknologen Bruce Schneier (*) op i deres indlæg i The New York Times den 15. jan. 2023.
Automatisk generede indlæg
Automatisk genererede kommentarer og indlæg er ikke et nyt problem. I nogen tid har vi kæmpet med bots, maskiner der automatisk poster indhold. For fem år siden mente man, at mindst en million automatisk udarbejdede kommentarer var blevet indsendt til Federal Communications Commission (FCC) vedrørende foreslåede regler om netneutralitet. I 2019 brugte en studerende fra Harvard som en test et tekst genereringsprogram til at indsende 1.001 kommentarer som svar på en regeringsanmodning om offentlige input til et Medicaid-spørgsmål (det offentlige sygesikringsprogram i USA). Dengang var det blot et spil om at kunne indsende et overvældende antal kommentarer.
Platformene er blevet bedre til at fjerne såkaldt “koordineret uægte adfærd.” Facebook har for eksempel fjernet over en milliard falske konti om året. Men sådanne beskeder er kun begyndelsen. I stedet for at oversvømme lovgivernes indbakker med understøttende e-mails eller dominere omstillingen i Det Hvide Hus med syntetiske taleopkald, kan et A.I. system sammen med det sofistikerede ChatGPT, trænet med relevante data, selektivt målrettes mod centrale parlamentsmedlemmer og influencers for at identificere de svageste punkter i det politiske system og hensynsløst udnytte dem gennem direkte kommunikation, PR-kampagner, stemmehandel eller gennem andre kanaler, som kan udnyttes.
Lobbyisme eller retorisk dronekrigskampagne
Når mennesker gør agerer på denne måde, kalder vi det lobbyisme. Succesfulde agenter i denne metier kombinerer præcis udformning af budskaber med smarte målretningsstrategier. Lige nu er det eneste, der forhindrer en lobbyist udstyret med ChatGPT i at udføre noget, der ligner en retorisk dronekrigskampagne, mangel på præcis målretning. Det kan A.I. også levere teknikker til.
Et system, der kan forstå de politiske netværk, parret med tekstgenereringskapaciteten i ChatGPT, kan identificere det medlem af Kongressen eller enhver regering, der har størst indflydelse på et bestemt politikområde – f.eks. virksomhedsbeskatning eller militærudgifter. Ligesom menneskelige lobbyister kan et sådant system målrettes uafklarede repræsentanter, som sidder i udvalg, der kontrollerer den aktuelle interesse politik og derefter fokusere ressourcerne på medlemmer af flertalspartiet, når lovforslaget er ved at skulle sendes til afstemning.
Når enkeltpersoner og strategier er identificeret, vil en A.I. chatbot som ChatGPT kunne udforme skriftlige beskeder til brug i breve, kommentarer – hvor som helst et budskab kan gøre nytte. Menneskelige lobbyister kan også målrette disse personer direkte. Det er kombinationen, der er vigtig: Kun redaktionelle og sociale mediers kommentarer kan bringe dig så langt, det er ikke nok i sig selv at vide, hvilke parlamentarikere du skal målrette dig mod.
Strategiske målretningssystemer
Evnen til at forstå og målrette aktører i et netværk vil skabe et værktøj til A.I. hacking, der kan udnytte sårbarheder i sociale, økonomiske og politiske systemer med utrolig hurtighed og i stort omfang. Lovgivningssystemer vil være et særligt mål, dels fordi motivet for at angribe politiske systemer er stærkt, men også fordi dataene til træning af sådanne systemer er vidt tilgængelige, og endelig fordi brugen af A.I. kan være meget svær at opdage – især hvis det bruges strategisk til at vejlede menneskelige aktører.
De nødvendige data til at træne sådanne strategiske målretningssystemer vil kun vokse med tiden. Åbne samfund gør generelt deres demokratiske processer til et offentligt register, og hovedparten af lovgiverne er meget ivrige – i det mindste performativt – efter at acceptere og reagere på budskaber, der ser ud til at komme fra deres vælgere.
Måske kan et A.I. system afsløre, hvilke medlemmer af eksempelvis Kongressen, der har en betydelig indflydelse på ledelsen, men fortsat har for lave offentlige profiler til, at der kun er en beskeden rivalisering om deres opmærksomhed. Den kunne derefter udpege en SuperPAC (en interesseorganisation i USA, der fx kan bidrage til valgkampe uden at være officielt tilknyttet en kandidat) eller den offentlige interessegruppe med den største indflydelse på det aktuelle parlamentsmedlems offentlige holdninger. Måske kan den endda kalibrere størrelsen af den donation, der er nødvendig for at påvirke den pågældende organisation eller direkte målrettede onlineannoncer, der femfører et strategisk budskab til dens medlemmer. For hver politik afgørelse, det rigtige publikum; og for hvert publikum det rigtige budskab på det rigtige tidspunkt.
A.I. dreven lobbyisme er hurtig, fleksibel og billig
Det, der gør truslen fra A.I.-drevne lobbyister større end truslen fra de dyre lobbyvirksomheder på K Street, (en større færdselsåre i USA’s hovedstad Washington, D.C., kendt som et center for adskillige lobbyister og interesseorganisationer) er deres potentiale for acceleration. Menneskelige lobbyister fæster deres lid til årtiers erfaring med at finde strategiske løsninger for at opnå et politisk resultat. Den ekspertise er begrænset, og derfor dyr.
A.I. kan teoretisk set gøre det samme meget hurtigere og billigere. Fuld fart på med det samme er en kæmpe fordel i et økosystem, hvor den offentlige mening og mediernes fortællinger hurtigt kan forankres, ligesom smidighed til at kunne skifte hurtigt som reaktion på kaotiske verdensbegivenheder.
Desuden kan fleksibiliteten i A.I. hjælpe med at opnå indflydelse på tværs af mange politikker og jurisdiktioner samtidigt. Forestil dig et A.I.-assisteret lobbyfirma, der kan forsøge at plante en lovgivning i hvert eneste lovforslag, der kommer op i den amerikanske kongres, eller på tværs af alle statslige instanser. Lobbyvirksomheder har en tendens til kun at arbejde i én stat, på grund af de komplekse variationer i lovgivning, procedure og politisk struktur. Med A.I. hjælp til at navigere i disse variationer, kan det blive lettere at udøve magt på tværs af politiske grænser.
A.I. lobbyisme er tilgængelig for alle, men de magtfulde vil altid få endnu mere magt
Ligesom undervisere bliver nødt til at ændre, hvordan de giver eleverne eksamener og skriftlige opgaver i lyset af ChatGPT, må regeringer ændre, hvordan de forholder sig til lobbyister.
Ganske vist kan der være fordele ved denne teknologi i det demokratiske rum; den største er tilgængelighed. Ikke alle har råd til en erfaren lobbyist, men en softwaregrænseflade til A.I. systemet kan gøres tilgængeligt for enhver. Hvis vi er heldige, kan denne form for strategigenererende A.I. kunne revitalisere demokratiseringen af demokratiet ved at give denne form for lobbymagt til de magtesløse.
Imidlertid vil de største og mest magtfulde institutioner sandsynligvis bruge enhver A.I. lobbyteknik mest succesfuldt. Udførelse af den bedste lobbystrategi kræver trods alt stadig insidere – folk, der kan gå rundt i den lovgivende forsamling – og penge. Lobbyisme handler ikke kun om at give den rigtige besked til den rigtige person på det rigtige tidspunkt; den handler også om at give penge til den rigtige person på det rigtige tidspunkt. Og mens en A.I. chatbot kan identificere, hvem der skal være på modtagersiden af disse kampagnebidrag, vil mennesker i en overskuelig fremtid være nødt til at levere kontanterne. Så selvom det er umuligt at forudsige, hvad en fremtid fyldt med A.I. lobbyister vil se ud, vil det formentlig gøre de allerede indflydelsesrige og magtfulde endnu mere magtfulde.
Noter:
Nathan E. Sanders, datalog tilknyttet Berkman Klein Center ved Harvard University.
Bruce Schneier, sikkerhedsteknolog og underviser ved Harvard Kennedy School. Har netop udgivet: “A Hacker’s Mind: How the Powerful Bend Society’s Rules, and How to Bend Them Back.”
Om bogen:
Det er ikke kun computere – hacking er overalt.
Den legendariske cybersikkerhedsekspert og New York Times bestsellerforfatter Bruce Schneier afslører, hvordan brugen af en hackers tankegang kan ændre, hvordan du tænker om dit liv og verden.
Et hack er ethvert middel til at undergrave et systems regler på utilsigtede måder. Skattekoden er ikke en computerkode, men en række komplekse formler. Det har sårbarheder; vi kalder dem “smuthuller”. Vi kalder udnyttelsen af dem “skatteundgåelsesstrategier.” Og der er en hel industri af “black hat”-hackere, der har til formål at finde smuthuller i skatteloven, der kan udnyttes. Vi kalder dem revisorer og skatteadvokater.
I ‘A Hacker’s Mind’ tager Bruce Schneier hacking ud af computerverdenen og bruger det til at analysere de systemer, der understøtter vores samfund: fra skattelovgivning til finansielle markeder til politik. Han afslører en række magtfulde aktører, hvis hacks bøjer vores økonomiske, politiske og juridiske systemer til deres fordel, på bekostning af alle andre.
Når du først har lært at lægge mærke til hacks, vil du begynde at se dem overalt – og du vil aldrig se på verden på samme måde igen. Næsten alle systemer har smuthuller, og det er ved design. For hvis du kan udnytte dem, gælder reglerne ikke længere for dig.
Ukontrolleret truer disse hacks med at hæve vores finansielle markeder, svække vores demokrati og endda påvirke den måde, vi tænker på. Og når kunstig intelligens begynder at tænke som en hacker – med umenneskelig hastighed og omfang – kan resultaterne være katastrofale.
Men for dem, der vil tage den “hvide hat” på, kan vi forstå hacking-tankegangen og genopbygge vores økonomiske, politiske og juridiske systemer for at imødegå dem, der ville udnytte vores samfund. Og vi kan udnytte kunstig intelligens til at forbedre eksisterende systemer, forudsige og forsvare os mod hacks og realisere en mere retfærdig verden.
Læs mere her:
Pingback: Kunstig intelligens - AI - nejtil5g.dk
Pingback: AI-generatorer er ikke 'hallucinerende'. Men det er deres skabere - nejtil5g.dk
Pingback: Regering og styrelser - nejtil5g.dk