AI-hallucinationer i offentlig administration
Illustration: Det norske Utdanningsnytt.
Flere offentlige dokumenter er baseret på kilder, der ikke eksisterer. Det kan få alvorlige konsekvenser.
I 2024 lancerede den norske regering strategien Digital Norge for Fremtiden. Ambitionen er, at Norge skal blive verdens mest digitaliserede land. Hvorfor? Det får vi aldrig et ordentligt svar på, ud over det velkendte mantra om “effektivisering”.
Men målene er krystalklare: 100 procent af de offentlige tjenester skal bruge kunstig intelligens inden 2030.
Spørgsmålet er ikke længere, om AI vil blive brugt i den norske offentlige sektor, men hvordan – og med hvilke konsekvenser.
Artiklen, som tager udgangspunkt i norske forhold, er skrevet af Øyvind Andresen og udgivet dels på hans blog og på Steigan.no hhv. den 25. og 29 maj. 2026. Understregninger er her tilføjet.
Øyvind Andresen er pensioneret lektor og forfatter til flere fagboger.
Efter angivelsen af artiklens norske kilder er der tilføjet et afsnit om danske forhold.
En offentlig diskurs inficeret med AI-hallucinationer
En kendt svaghed ved sprogmodeller er de såkaldte AI-hallucinationer: Systemerne opfinder eller “udfylder” information, der ser troværdige ud, men som er direkte forkerte. Når det ender i offentlige dokumenter, er det ikke kun pinligt – det kan få store konsekvenser for folks liv og helbred.
I Norge har vi allerede flere eksempler:
Ifølge Aftenposten brugte Rigsrevisorens kontor i efteråret 2025 et tal om, at AI kunne spare staten for 155.000 mandeår. Tallet viste sig at stamme fra en ChatGPT-genereret beregning uden solid dokumentation. I samme materiale blev det foreslået, at AI kunne skære 15.000 mandeår i børnehaver og fritidspleje. Hvordan det kunne passere gennem Rigsrevisorens kontor, er uforståeligt.
I marts 2025 offentliggjorde Tromsø kommune et 120-siders dokument om sammenlægningen af skoler og børnehaver. Det blev hurtigt afsløret, at store dele af kildelisten ikke eksisterede. Ud af 18 referencer kunne kun syv spores. En bog, der angiveligt var skrevet af professor i pædagogik Thomas Nordahl, eksisterede ikke – noget Nordahl selv bekræftede.
Rapporten blev trukket tilbage, og afdelingslederen for opdragelse, uddannelse og kultur i Tromsø kommune trak sig som følge af AI-sagen.
I Alver kommune i Vestland Amt anbefalede den kommunale direktør i maj 2026 at lukke mindst fire skoler. Grundlaget var blandt andet forskningsartikler, som senere viste sig at være fabrikeret af AI. Den lokale avis Nordhordaland afdækkede falske artikler, fejlagtige tabeller og en liste over kilder, hvor omkring halvdelen ikke kunne knyttes til rigtige forfattere.
Den 7. maj i år afslørede VG, at Asker kommune havde brugt AI i et sagsdokument, der henviste til flere højesteretsafgørelser, som ikke eksisterede. Dokumentet blev brugt i en sag, hvor kommunen ønskede at udsætte miljøaktivister, der boede i et hus i Hurummarka.
Aktivisterne protesterer mod det, der sandsynligvis kan blive Europas største sprængstoffabrik. De mener, at det vil jævne et unikt naturområde med jorden og bidrage med våben til USA’s og Israels krigsførelse. Aktivisterne har kaldt sig selv “Knus krigsmaskinen!”.
Det var en torn i øjet på det højreorienterede Asker, men AI-fejlen opstod i et sagsdokument, da kommunen og repræsentanterne skulle beslutte, hvad der skulle ske med de aktivister, der havde besat huset. Politiet mener, at sagsforslaget sandsynligvis var baseret på AI-hallucinationer med forkerte juridiske referencer.
Disse fire eksempler er ikke isolerede tilfælde. Der findes også dokumenterede eksempler fra norske retssale og juridiske miljøer, hvor AI-værktøjer har genereret juridiske referencer, der blot er fiktive.
Problemet er ikke AI – men sløseri
Det, sagerne har til fælles, er ikke, at der bruges AI, men at de ikke kontrolleres af mennesker: Dokumenter sendes ud, offentliggøres og bruges som grundlag for beslutningstagning uden grundlæggende kvalitetssikring. Det er det modsatte af effektiv brug af offentlige midler. Det er sjusket – og det underminerer tilliden til hele administrationen.
Når fejlene afsløres, følger som oftest de samme undskyldninger: “Vi er kede af det, men hovedkonklusionerne står ved magt.” Eller: “Vi retter fejlene”, som om det genopretter dokumentets troværdighed som helhed.
Rapporter inficeret med AI-hallucinationer fejler og skal straks trækkes tilbage. Alt andet er utroværdigt.
Når forkert brug af AI ødelægger liv
Forkert brug af kunstig intelligens i den offentlige sektor kan få meget alvorlige konsekvenser. Fra Holland finder vi et skræmmende eksempel:
Mellem 2012 og 2019 brugte de hollandske myndigheder et AI-baseret system til at opdage socialt bedrageri. Systemet markerede tusindvis af mennesker som mistænkte – hovedsageligt baseret på bopæl, indkomst, familieforhold og baggrund. Resultatet var, at personer med minoritets baggrund blev særligt berørt.
Titusindvis af familier blev uretfærdigt anklaget for bedrageri. Mange mistede indkomst, bolig samt tillid til staten. I 2021 førte skandalen til hele regeringens afgang. Den ansvarlige var den daværende premierminister Mark Rutte. De fleste af de berørte har modtaget oprejsning.
AI kan være et nyttigt værktøj. Men brugt ukritisk, uden menneskelig kontrol og ansvar, bliver det en demokratisk risiko. Hvis “verdens mest digitaliserede land” betyder “verdens mindst kvalitetssikrede administration”, er prisen alt for høj.
Kilder:
https://www.regjeringen.no/no/dokumenter/fremtidens-digitale-norge/id3054645
https://www.nrk.no/tromsogfinnmark/ki-konklusjon-klar_-tromso-kommune-var-ikke-moden-for-a-ta-i-bruk-ki-1.17477767
https://www.aftenposten.no/norge/politikk/i/PpkVxJ/riksrevisjonen-hevdet-at-ki-kunne-spare-155000-aarsverk-i-staten-men-tallet-stammet-fra-chatgpt
https://www.nrk.no/tromsogfinnmark/tromso-kommune-har-henvist-til-litteratur-som-ikke-finnes-i-omstruktureringen-av-skoler-1.17358938
Henviser til skoleforskning, der ikke eksisterer: “Det er fuldstændig vanvittigt – itromso.no
https://www.nrk.no/vestland/alver-kommune-brukte-falske-ki-kjelder-i-rapport-om-skulenedleggingar-1.17884649
Asker kommune brugte AI til at fabrikere Højesteretsafgørelser
https://rett24.no/articles/eu-endrer-sine-prioriterte-ki-verdier-og-skaper-rettslig-usikkerhet
Danske forhold
I den danske offentlige sektor per februar 2026 kører der 249 AI-projekter i 57 af landets 98 kommuner, og 151 af dem er allerede i fuld produktion.
I 2026 lancerede KOMBIT en fælles AI-assistent, som alle 98 danske kommuner kan benytte. KOMBIT, der ejes af KL og leverer it-løsninger til kommunerne, har udviklet assistenten i samarbejde med flere leverandører og med fokus på tre kerneområder: Dokument opsummering, Udkast til afgørelser og Lovnavigation. Den mest udbredte brug af AI i kommunerne er automatisering af administrative processer.
Assistenten er designet til at overholde GDPR og EU’s AI-forordning (AI Act), og den kører på europæiske servere. Vigtigst af alt: Den træffer ingen afgørelser selv. Al output skal godkendes af en menneskelig sagsbehandler, hvilket er et krav i EU’s AI Act for højrisikosystemer i offentlig forvaltning.
Chatbots og virtuelle assistenter er blevet et fast element i mange kommuners borgerservice. Disse AI-drevne systemer kan besvare standard spørgsmål om åbningstider, ansøgningsprocesser, gebyrer og frister 24/7. I Københavns Kommune håndterer en chatbot nu over 40 % af alle digitale henvendelser fra borgere uden menneskelig intervention.
Udbredelsen af AI i den offentlige sektor rejser også vigtige spørgsmål, som borgere og ansatte med rette stiller. De mest centrale bekymringer er: Bias og diskrimination, privatlivsbeskyttelse samt transparens og forklarbarhed.
Det skriver ‘Skrivsikkert.dk i artiklen ‘AI i det offentlige: Sådan bruger kommuner og regioner AI (2026)’ fra den 26. februar 2026.
Statens brug af kunstig intelligens kan true borgernes grundlæggende rettigheder
I en kronik af Louise Holck, direktør for Institut for Menneskerettigheder, og Jes Brinchmann, direktør for CEPOS den 17. oktober 2024 fremgår det at med kunstig intelligens kan staten kontrollere borgere og virksomheder uden at stå på mål for, hvordan oplysningerne bruges og behandles. Digitale tiltag truer borgernes privatliv og retssikkerhed og bør derfor tydeligt reguleres. Det fremgår bl.a.:
“Gennemsigtighed og åbenhed i forvaltningen er afgørende for både borgeres og virksomheders retssikkerhed. Alligevel har Vurderingsstyrelsen, Skattestyrelsen og Udbetaling Danmark alle afvist at give offentligheden indblik i, hvordan de anvender kunstig intelligens. Det er et problem for borgerne og virksomhederne og for den demokratiske kontrol med forvaltningen.
En anden bekymring næres af den måde, staten har vist sig at løse opdagede fejl eller risici.
I de senere år har vi set en række eksempler på, hvordan store offentlige digitaliseringsprojekter kuldsejler eller viser sig ikke at overholde lovgivningen, hvorefter man politisk vælger at justere lovgivningen, så systemerne holder sig inden for lovens rammer, i stedet for at sende de digitale systemer tilbage på tegnebrættet. Det har i flere tilfælde udfordret borgeres og virksomheders retssikkerhed.
Som eksempel kan nævnes, da SKAT i 2010’erne forsøgte at etablere et stort gældsinddrivelsessystem, det såkaldte EFI-system. Det viste sig, at systemet led af en række systemfejl, der var så alvorlige, at EFI ikke kunne understøtte en lovlig offentlig gældsinddrivelse. Alligevel blev det forsinkede system sat i drift uden sikkerhed for, at det overhovedet kunne fungere, endsige opkræve lovligt.
Et vigtigt første skridt bør være, at ansvarlige myndigheder fremadrettet sørger for de lovpligtige konsekvensanalyser, før de igangsætter nye AI-løsninger.
Men vi kommer ikke uden om, at der er et presserende behov for, at vi tager en mere principiel diskussion af, om myndigheder og politikere er gået for langt i deres iver efter at effektivisere og kontrollere på bekostning af borgernes grundlæggende ret til privatliv.”
Anbefalinger fra Dataetisk Råd
Dataetisk Råd udgav den 5. februar 2025 en rapport, som stiller skarpt på, hvordan man kan tackle den centrale dataetiske udfordring, at generativ AI laver fejl. Sådanne fejl kan have vidtrækkende konsekvenser, når offentlige myndigheder anvender GenAI.
De offentlige myndigheder er forpligtede til både at informere præcist og træffe korrekte beslutninger, så hvordan definerer vi acceptable risici, og hvilke mekanismer skal sikre, at fejl opdages og rettes, når vi taler GenAI? Med otte klare anbefalinger peger Dataetisk Råd på, hvad offentlige myndigheder kan gøre for at minimere risikoen, og hvordan vi som samfund kan sikre etisk anvendelse af GenAI.
- Offentlige myndigheder bør begynde eventuel udforskning og anvendelse af GenAI med brugsscenarier, hvor anvendelsen har lav risikoprofil, og inddrage interessenter i udvikling og evaluering af systemer.
- Offentlige myndigheder bør skelne mellem GenAI-systemer med høj og lav risikoprofil, og kun bruge GenAI, når myndigheden har indført tilstrækkelige mitigerende tiltag til at begrænse risikoen for fejl.
- Offentlige myndigheder bør systematisk vurdere GenAI-systemers samlede risikoprofil for fejl i hvert enkelt brugsscenarie.
- Offentlige myndigheder bør gennemføre mere omfattende kvalitetssikring af et GenAI-system, jo højere systemets risikoprofil er.
- Offentlige myndigheder bør oplyse, hvordan de anvender menneskelig kvalitetskontrol af GenAI, og tildele relevante medarbejdere de nødvendige ressourcer.
- Offentlige myndigheder bør indføre nødvendige forholdsregler til at identificere, dokumentere, oplyse og korrigere fejl, inden de tager et GenAI-system i brug.
- Regeringen bør udvikle fælles retningslinjer for offentlige myndigheders anvendelse af GenAI, som slår fast hvordan myndigheder skal håndtere risikoen for fejl.
- Regeringen bør oprette et nationalt, offentligt register over GenAI-systemer, som anvendes af offentlige myndigheder.
Læs mere her:
