En ureflekteret tro på teknologi er ikke en god guide for skolen
Foto: BoliviaInteligente, Unsplash.
Jo mindre viden nogen har om en teknologi, jo større er deres entusiasme for teknologien ofte. Det var en observation, som allerede blev gjort af computerpioneren Joseph Weizenbaum, da han udgav den første ChatBot Eliza i 1966, som man kunne “tale” med.
Til et eksperiment tildelte han softwaren rollen som psykoterapeut. Resultatet var skræmmende:
“Jeg var forfærdet over at se, hvor hurtigt og hvor intenst folk, der talte med DOCTOR, etablerede et følelsesmæssigt forhold til computeren, og hvordan de tydeligt tilskrev den menneskelige egenskaber. (..)
En række praktiserende psykiatere troede alvorligt, at læge-computerprogrammet kunne udvikles til en næsten helt automatisk form for psykoterapi. (…)
Disse reaktioner på ELIZA har tydeligere end noget andet, jeg har oplevet indtil da, vist mig, hvilke enormt overdrevne egenskaber selv et uddannet publikum kan eller endda ønsker at tilskrive en teknologi, de ikke ved noget om.”
(Weizenbaum, 1976, 17f)
Det skriver Dr. phil. Ralf Lankau, der er Professor i mediedesign m.m. ved University of Applied Sciences Offenburg i en artikel på Die pädagogische Wende (1) den 30 august 2024.
De uanede muligheder i en udvikling der ikke kan stoppes
Medieforskeren Ralf Lankau peger i sin artikel på den grønne parlamentariske gruppe i Baden-Württemberg, hvor gruppeformanden Andreas Schwarz viser sin entusiasme og manglende ekspertise i sin ureflekterede efterspørgsel efter brug af AI i skolerne. (2)
I Danmark finder vi også den ureflekterede efterspørgsel. Her blot nogle tilfældige eksempler:
SkoleGPT er ifølge dem selv et forsøg på at skabe en open source, gratis og sikker generativ AI, der kan bruges af skolens lærere i undervisningen. Som lærer kan du trygt inddrage ressourcen, når du arbejder med teknologiforståelse og tager de kritiske dialoger med dine elever om brug af AI som værktøj.
Under Kommunernes AI-skole kan man læse at: Nu handler det ikke længere kun om smarte chatbots, som teknisk er integreret i de kommunale fagsystemer, men også om, hvordan kommunerne kan anvende ChatGPT, Copilot og andre modeller til både det nære og det produktive.
Der er uanede muligheder med det, vi kalder generativ kunstig intelligens, i dine arbejdsopgaver. Forestil dig, hvis du i stedet for at arbejde mere, kunne arbejde smartere.
Viden.AI skriver bl.a. Overordnet ser vi det som en udvikling, der ikke kan stoppes, og vi mener ikke, at forbud er muligt: Katten er allerede ude af sækken – og den løber stærkt!
Center for it i undervisningen vil gerne gøre du klogere på, hvordan du kan inddrage AI i din undervisning. Sitet giver eksempler på hvordan man kan bruge kunstig intelligens i undervisningen F.eks. giver en chatbot mulighed for, at eleverne individuelt eller i grupper kan diskutere spørgsmål eller få hjælp til løsninger.
De skriver dog retfærdigvis også: Kunstig intelligens anvender eksisterende viden, som den er blevet fodret med. Hvem der står bag udvælgelsen af disse tekster og hvordan deres algoritmer prioriterer bestemte oplysninger eller formuleringer over andre, er skjult for os.
Kunstig intelligens bør derfor, ligesom andre teknologier, altid give anledning til en kritisk refleksion over både teknologien selv og de resultater, den producerer.
AI-vejledning i skolen?
Selvom nutidens sprogsystemer (chatbots) er mange gange mere kraftfuld end i 1966, er princippet det samme: Mennesker er villige til at menneskeliggøre objekter eller tekniske systemer og til gengæld tildele dem menneskelige egenskaber og opgaver, såsom rollen som psykoterapeut eller lærer. Ralf Lankau citerer Andreas Schwarz for hans ideer om brug af AI i skolerne. Han er overbevist om, at et AI-baseret værktøj på mobiltelefonen kan være en god personlig multimedievejleder.
“Jeg forestiller mig det sådan her: Eleverne tager deres mobiltelefon, holder den over opgaven, f.eks. et ligningssystem – og AI-vejlederen giver et hint: Hvor står du i øjeblikket? Hvordan kunne en løsning se ud? Hvor kan jeg finde mere information?” (citeret af dpa/StZ, 27.5.2024)
Det er allerede muligt med chatbots som den fra Open AI, skriver Ralf Lankau. Du kan tale med botten (en software!) og få “skræddersyet” hjælp. Schwarz er begejstret for den virtuelle vejleder, som “kan sætte opgaver til ens eget læringsniveau i engelsk, matematik eller tysk og hjælpe, når du ikke længere kan finde ud af dine lektier. Og det når som helst, fordi du kan tage din mobiltelefon med dig overalt” (citeret af Krauß, 2024). En databeskyttelsesrådgiver vil heller ikke have nogen indvendinger, så længe der ikke bliver overført personoplysninger.
Når en AI-lobbyist taler
Hvis eksempelvis Schwarz var en AI-lobbyist, ville ræsonnementet være forståeligt. AI lovprisninger kan findes i Marc Andreessen og Ben Horowitz: “Why AI will save the world“. Om automatiseret skolegang skriver de:
“Hvert barn vil have en AI-vejleder, der er uendeligt tålmodig, uendeligt medfølende, uendeligt vidende og uendeligt hjælpsom. AI-vejlederen vil være ved hvert barns side på hvert trin i deres udvikling og hjælpe dem med at maksimere deres potentiale med maskinversionen af uendelig kærlighed.” (Andreessen 2023)
Ikke kun børn i skolen, noterer Ralf Lankau videre, alle mennesker vil have AI-assistenter som coach, mentor, træner, konsulent, terapeut osv. med sig hele tiden, en assistent som vil være uendelig tålmodig, uendelig medfølende, uendelig vidende og uendelig hjælpsom. Takket være det allestedsnærværende hjælpesystem vil økonomisk vækst og vækst i produktiviteten accelerere dramatisk, videnskabelige gennembrud, nye teknologier og medicin ville udvikle sig hurtigere, den kreative kunst ville gå ind i en guldalder, børn vil maksimere deres fulde potentiale “med maskinversionen af uendelig kærlighed” og selv krige vil blive kortere og mindre blodige på grund af bedre strategiske og taktiske beslutninger (ibid).
“Det er den sædvanlige Silicon Valley-eventyrtone om at forbedre og redde verden gennem algoritmer og software, hvormed kommercielle interesser skal skjules.“
Den kritiske diskussion findes
Den verdensomspændende pædagogiske diskussion om nødvendigheden af smartphone-forbud i skolerne for at kunne koncentrere sig om undervisningen igen ignoreres (smartphone-forbud i skolerne, f.eks. https://die-pädagogische-wende.de/wieder-konzentriert-unterrichten-und-lernen-koennen/ )
Mere end 33 tusinde forskere fra IT- og AI-forskning stiller krav om et moratorium for AI før brugen af AI-værktøjer i sociale systemer og civilsamfundsinstitutioner ignoreres (Open Letter 2023: Pause Giant AI Experiments: An Open Letter. ; https://futureoflife.org/open-letter/pause-giant-ai-experiments/
Den ældre, grundlæggende diskussion om kunstig intelligens og dens konsekvenser for samfundet og samfundet ignoreres (se Asilomar AI Principles fra 2018, Asilomar AI Principles (2018) https://futureoflife.org/open-letter/ai-principles/) (25.7.2024) og: Tekniske eksperter og forskere opfordrer til et moratorium for kunstig intelligens, https://die-pädagogische-wende.de/und-wieder-ruft-der-robot-gruesst-das-murmeltier/)
Det, der ignoreres, er det faktum, at generativ AI (genAI), som i øjeblikket diskuteres, kritiseres massivt både teknisk og funktionelt og bør derfor diskuteres som et undervisningsemne, men bør af gode grunde ikke bruges som et værktøj.
Kybernetikken og kunstig intelligens (AI)
Grundlaget for kybernetiske systemer blev lagt på Macy-konferencerne (1949 – 1953). I 1948 udgav Norbert Wiener den matematiske generalisering af denne “kontrolkunst” som en bog: “Cybernetics or Control and Communication in the Animal and the Machine” (1948).
Den grundlæggende idé, der stadig løber gennem modellerne og anvendelserne af automatiseret databehandling (først omdøbt til Artificial Intelligence i 1956), er antagelsen om, at organismer og sociale fællesskaber også kan beskrives som maskiner eller tekniske systemer og beregnes med passende (matematiske) modeller. For matematikere og kybernetikere er mennesker også kontrollerbare maskiner (eller i det mindste foregiver de at være det, så de kan arbejde med modellerne).
“Ifølge det generelle koncept for maskiner fra matematikken, er praktisk talt ethvert system en maskine. Så spørgsmålet er ikke: Er vi maskiner? Men snarere: Hvilken slags maskine er vi?”
(Kognitionsforsker Joscha Bach; citeret af Brühl, 2024).
“Programmeret læring” i USA i 1950’erne eller Facebooks “Summit Learning” i 2018 blev ifølge Ralf Lankau afledt af denne maskinforståelse af mennesker. I Storbritannien findes de første high schools og colleges, der bruger AI-værktøjer i stedet for lærere. Det handler dog ikke om at forstå fakta og sammenhænge eller diskursen om dem, men derimod om at forberede sig til eksamen, altså gentagelsesviden.
“I et pilotprojekt erstatter et gymnasium i London traditionel undervisning af lærere for 20 elever med kunstig intelligens. Ved hjælp af værktøjer som ChatGPT skal de unge forberede sig til deres afsluttende eksamen selvstændigt efter en individuel læseplan.” (heise.de d. 2.8.2024)
Men uanset hvor kompleks en AI er, “forstår” den intet af, hvad den beregner, noterer Ralf Lankau. Den har hverken bevidsthed eller sind, kender ikke den virkelige verden, men kun data eller datasæt, der behandles efter givne regler og instruktioner (algoritmer). AI er automatiseret databehandling og simulering af intelligens i henhold til matematiske modeller (mønstergenkendelse, statistik, sandsynlighedsberegning), ikke intelligens.
Automatiseret processtyring
AI-systemer kan ikke erstatte lærere. Den daglige undervisningspraksis og tilhørende undersøgelser viser enstemmigt vigtigheden af ansigt-til-ansigt undervisning og skolens sociale rum, hvilket eftertrykkeligt bekræftes af undersøgelser fra to Corona-år med pandemirelateret digitalt understøttet fjernundervisning. Heidelberg-professoren i pædagogik Karl-Heinz Dammer siger kort i sin rapport: “Læreren som den person, der strukturerer og leder lektionen, kan ikke erstattes af noget medium” (Dammer 2022, s. 5). Der henvises til undersøgelser andre steder (Lankau 2023). Det handler om frit at bestemme aspekter:
- irrelevansen af de resultater, der genereres af generativ AI for læringsprocesser
- de fatale konsekvenser for præstationsvillighed, motivation og læreprocesser og
- afhængigheden af uigennemsigtige tekniske systemer som en proces med uarbejdsdygtighed.
Irrelevans af resultaterne produceret af generativ AI
Med AI tilføjes der ikke noget nyt, de samme tekstfragmenter samles blot igen (genereres). Ikke engang udviklerne ved, hvad modellerne rent faktisk gør. Som et resultat har du ugennemsigtige systemer, der ændrer deres algoritmer automatisk men ukontrolleret og får resultater, som du hverken kender databasen eller algoritmerne eller kriterierne for tekstgenerering for. Det er maksimal mangel på gennemsigtighed.
Konsekvenser for præstationsvilje, motivation og læring
Den konkrete fare for elevernes motivation og vilje til at præstere ved brug af AI-systemer nævnes af Gottfried Böhme:
AI ødelægger motivationsstrukturen i konventionel undervisning
“Kunstig intelligens ødelægger skolen, som den eksisterer i dag. Der har aldrig været en opfindelse i uddannelsesinstitutionernes historie, der har sat så afskyelige spørgsmålstegn ved hele læringssystemets motivationsstruktur som denne AI atombombe – for at tydeligegøre mig her. Vi opdrager i øjeblikket en generation af unge mennesker, der stadig kan narre deres lærere i et stykke tid til at tro, at det, ChatGPT eller et andet program har givet dem, er deres præstation, og snart ikke længere ved, hvorfor læring overhovedet skal være umagen værd.” (Böhme 2023, s. 9)
For det er lige så trivielt som det er elementær viden, at man skal gøre noget selv for at kunne noget, hvad enten det er at løbe, tale, skrive, spille musik osv. Du lærer det kun ved at gøre det selv. Foran tv- eller videokanalen bliver du ikke olympier, musiker, maler, forfatter osv. Hvorfor tror nogen (eller i det mindste foregiver det), at det er nok at formulere en prompt til et essay for at lære at skrive et essay? Du lærer at spørge, men en AI vil snart selv kunne gøre det bedre og hurtigere, hvis der er nok træningsdata tilgængelige.
Afhængighed af teknologiske systemer som en proces med uarbejdsdygtighed
ChatBots vænner unge mennesker til at overlade sig til tekniske systemer og deres beregninger som værende gyldige hjælpemidler. Komfort og dovenskab er velkendte menneskelige træk, men desværre er de ikke nyttige i læring. Den angiveligt enkle generering af tekster, billeder eller præsentationer ved stemmeinstruktion (prompt) forhindrer ens eget engagement i et emne og underminerer den kreative handling med at komme med ideer og konceptualisere indhold og design. Uddannelsen (forførelsen) for nemheds skyld gennem brug af bots fortrænger fantasien og fantasiens spil, som bør være i begyndelsen af ethvert arbejde, hvad enten det er essay, komposition eller tegning, skriver Ralf Lankau i sin artikel.
Som en opsummering slutter Ralf Lanka sin artikel bør vi, med henvisning til Joseph Weizenbaum, igen fokusere på det væsentlige…
„… for det første, at mennesket ikke er en maskine, og for det andet, at der er visse opgaver, der ikke bør løses af computere, uanset om de kan bruges til at løse dem.” (Weizenbaum 1976, s. 10)
Disse opgaver omfatter undervisning som et ansvar for udviklingen af næste generation, som ikke må uddelegeres til algoritmer og kybernetiske kontrolsystemer, så længe uddannelsesinstitutionerne skal forblive humane, og det handler om mere end bulimisk læring til eksamen. Ellers vil uddannelsesinstitutionerne blive træningsinstitutioner som dem, man ser i autoritære stater. Ved brug af IT og AI i uddannelsesinstitutioner gælder altid: Det, der er teknisk gennemførligt, kan og skal ikke være regulator for beslutninger om og anvendelse af teknologi i sociale sammenhænge, men derimod hvad der er ansvarligt. Alternativet er derfor en anden oplysning i stedet for AI-eufori:
“Konkret er det, for at parafrasere Immanuel Kant, nødvendigt at træde ud af den selvforskyldte umodenhed i at efterligne teknologi-deterministiske fortællinger” (Grunwald, 2019)
Spørgsmålet er derfor: Hvilken slags uddannelsespolitik er det, hvilken slags forståelse af undervisning og læringsprocesser er det, når både indholdet (AI) og værktøjerne (AI-værktøjer) er specificeret af tech-virksomheder ?
Der findes allerede en betegnelse for dette i arbejdsverdenen: Algorithmic Management (AM). Det betyder: Kunstige intelligenssystemer giver folk præcise arbejdsinstruktioner, og de udfører kun, hvad systemet specificerer. Men det er ikke længere en karikatur af skole og lektioner.
Hele artiklen som PDF (8 sider): Den Grønne Parlamentariske Gruppe BaWü: AI-vejledere som lærere
Noter:
1) Website ‘Die pädagogische Wende’ er et projekt af Prof. Dr. phil. Ralf Lankau i samarbejde med Alliance for Humane Education (https://aufwach-s-en.de) og Society for Education and Knowledge e.V. (bildung-wissen.eu). Projektet er i øjeblikket under opbygning. Udgangspunktet for projektet er uoverensstemmelsen mellem pædagogiske resultater, præmisser og tankegange og de aktuelle digitaliseringsstrategier på skoleområdet, som understøttes af områder inden for empirisk uddannelsesforskning og erhvervsrelaterede foreninger. Se mere her.
2) Hele artiklen som PDF (8 sider): Den Grønne Parlamentariske Gruppe BaWü: AI-vejledere som lærere
Litteratur og kilder
Armbruster, Alexander (2019): Nicht jeder muss ein Informatiker sein, Interview mit Microsoft-Deutschland-Chefin Sabine Bendiek, FAZ v. 01.04.2019
Brühl, Jannis (2014) Es gibt Dinge, die sind wichtiger als unser Ego.Interview mit Joscha Bach, in: SZ vom 29.1.2024, S.15
Dammer, Karl-Heinz (2022) Gutachten zur Digitalstrategie der KMK des Landes NRW (2022)
Deutscher Ethikrat (2023) Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ des Deutschen Ethikrats vom 20. März 2023, hier Kap. 3.4.2 Der Mensch als Maschine – die Maschine als Mensch?, S. 107f.
Grunwald, Armin (2019) Künstliche Intelligenz: Gretchenfrage 4.0,in: SZ, 26. Dezember 2019, S. 9; https://www.sueddeutsche.de/kultur/kuenstliche-intelligenz-gretchenfrage-4-0-1.4736017 (28.07.2024)
Krauß, Bärbel (2024) Grüne wünschen sich eigenen KI-Nachhilfelehrer für jeden Schüler, in: Stuttgarter Zeitung vom 25.8.2024
Lankau, Ralf (2024) Algorithmus und Avatar im Klassenzimmer. Hintergründe, Ziele und Perspektiven von Informationstechnologie und künstlicher Intelligenz in Schulen. Monatsschrift Kinderheilkunde (2024). Springer-Link: https://link.springer.com/article/10.1007/s00112-024-02005-8; https://doi.org/10.1007/s00112-024-02005-8
Lankau, Ralf (2023) Die ich rief, die Geister, werd ich nun nicht los … Lehrkunst, Digitalisierung und Virtualität oder: Über die Rückgewinnung der Autonomie über das eigene Denken und Handeln, in: Pädagogische Rundschau (PR 2023, 77. Jahrgang, S. 751-768). DOI https://doi.org/10.3726/PR062023.0067
Lankau, Ralf (2017) Think different or: How to teach without a tablet; Symposium:Economization. Commodification. Digitalization. The Emergence of a Global Education Industry, February, 15 th 17 th 2017 at GoetheUniversity, Frankfurt am Main
Weizenbaum, Joseph (1976) Die Macht der Computer und die Ohnmacht der Vernunft. Frankfurt.
Wiener, Norbert (1948): Cybernetics. or Control and Communication of the Animal and the Machine, dt . Kybernetik. Regelung und Nachrichtenübertragung im Lebewesen und in der Maschine (1. deutsche Auflage, Düsseldorf, 1963,
Wiener, Norbert (2022) Mensch und Menschmaschine. Kybernetik und Gesellschaft. [1950]
Læs mere her:
