AI lyver om Matador-hundens død: Sådan lærer du dine elever at være kritiske

Lad mig straks afkræfte. Jeg anser ikke mig selv som maskinstormer, og synes bestemt kunstig intelligens er yderst spændende. Desuden har jeg, efter mange kollegaers tålmodige forklaringer, efterhånden fået en idé om, at chatbots som SkoleGPT og ChatGPT er sprogmodeller og ikke altid kan bruges som faktuelle søgemaskiner - men ved vores elever det? 

Kanslergadeforliget i 1993

Kunne man forestille sig dette scenarie? En elev har været fraværende (fysisk eller mentalt) i dele af historieundervisningen. Afgangsprøven står for døren, og eleven tænker han/hun hellere må få hjælp af en chatbot. Hvis eleven bruger SkoleGPT han/hun for eksempel blive informeret - hvis vi kan kalde det, det - om, at "Kanslergade-forliget blev indgået i 1993 mellem Socialdemokratiet, Det Radikale Venstre, Det Konservative Folkeparti og Venstre". Med sin nyerhvervede viden kan eleven nu så småt gå i gang med at forberede sig til afgangsprøven.

Ovenstående er ikke helt taget ud af den blå luft. Forleden spurgte jeg skoleGPT om Kanslergadeforliget. I al beskedenhed har jeg en smule kendskab til forliget, så jeg prøvede at spørger chatbotten, om den ikke mente, at forliget var indgået i 1933. Desuden påstod jeg at Det Konservartive Folkeparti ikke var med i forliget. Maskinen holdt fast i sit, så jeg må vel tage fejl - for alt på nettet er jo rigtigt, eller hvad? 

Den døde hund 

Hvordan sprogmodeller som Chat- og skoleGPT præcis virker går over min forstand. De kan rigtig meget, men faktuelle sandhedsmaskiner er de ikke. D

et er vigtigt at fortælle eleverne, inden de fuldstændig ukritisk tager svarene fra maskinerne for gode varer. Et godt eksempel, som kan bruges over for eleverne, er fra tv-serien Matador. I afsnit 17, 'De voksnes rækker', efter cirka 40 minutter, dør grisehandlerens hund, Kvik. Det sker på Jernbanerestauranten, hvor en tysk soldat konstater at "Der Hund ist tot". Dette korte klip kan hurtigt vises for eleverne. Bed efterfølgende eleverne om kort at besvare spørgsmålet "Hvordan døde Kvik?". Bagefter kan eleverne spørge forskellige chatbots. Jeg kan godt afsløre, at svarene ikke stemmer overens med det eleverne lige har set. 

Som tidligere skrevet er dette blogindlæg ikke et angreb mod hverken maskiner eller chatbots, men vi skal lære vores elever, hvordan den nye teknologi kan bruges, og hvad den bestemt ikke kan bruges til - ellers kan kanonpunkter, som Kanslergadeforliget, få en helt anden historie.