Mennesker skal lære om maskinlæring

Kunstig intelligens, smarte teknologier og maskinlæring. Begreberne indikerer, at maskiner kan agere intelligent og smart. At de kan lære. Sådanne egenskaber forbinder vi normalt med levende organismer – for eksempel mennesker. Det kan derfor skabe en del forvirring, når vi anvender dem om ikkelevende, ikketænkende ting som maskiner. For hvad vil det sige, at en maskine er intelligent, smart og kan lære?

Intelligens kom ifølge Gyldendal Den Store Danske ind i det danske sprog i 1300-tallet, hvor det hurtigt blev til ”et almindeligt udtryk til karakteristik af mere eller mindre begavede mennesker”. Dengang var det især de læse- og regnekyndige, der blev anset for at være intelligente. Dem blev der hårdt brug for i byerne i forbindelse med fremvækst af handel, håndværk og produktion.

Eftersom verden har ændret sig markant siden 1300-tallet – og de seneste seks-syv årtier med fremkomsten af computere – kræver det naturligvis andre former for kompetencer at leve og begå sig i samfundet i dag. Meget af det arbejde, der tidligere blev udført af mennesker, udføres i dag af maskiner. Og det indvirker i høj og fortsat stigende grad på vores alles individuelle liv, fælles liv og samfundsliv.

”Mystiske” maskiner?

Lige siden de første computere blev bygget i 1940’erne, har de været omgærdet af mystik. Der opstod betegnelser som elektronhjerner og analogier mellem den måde, en computer og en menneskehjerne fungerer på. Sådanne betegnelser blev kritiseret af datalogikyndige, der ønskede, at samfundsbefolkningen udviklede forståelse for maskinernes virkemåder. For eksempel afviste den danske datalogiprofessor Peter Naur gang på gang lighederne mellem en menneskehjerne og en computer og fokuserede i stedet på, hvordan maskinen er forskellig fra os: ”Mennesket er helt umulig til at udføre det en informationsprocessor er allerbedst til, nemlig at gentage den samme handling i det uendelige. Og datamaskinen er totalt ude af stand til at beskrive det der er kernen i menneskets bevidsthedsliv, tankestrømmen, begreber, og associationer”, skrev han blandt andet.

I 1960’erne udviklede den tysk-amerikanske datalog Joseph Weizenbaum et chatprogram kaldet ELIZA, der kunne simulere en samtale. I det mest kendte af programmerne simulerede ELIZA en psykoterapeut. Programmet fungerede ved hjælp af faste regler, hvor ELIZA kom med forhåndsdefinerede svar baseret på, hvad brugeren gav af input – ganske mekanisk. Med programmet ønskede Weizenbaum at demonstrere det overfladiske i kommunikationen mellem menneske og maskine. Men til trods for at maskinen konverserede fuldstændig uden forståelse for brugeren, tilskrev mange programmet menneskelignende følelser. ELIZA virkede intelligent på dets brugere – stik imod det, der egentlig var hensigten at demonstrere.

Maskinlæring og smart teknologi

I dag har det, der af nogle kaldes kunstig intelligens, udviklet sig langt videre. Vi taler fortsat om maskiner med intelligens, men altså også om smarte teknologier og maskiner, der kan lære. Hvor de første chatbots som ELIZA var programmeret med eksplicitte instruktioner, der forblev de samme og altså ikke kunne udvikle sig, programmerer man i dag i højere grad chatbots til at kunne ”lære”. Algoritmerne er designet til at udvikle sig løbende baseret på tidligere ”erfaringer” i form af de data, de løbende bliver fodret med. Det er dét, vi kalder maskinlæring.

Det er ikke kun chatbots, der er udviklet med maskinlæring. I Singapore har jeg ”mødt” den ”kvindelige”, ”sociale” maskinlæringsrobot Nadine, der er designet til at ligne et menneske. Til daglig arbejder ”hun” som receptionist på et universitet. Nadine kan give hånd, holde øjenkontakt og simulere følelser gennem sine bevægelser og sit ansigt. Hun kan svare på spørgsmål på flere sprog og huske alle samtaler, hun har haft. Alt sammen foregår afhængigt af interaktionen med dem, hun snakker med.

Maskinlæring er i dag indbygget i mange og meget forskelligartede teknologier. Fra musiktjenester, der anvender brugeres data til løbende at forudsige og planlægge, hvad de vil lytte til, til lægeforskere, der anvender patienters data til løbende at forudsige sygdomme. Fra sociale medier, der anvender brugeres data til løbende at justere, hvad der bliver vist i deres nyhedsstrøm, til ølbryggerier, der anvender kundernes data til løbende at justere deres opskrifter efter deres smag. Fra søgemaskiner, der anvender brugeres data til løbende at forudsige, hvad der vil blive søgt efter, og hvad de vil prioritere (og ikke prioritere) i søgeresultaterne, til supermarkeder, der anvender kundernes data til løbende at forudsige, hvad de vil købe (og ikke købe). Med meget mere.

Det kan på nogle områder være rigtigt smart. For eksempel kan supermarkeder bruge teknologien til at minimere madspild, og læger kan bruge teknologien til at opdage sygdomme i tidligere stadier. Men det kan også være ret usmart.

Digitaliseringens etiske dilemmaer

Når mennesker lærer maskiner, hvordan de skal reagere, opstår der en række etiske dilemmaer. Et af dilemmaerne er, hvilken moral der skal indbygges i programmerne. Hvem og hvad bestemmer, hvad der er godt og skidt?

Et efterhånden klassisk eksempel på et sådant dilemma er selvkørende biler. Hvordan skal en selvkørende bil programmeres til at reagere i farlige situationer, hvor mennesker reagerer mere instinktivt? Hvad sker der, når mennesker lærer en robot som Nadine at kommunikere og samtidig videregiver egne stereotype forestillinger og individuelle holdninger til tilværelsen – som maskinen lærer fra sig til andre mennesker, den kommunikerer med? Er det okay at designe adfærd og indbygge afhængighed i form af for eksempel likes, i kommercielle programmer – og at bruge sådanne programmer i skolen? Bør algoritmer alene beslutte, hvem der skal hyres og fyres i en virksomhed? Hvornår er mennesker i det hele taget påkrævet i et programs beslutningsloop?

For at kunne tage stilling til sådanne dilemmaer og være med til at udvikle samfundets retning i en tid med maskinlæring, er det påkrævet, at mennesker lærer, hvordan programmerne fungerer, og hvilke intentioner der er bygget ind i dem.

Ind i uddannelsen

”Betydningen af datamodeller for samfundslivet kan næppe overvurderes”, skrev Peter Naur i 1967. ”De er grundlaget for enhver planlægning”.

Derfor er det også kun rimeligt, at datalogien kommer ind i uddannelsen. Når modeller baseret på maskinlæring planlægger både samfundets retning og menneskers individuelle retninger, er det afgørende at udvikle datalogiske kompetencer og forståelse for maskinernes programmering, hvis man skal kunne tage stilling til og medbestemme, hvordan samfundet, fællesskabet og ens eget liv skal udvikle sig.

”Når datalogien er blevet vel etableret i almenuddannelsen vil den mystik der omgiver datamaterne i manges forestillinger opløse sig i intet”, skrev Naur videre. Den historiske udvikling inden for datalogien – det fundament som maskinlæring er bygget op fra – kan være nyttigt til at forstå, hvordan nutidens modeller fungerer. Men i dag indebærer forståelse for programmering ikke kun forståelse for traditionel lineær programmering. Hvis mystikken skal opløse sig i intet, kræver det i tillæg forståelse for maskinlæring.

Mennesker skal vide, at maskiner ikke er intelligente. At programmernes algoritmer er skabt af mennesker til helt mekanisk at udvikle sig og justere output baseret på de input, de får i form af data. Maskinen erfarer altså ikke, den lærer ikke, og den forstår ikke noget som helst i menneskelig forstand. Dens programmer er skabt af mennesker til at simulere intelligens, og derfor kan man foranlediges til at tro, at den ér intelligent.

Som jeg startede med at skrive, var det i 1300-tallet især de læse- og regnekyndige, der blev anset for at være intelligente. For dem blev der hårdt brug for i byerne i forbindelse med fremvækst af handel, håndværk og produktion. I 2000-tallet er der i tillæg hårdt brug for datalogisk kyndighed. Det gælder for alle aldersgrupper, men det starter i grundskolen.