Hvis du oversætter sætningen 'min kæreste er sygeplejerske' til engelsk ved hjælp af Google Translate, så vil Google oversætte sætningen til 'my girlfriend is a nurse'. Men hvis du bytter arbejdstitlen sygeplejerske ud med direktør, så sætningen bliver 'min kæreste er direktør, oversætter Google Translate det til 'my boyfriend is a director'.
Denne oversættelse er et eksempel på en teknologi med algoritmisk bias. Kort fortalt er algoritmisk bias en beslutningstøttende algoritme, der behandler nogle befolkningsgrupper unfair. Netop nogle af de nyeste teknologier, som fx AI, er algoritmisk biased, fordi de er trænet på et datasæt, som ikke er repræsentativt.
Algoritmisk bias er noget, som ligger Andreas Lidenskov Tamborg meget på sinde. Han er adjunkt på Institut for Naturfagenes Didaktik og leder af et nyt forskningsprojekt, der skal bringe digitale dilemmaer ind i matematiktimen. Målet er at få digitale, myndige elever, der har de rette værktøjer til at have en kritisk tilgang til nye teknologier. "Vi ser fx algoritmisk bias i de datasæt, som AI er baseret og trænet på. Det er vigtigt at forstå, hvordan den slags opstår, da algoritmisk bias behandler nogle befolkningsgrupper unfair, fx ud fra køn, etnicitet og alder. Det værste for mig som uddannelsesforsker ville være, at eleverne ikke er klar over, at algoritmisk bias eksisterer. Grundskolematematikken kan spille en vigtig rolle i at udvikle elevernes forståelse for den her udfordring," siger Andreas Lindenskov Tamborg.
Risiko for skævredet resultat
Det er til at få svedige håndflader af at tænke på, at AI baserer sig på datasæt, der er biased. Hvis AI baserer sig på kvantitativ, historisk data, vil samfundsudviklinger, der først er i sin spæde start, blive sat tilbage i sin udvikling; i hvert fald i AI-regi.
Et eksempel er ligestilling mellem køn. I en lang periode har kønsulighed præget vores virkelighed, og det er først i nyere tid, at der har været fokus på dette. Men perioden med ulighed dominerer det datasæt, som AI baserer sin algoritme på. Det betyder fx, at hvis du beder AI om at genere et billede af en sekretær, vil det med stor sandsynlighed være et billede af en kvinde. På den måde bliver bias og herunder kønsuligheden opretholdt.
"Det er vigtigt at være opmærksom på algoritmisk bias samt at forstå noget af den grundlæggende matematik, der ligger gemt bag disse algoritmiske modeller. I sidste ende risikerer vi ikke at leve op til folkeskolens formålsparagraf, hvis vi ikke klæder eleverne på til en verden med kunstig intelligens," siger Andreas Lidenskov Tamborg.
Matematik modellering er en af nøglerne til at forstå de matematiske modeller, som ligger bag algoritmerne i de nye teknologier. For når man skal opstille beslutningsdygtige algoritmer, er der mange aspekter, der spiller ind; her især beslutninger om repræsentativitet.
"Repræsentativitet i én sammenhæng er måske ikke ikke det samme i en anden sammenhæng. I siste ende afhænger det af, hvad algoritmen skal bruges til. Det kan endda nogle gange ændre sig, efter modellen er udviklet og bliver anvendt i praksis. Men der skal tages beslutninger om repræsentativitet for at kunne opstille statiske referenceklasser. Samtidig er det derfor de beslutninger, som kan risikere at skævvride et resultat," forklarer Andreas Lindenskov Tamborg.
Matematikken som vagthund
I Andreas Lidenskov Tamborgs forskningsprojekt, som er støttet af Novo Nordisk Fonden, vil de skabe en stærkere kobling mellem teknologiforståelse og matematik, hvor de vil bringe autentiske, digitale cases ind i matematiktimen. Matematikken skal være værktøjet til at give en forståelse for algoritmisk bias.
"Stikprøvekontrol i statistik er en udemærket tilgang, når man skal undersøge, om et datasæt er repræsentativt. Der kan eleverne arbejde med udvælgelse af en stikprøve, som er repræsentativ. Så kan man åbne op for en bredere diskussion om, hvad der sker, hvis man ikke laver en ordentlig stikprøve, hvad det egentlig vil sige, at noget er repræsentativt," siger Andreas Lidenskov Tamborg, der også giver et eksempel på dette: "Der var et projekt, hvor de skulle oprette skoler i Afrika og dermed undersøge, hvor det var mest hensigtsmæssigt at oprette skolerne ift. børnenes lokation. Man kunne ikke bare bruge deres adresse, for det var ikke nødvendigvis der, børnene opholdt sig. Så man valgte at bruge mobildata fra telefonmasterne. Problemet var bare, at det kun var fædrene, der havde telefoner. Mødrene havde ikke telefoner, og det var primært dem, der var sammen med børnene."
Det 2,5-årige forskningsprojekt er kun lige i opstartsfasen, så der er stadig et stykke vej, før man kan drage konklusioner og anbefalinger til at bringe teknologiforståelse ind i matematikundervisningen. Lærerne bliver også en vigtig del af forskningsprojektet, da deres viden og erfaringer er essentielle for forskningen.
Fremtiden med AI
I dette øjeblik går udviklingen af AI lynhurtigt, og det kan være svært at følge med. Der er ikke nogen indikationer på, at AI vil forsvinde inden for den nærmeste fremtid. AI bliver kun mere og mere effektiviseret.
"Jeg håber, at matematikundervisningen vil følge med, så eleverne er forberedt til at komme ud i verdenen. Lige nu er vi en situation, hvor det er svært at se, hvornår noget er menneskeskabt eller syntetisk," siger forskeren.
Ifølge Andreas Lidenskov Tamborg kommer vi ikke ud i en situation, hvor 'robotterne overtager', for der vil altid være brug for menneskelig tolkning af data.
"Tolkning af data afhænger af menneskelig vurdering. Men man kan kun tolke godt og grundigt, hvis man forstår, hvad beregningerne er baseret på. Man bliver nødt til at have forståelse for de matematiske beslutninger, man træffer, og de konsekvenser, som de har for resultatet," forklarer Andreas Lidenskov Tamborg og afslutter:
"Eleverne skal have en forståelse for matematikken, der ligger bag, så de er oplyste nok til at kunne ræsonnere, fortolke og stille sig kritisk over for den data og teknologi, som de vil møde, når de skal ud i verden."
