AI inom svensk skola används i allt större utsträckning, ofta med föreställningen att AI kan göra undervisningen mer jämlik. Begrepp som rättvisa och likvärdighet används enligt forskare från Göteborgs universitet ofta när AI-verktyg i skolan diskuteras. Men AI-verktyg är inte mer fördomsfria och objektiva än vad som förs in i systemen. 

Marie Utterberg Modén, postdoktor i IT och lärande och en av författarna till artikeln When fairness is an abstraction: equity and AI in Swedish compulsory education som bland annat har tittat på hur AI-system användes i England under covid-19-pandemin istället för de vanliga antagningsproven till universiteten. AI-systemet skulle väga in tidigare prestationer och betyg med syftet att skapa en så rättvis antagningsprocess som möjligt.

Men resultatet blev att elever från socialt utsatta områden missgynnades. Under parollen ”F*ck the algorithm” växte en proteströrelse fram och en omfattande diskussion om AI och rättvisa väcktes. 

– Det är lätt att lita på sådana här system, eftersom de uppfattas som objektiva, säger Marie Utterberg Modén på Göteborgs universitets hemsida, och fortsätter:

– Men de fungerar så att de förstärker, kategoriserar och innehåller fördomar som beror på oss själva. Vi ser saker på ett visst sätt och för in det i systemen. I England tänkte de att systemet de tog fram skulle ta hänsyn till de olikheter som fanns, men till slut fick de inse att det inte fungerade bra och att framför allt elever med goda resultat i de lägre socioekonomiska områdena blev drabbade.

Hon och forskargrupppen betonar vikten av att titta på vad som händer när ett AI-system tillämpas i klassrummet och i skolan generellt. Skolledare och lärare måste också fundera över vilka anpassningar av ett AI-verktyg som måste till för att gagna deras elever. 

Kan bli hjälpmedel för elever

Ett möjligt användningsområde för AI i den svenska skolan skulle kunna vara att AI kopplas ihop med digitala läromedel och bli ett stöd för den enskilda eleven som kan få råd om hur läxorna ska förstås. Men olika skolor har olika ekonomiska förutsättningar. Enligt Marie Utterberg Modén kan privata skolor med vinst ha större möjlighet än kommunala skolor att investera i AI-system, liksom låta lärarkåren utbilda sig i hur de kan användas i undervisningen. 

Om AI-systemen implementeras olika eller vissa skolors lärare inte har kompetens i hur de kan användas kan AI snarare än att bidra till likvärdighet öka skillnaderna mellan skolor, och därmed öka ojämlikheten i elevernas tillgång till stöd. 

– Vi ser att likvärdigheten i skolan har minskat. Då är det viktigt att om vi nu för in sådana här system, måste de helst göra så att vi får en bättre likvärdighet och i alla fall inte göra så att den blir ännu sämre, säger Marie Utterberg Modén.