Automatiskt beslutsfattande blir allt vanligare i offentlig sektor, något som kan leda till minskad transparens och att det blir svårare att utkräva ansvar. Det menar forskare på Södertörns högskola, som anser att medborgare behöver få veta sina rättigheter när det gäller AI-beslut som rör en själv.
Riksarkivet tillgängliggör historiska handskrivna dokument digitalt med hjälp av artificiell intelligens, och Bolagsverket kategoriserar flöden av inkommande handlingar. I Strängnäs kommun kan handläggare få hjälp av AI med att hitta tecken på våld och konflikt i orosanmälningar. Det är några exempel på hur AI kan användas för beslutsfattande inom offentlig sektor.
Sverige skulle kunna frigöra 140 miljarder kronor varje år på att dra nytta av AI-teknik i den offentliga sektorns processer och verksamheter, enligt en rapport från Digitaliseringsmyndigheten 2019. Det är sex procent av de totala offentliga utgifterna. Och sedan rapporten kom har AI-utvecklingen accelererat. Främst inom ekonomihantering, HR, juridik, schemaläggning och dokumenthantering skulle man kunna spara pengar, enligt myndigheten.
Förhoppningen är att rutinmässiga arbetsmoment automatiseras, medan människor ägnar sig åt mer kreativa, strategiska och relationsorienterade arbetsuppgifter, enligt Peter Siljerud, aktuell med boken AI inom offentlig sektor.
Men för medborgarna finns även risker, enligt Anne Kaun, professor i medie- och kommunikationsvetenskap vid Södertörns högskola.
− Automatisering kan visserligen leda till mer effektiva processer och kostnadsbesparingar, men det kan också resultera i minskad transparens och minskat ansvarsutkrävande. När beslut fattas av algoritmer istället för av människor kan det vara svårt för medborgare att förstå bakgrunden till beslutet, och till och med få dem att uppfatta beslutet som orättvist, säger hon i ett pressmeddelande.
I en ny studie har hon undersökt vad medborgarna anser om att automatiserat beslutsfattande blir vanligare inom offentlig sektor.
− Våra studier visar att medborgare generellt är ganska omedvetna om sina rättigheter när det handlar om att bidra med data för automatiserat beslutsfattande, säger Anne Kaun.
Forskargruppen ser behov av att allmänheten får utbildning i frågor om automatiserat beslutsfattande, som vilka rättigheter de har när det gäller att förse systemet med data. Har du exempelvis rätt att få beslut baserade på uppgifter du lämnat fattade av en människa? Har du rätt att få veta om beslutet är fattat av AI? Det är frågor som medborgare bör ha koll på, enligt Anne Kaun.
Medborgarna borde också ges möjligheten att påverka hur systemen ser ut och implementeras, menar forskarna.
− Det är viktigt att inte enbart se digitaliseringens fördelar utan även dess utmaningar, ja till och med nackdelar, säger Anne Kaun.
