Igår fick den svenska polisen klartecken från Datainspektionen att börja använda sig av automatisk bildanalys i sitt utredningsarbete. Planen är att det ska komma igång i storstadsregionerna redan i höst. Det kommer gå till så att istället för att poliserna själva går igenom övervakningsbilderna manuellt så kommer en dator att analysera materialet utifrån en frågeställning. Om polisen till exempel söker efter en person som bar en röd väska kan man fylla i det och så kommer datorn att ta fram alla bilder på personer med röda väskor.
Målet är förstås att effektivisera arbetet, och det kan ju låta bra, men AI-tekniken kan inte bara användas till att identifiera föremål utan också personer och dessutom spåra personernas rörelsemönster med hjälp av så kallad biometrisk ansiktsigenkänning, och det är här det börjar bli riktigt problematiskt.
Användandet av ansiktsigenkänning inom polisen har fått stark kritik de senaste åren. I januari i år skrev exempelvis fyrtio organisationer i USA ett öppet brev till Privacy and Civil Liberties Board där de varnade för riskerna med ansiktsigenkänning. Till exempel varnar de för att tekniken har problem med att känna igen personer som inte är av europeisk härkomst. Faktum är att studier visar att risken för förväxling är hundra gånger större för mörkhyade än för ljushyade personer. Dessutom finns det en risk att tekniken kan börja användas till att övervaka minoritetsgrupper och oliktänkande.
I USA har man gått steget längre än i Sverige, där har polisen tillgång till en databas från Clearview AI som i smyg samlat in tre miljarder ansiktsbilder från exempelvis Youtube och Facebook. Det här verktyget förekommer än så länge inte, mig veterligen, i Sverige men utvecklingen går fort och det som redan är vardag på många platser i världen kan snart bli det även här. Därför är det av högsta vikt att vi redan nu är medvetna om riskerna. Ansiktsigenkänning är nämligen inte bara ett integritetskränkande verktyg, det är också – i alla fall så som det fungerar i dagsläget – både osäkert och rasistiskt.
