Automatiserat beslutsfattande saknar lagar och regler

I takt med den ökade digitaliseringen har system för automatiserat beslutsfattande kommit på bred front i allt fler länder. Rapporten ”Automating Society – Taking Stock of Automated Decision-Making in the EU” lyfter fram ett 60-tal exempel från 12 olika länder.

I Finland profileras arbetssökande utifrån vad de har i sin inkorg, i Italien bestämmer algoritmer vilka som ska få behandling i sjukvården, i Polen sorterar algoritmer arbetslösa och i Danmark identifieras barn som är i behov av extra socialomsorg med hjälp av algoritmer för att ta några exempel.

– Det finns massor med områden där system för automatiserat beslutsfattande används. Men hittills baseras de flesta systemen på statiska algoritmer. Nästa steg blir system som bygger på artificiell intelligens och självlärande algoritmer, vilket innebär ytterligare ett steg bort från den mänskliga processen, säger Anne Kaun, docent i mediekommunikationsvetenskap vid Södertörns högskola som bidragit till rapporten.

Beslut om försörjningsstöd

Ett område där automatiserat beslutsfattande fått genomslag i Sverige är inom offentlig förvaltning. Trelleborgs kommun, som lyfts fram i rapporten, var först ut med att börja använda ett system för automatiserat beslutsfattande för försörjningsstöd. En algoritm har utvecklats som automatiskt kopplar uppgifter från Skatteverket med databaser från andra myndigheter. Därmed kan ett beslut genereras automatiskt i systemet och snabbt levereras till den sökande.

För Trelleborgs kommun har det resulterat i stora besparingar. Antalet handläggare har reducerats från elva till tre och kostnaderna för försörjningsstöd sänkts dramatiskt.

Automatiseringsmodellen betraktas som så framgångsrik att den nu håller på att implementeras i ett stort antal andra kommuner runt om i landet.

Läs även: Kulturförändring ökade kvaliteten i Trelleborg.

Problemet i såväl Sverige som andra länder är bara att befintliga regelverk inte är anpassade för automatiserat beslutsfattande. Den svenska lagstiftningen exempelvis medger att kommuner använder den här typen av system – men endast som stöd för handläggarnas egna beslut.

– Ett arbete pågår för att anpassa lagstiftningen. Men för närvarande strider alltså projektet i Trelleborg mot befintlig lagstiftning, som förbjuder helt automatiserat beslutsfattande på kommunnivå. En nyckelfråga är till exempel vem som ska ställas till svars om någonting går fel i beslutsprocessen, säger Anne Kaun.

Behov av samordning och diskussion

Rapporten, som presenterats för Europaparlamentet, visar på bristerna med befintliga regelverk och förespråkar en europeisk samordning kring de här frågorna. Men Anne Kaun lyfter också fram behovet av en öppen diskussion – inte minst i Sverige och andra nordiska länder som har så väl utbyggda offentliga system med utförlig information om sina medborgare.

– Att dessa olika register nu kan samköras och ligga till grund för beslut får effekter som kräver en öppen diskussion. I många fall kan systemen gynna medborgarna, men tillämpningen av dem kan också skapa risker i form av orättvis behandling, ökad övervakning och minskad jämlikhet. Det är någonting som allmänheten måste bli medveten om, betonar hon.