Stämde Göteborg för stor teknikmiss – förlorade

Enligt Charlotta Kronblad är det juridiska systemet inte riggat för en digitaliserad offentlig sektor. Nyligen deltog hon i Baltic Business and Public Policy Summit på Studentpalatset i Stockholm, där representanter från det offentliga och privata samlades för att skapa samhällelig motståndskraft i utmanande tider. Där sade hon att det finns stora risker med att införa algoritmer i det offentliga, om den implementerande myndigheten inte vet vad de gör.

Charlotta Kronblad refererade till ett citat från juridikprofessorn Philip Alston i sin presentation och sade att vi blint snubblar fram i en digital välfärdsdystopi som zombies när regelverket översätts till kod.

”Domstolarna saknar möjligheter och kompetens”

Under konferensen höjde Charlotta Kronblad ett varningens finger för att det juridiska systemet inte är riggat för en digitaliserad välfärd. Utvecklingen går fortare än juridiken hinner med.

– Domstolarna saknar såväl möjligheter som digital kompetens för att kunna rätta till nya, både systematiska och individuella, fel. 

Hon gav ett exempel.

2020 använde Göteborg stads grundskoleförvaltning ett kodat system för skolplaceringen av 12 000 skolelever. Algoritmen räknade ut var eleverna skulle gå baserat på fågelvägen, och bortsåg från att det finns en älv som delar Göteborg itu. Därför placerades barn från exempelvis Majorna på en skola i Liljeholmen, vilket ledde till lång pendling. Koden ledde till att 1 400 barn placerades på andra skolor än de vanligtvis skulle ha placerats på.

– Det är vad jag kallar algoritmisk orättvisa, sade Charlotta Kronblad.

Vill att bevisbördan ändras

Hon testade stämma Göteborgs stad och begärde en laglighetsprövning av koden som hade orsakat att elever placerades långt bort från sina hem.

Trots att algoritmen inte följde praxis vad gällde skolplaceringar så förlorade Kronblad i rätten. Bevisbördan landade på henne att hitta fel i algoritmen.

– Jag tycker att det är för mycket begärt att privatpersoner ska begära ut kod, försöka förstå den och lägga fram sin talan i domstol. Det vore mycket mer effektivt om bevisbördan ändrades så att den som har koden och har använt den faktiskt är ansvarig för att bevisa lagligheten.

Charlotta Kronblads bedömning är också att jurister borde integreras i den digitala transformationen för att bidra med ett etiskt perspektiv.

– Jurister måste snacka algoritmer. Vi bor inte längre i en värld där man utbildar sig och går ut i världen med all nödvändig kunskap. Vi måste kontinuerligt lära oss.

Ska man klandra Göteborg för att de använde sig av en algoritm?

I detta fall tycker jag att det var klantigt gjort. Man fick varningar men körde ändå. De borde också kunna vara ödmjuka och erkänna fel. I och för sig var det folk som fick gå, så vi har väl lärt oss något av det, men man ska inte glömma att det var ett hundratal elever som fick gå hela sin högstadietid på fel skola, avslutar Charlotta Kronblad.