Tekniska verktyg hotar demokratin – så kan det undvikas
Digitalisering En studie visar att automatiserade beslut är ett hot mot demokratiska grundprinciper. Men så länge offentlig sektor tar kontroll och lär sig mer om tekniken ser forskarna ingen anledning att dra i nödbromsen.
Tekniska framgångar har möjliggjort för automatiserat beslutsfattande i offentlig sektor, såsom roboten i Nacka som tar beslut om installation av eldstad. Det kan öka effektiviteten, vilket välkomnas i bistra ekonomiska tider som dessa, men kan också undergräva grundläggande demokratiska principer. Det säger forskare som har undersökt saken.
Någonting är fel
Läs vidare – starta din prenumeration
– Automatiserat beslutsfattande är inte transparent. Det är svårt att förstå hur ett beslut har fattats, och det finns inte särskilt mycket insyn. Det i sin tur leder till problem vad gäller ansvarsutkrävande, säger Vanja Carlsson, forskare inom offentlig förvaltning vid Göteborgs universitet.
Tre lösningar
Användningen av olika tekniska verktyg krockar med förutsägbarhet och transparens, alltså grundläggande principer inom demokratin. Vanja Carlsson listar dock hur offentlig sektor kan använda sig av automatiserat beslutsfattande, utan att låta det hota demokratiska grundprinciper:
- Låta system kommunicera beslutssteg – Om algoritmen eller AI:n utvecklas till att översätta sin beslutsprocess och kommunicera beslutsunderlaget så blir det mer transparent.
- Tydligare redovisningskrav – Redan idag finns krav på att offentliga organisationer som använder sig av automatiskt beslutsfattande måste informera om hur ett beslut har tagits. Vanja Carlsson säger att det kravet skulle kunna förtydligas.
- Göra det lättare att avvika från de automatiserade beslutet – Precis som handläggare kan algoritmer ta felaktiga beslut, men i dagsläget är det svårt för tjänstepersoner att avvika från ett automatiserat beslut. Det borde bli lättare att rätta till ett automatiserat, felaktigt beslut.
Undersökte ni på något sätt ifall offentlig sektor borde bromsa in användningen av automatiserat beslutsfattande?
– Vi utgick ifrån faktumet att den här tekniska förändringen är här, och att offentlig sektor därför måste tänka på hur verktyg som dessa påverkar medborgarna. Man måste ha en medvetenhet kring vad man implementerar. Så länge som man är medveten om det så ser jag inte att man skulle behöva ”backa”.
Samtidigt märker Vanja Carlsson av ett stort kunskapsunderskott inom offentlig sektor vad gäller automatiserat beslutsfattande.
– De uppmuntras till att vara med i utvecklingen samtidigt som de inte kan särskilt mycket. Det tycker vi är ganska anmärkningsvärt, säger hon.
Är kunskapen verkligen så låg inom offentlig sektor?
– Jag skulle säga att det är så, i alla fall i förhållande till industrin. Det är garanterat så i små kommuner. Kommunerna är också helt beroende av att dessa tjänster upphandlas, så man sitter i knäna på bolagen som utvecklar systemen. Rent generellt skulle de behöva ta makten över utvecklingen, säger Vanja Carlsson.
