När e-handelsföretaget Amazon under mitten av 2010-talet använde ett AI-verktyg för rekrytering blev resultatet att majoriteten av de utvalda toppkandidaterna var män. Kvinnliga sökande sållades automatiskt bort på grund av att AI tränats på historiska data och att man tidigare alltid haft flest män på de aktuella posterna.
Etik och moral viktigt för tillförlitlig AI
Förbättringsarbete
Med implementering av AI följer också flera etiska frågeställningar. Vilken kvalitet har till exempel resultatet om det baseras på historiska data som inte har korrigerats för bias? Karin Danielsson, forskare på Umeå universitet betonar vikten av transparens för att undvika snedvridningar.

Någonting är fel
Läs vidare – starta din prenumeration
– Det visar hur viktigt det är med transparens så att man förstår hur systemet kommit fram till resultatet. Tack vare uppmärksamheten kring Amazons rekryteringsprocess är man i dag medveten om hur man bättre kan använda och inte använda AI-system, att det behövs människor som gör sista urvalet, säger Karin Danielsson, som är docent i informatik samt föreståndare för Humlab som verkar i gränslandet mellan informationsteknik och humaniora.


