Mänskliga sidor av AI lyfts fram i standardisering

– Syftet är att synliggöra för bland annat utvecklare, ägare och användare av de tekniska lösningarna att det även finns mänskliga aspekter kring artificiell intelligens att ta hänsyn till, berättar Mikael Hjalmarson, projektledare på Svenska institutet för standarder, Sis.

Så här långt har expertgruppen tagit fram ett antal grundprinciper som lyfter fram sociala och etiska perspektiv som är viktiga att inkludera vid användningen av AI. Dit hör ansvar, mänskliga rättigheter, transparens, jämlikhet och tillförlitlighet.

Läs även: Så ska lagen gälla även för AI

Förutfattade meningar ska undvikas

– Det är till exempel viktigt att uppmärksamma nyttan av att det inte byggs in förutfattade meningar om kultur, ras eller liknande i beslutsmodellerna, säger Mikael Hjalmarson.

Expertgruppen tar dock inte ställning, utan föreslår vilka aspekter som kan vara av betydelse.

– När det gäller ansvarsfrågan är den till exempel inte alltid självklar. I dag kan en bilförare ställas till svars om ett fordon orsakar en olycka, men vem har ansvaret om bilen är självkörande?

Transparens är viktigt, så att man vet vilka algoritmer som systemen använder sig av. Systemen ska också vara tillförlitliga, så att samma resultat uppnås varje gång samma situation upprepar sig.

– En säkerhetsfråga är också vem som får använda systemet och hur, menar Mikael Hjalmarson.

Data som används för lösningar med artificiell intelligens kommer från många olika källor och olika delsystem samverkar. Det kan vara svårt att avgöra vad som är huvudprodukt, inte minst ur ett juridiskt och etiskt perspektiv.

– Standarder kan spela roll för hur algoritmerna ska bedömas och styras, säger Mikael Hjalmarson.

Senast under 2021 ska expertgruppen lämna sitt samlade förslag till standard, i form av en tekniskt rapport, för etiska och sociala aspekter av artificiell intelligens.

Samlat grepp om teknikområden

Både Sis och den svenska regeringen arbetar för att Sverige ska vara drivande inom hållbar och etisk AI.

Det nuvarande Iso-samarbetet avseende mänskliga aspekter av AI inleddes av Sis och sker nu i en underkommitté till den svenska arbetsgruppen TK 611, bestående av experter från näringsliv, samhälle och ideella organisationer.

Läs även: 100 miljoner till forskning om hur AI påverkar oss

Etiska och sociala aspekter av artificiell intelligens

• Ansvar
• Mänskliga rättigheter
• Transparens
• Jämlikhet
• Tillförlitlighet
• Personlig integritet
• Säkerhet
• Spårbarhet