Irritation vanligt när konsumenter möter digitala assistenter

Digitalisering En ny undersökning visar att ai-drivna produkter är inte så smarta som folk vill att de ska vara. Digitala assistenter misslyckas ofta med att skapa behagliga möten mellan människa och teknik, något som både friktion och utebliven nytta för användarna.

Irritation vanligt när konsumenter möter digitala assistenter
Den japanska roboten Pepper - är en människolik och omtyckt robot. Bild Adobe Stock.

Förra året genomförde Alice Labs, ett Helsingforsbaserat konsultföretag, och Centret för konsumentforskning vid Helsingfors universitet en årslång studie om användning av tjänster för musik- och videostreaming samt digitala assistenter. Undersökningen gjordes i samarbete med teknik- och designföretaget Reaktor.

Någonting är fel

Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Kvalitetsmagasinet premium

Läs vidare – starta din prenumeration

Redan prenumerant?

Studien omfattade noggranna observationer som visade att rekommendationssystem och digitala assistenter upprepade gånger misslyckas med att erbjuda behagliga möten mellan människa och teknik. Istället leder dessa interaktioner ofta till situationer där maskiner uppfattas som trubbiga och klumpiga – med påföljande irritation när detta uppstår.

Olof Hoverfält, Reaktor. Foto Sabrina Bquin.
Olof Hoverfält, Reaktor. Foto Sabrina Bquin.

– I studien kunde man se att användare av ai-drivna system upprepade gånger hamnade i situationer där de fick en passiv position gentemot det algoritmiska systemet som inte gav dem någon nytta – faktiskt var effekten ofta direkt motsatt och man upplevde något som vi valt att kalla för algoritmisk trötthet eller algoritmisk utmattning. I sådana situationer önskade användarna att det fanns en möjlighet för dem att själva hjälpa systemet i rätt riktning. Man vill helt enkelt ha möjligheten att säga till systemet att det gjort ett fel, och till och med samarbeta aktivt med systemet för att ändra på detta, säger Olof Hoverfält, strateg på Reaktor.

Höga krav på maskiner

De “algoritmiska möten” som beskrivs i rapporten antyder att ju närmare vi lever med maskiner, desto mer vill vi att de ska vara som oss. Vi vill att de, baserat på vad de ska göra för oss, ska reagera intuitivt på våra skiftande mål och förväntningar, och även förändringar i våra liv, det vill säga kontexten. Algoritmer med mänskliga instinkter är dock fortfarande en dröm som är svår, om inte omöjlig, att uppfylla, menar Olof Hoverfält.

– Digital teknik utvecklas ofta till en ”one size fits all” -modell. Erfarenheterna med rekommendationssystem och digitala assistenter antyder ändå att människor i olika sammanhang antar mycket olika ställning i förhållande till den teknik de använder. De kanske vill vara passiva i vissa situationer eller föredrar att vara aktivt involverade i andra sammanhang.

De till synes små incidenterna i undersökningen sätter fingret på de större frågorna som står på spel när det gäller algoritmiska fördomar och teknikens förmåga att kunna sortera och agera rätt på olika data.

– Den designguide som vi erbjuder föreslår att företag och organisationer behöver bygga digitala tjänster med hänsyn till om människor vill förbli inaktiva eller ta en mer dynamisk roll och samarbeta nära med maskinen i de olika fallen, säger Olof Hoverfält.

Kombinera olika styrkor

Han menar att det är genom att noggrant kombinera mänskliga styrkor med styrkan hos artificiell intelligens som vi verkligen kan börja se smarta maskiner. För svenska företag innebär det en möjlighet att exploatera nischade områden som inte redan är upptagna av de stora techgiganterna.

– Därför behöver vi också mer interaktion mellan den akademiska världen och industrin, samtidigt som yrkesverksamma inom olika områden – från design och datavetenskap till marknadsföring – behöver interagera betydligt närmare varandra, avslutar Olof Hoverfält.

Kunskapsmaterial

Bloggar

Böcker

Karriär

Ledare

Kvalitetsmagasinet

Kvalitetsmagasinet Premium

Full tillgång till strategiska artiklar och smarta verktyg för bland annat verksamhetsutveckling, kvalitetssystem och ledarskap.