Bättre system ger träffsäkra rekommendationer på nätet

Dimitris Paraschakis har i sin avhandling studerat hur företag och andra aktörer på nätet kan ge ännu mer personliga och träffsäkra rekommendationer som samtidigt lever upp till etiska och rättvisa krav. Det kan handla om allt från banklån och böcker till resor och förslag på dejtingpartner som styrs av maskininlärningsalgoritmer.

Enligt Dimitris Paraschakis har det skett en övergång till en mer realistisk modellering av användardata som bygger på olika sessioner och sekvenser i användarnas beteende, alltså de data som genereras när vi tittar på en produkt på nätet, lägger den i varukorgen och klickar på köp.

Större träffsäkerhet

Dessa mer pragmatiska modeller, som använder sekvenser, sessioner och strömningar ger stora möjligheter att bygga ännu mer exakta, rättvisande och personliga rekommendationssystem.

I avhandlingen föreslår Dimitri Paraschakis två nya rekommendationssystem för strömning av sessionsdata. Han har även tagit fram ett nytt verktyg för benchmarking där han jämfört sina modeller med existerande.

– Vi testade våra föreslagna algoritmer när det gällde såväl tips om resor, shoppingpreferenser som vilka nyheter du är intresserad av att läsa. I samtliga fall blev träffarna mer exakta, säger han.

Etiska aspekter

I avhandlingen diskuterar han även de etiska aspekterna av rekommendationssystem – något som tidigare inte stått i fokus vid utvecklingsarbetet.

– När systemet börjar användas är det inte bara hur träffsäkert det är som spelar roll. Det måste också kunna leva upp till normer och lagar om antidiskriminering, integritetskrav, GDPR och liknande. Det finns risk att det bidrar till saker som partiskhet, filterbubblor och desinformation, konstaterar han.

Dimitris Paraschakis menar att utvecklare måste ha en helhetssyn på potentiella etiska problem och förespråkar tillhandahållandet av etiska filter som användaren kan ställa in.

Rättvis matchmaking

I en delstudie har han fördjupat sig i ”algoritmisk rättvisa”. För att illustrera hur det kan fungera presenterar han en modell för rättvis matchmaking vid speed dejting.

Dimitris Paraschakis berättar om ett fall där människor upprördes över att dejtingtjänsten de använt konsekvent matchade dem mot personer med samma etnicitet, trots att de specifikt angett att det var ovidkommande.

– Det visar att rekommendationssystem kan bortse från användarens önskemål. I vår algoritm kan man göra urvalet mer rättvisande och slipper bli pådyvlad preferenser man inte har. Det kan vara känsligt, men är också en rättighet att ha olika preferenser på olika områden, säger han.

Vinst för båda parter

Är rekommendationssystemet mer träffsäkert vinner båda parter på det, menar han. Det gäller till exempel när man matchar en arbetssökande mot en ledig tjänst – både företaget och den sökande ska veta att rekommendationen stämmer överens med jobbprofilen.

– Det handlar även om att göra ett rättvist urval av kandidater. De tävlar om exponering och måste därför också behandlas rättvist, säger Dimitris Paraschakis.