AI tar en allt större plats i vårt samhälle, inte minst inom kvalitetsområdet. Avancerade robotar har förmågan att lösa komplexa problem, allt från rekommendationssystem för att bestämma vilken film man ska se härnäst till medicinska diagnoser i samband med att en patient blir intagen på sjukhus.
Så kan maskininlärning bli mer tillförlitlig
Forskning Ett nytt digitalt verktyg ska göra det lättare att analysera komplexa maskininlärningsprocesser. Verktyget har tagits fram som en del av ett doktorandprojekt vid Linnéuniversitet, och är nu tillgängligt förforskare, utövare och studenter världen över.

Någonting är fel
Läs vidare – starta din prenumeration
När detta fält växer behöver också experter inom högriskdomäner få kunskap om vad en specifik förutsägelse har baserats på innan de kan förlita sig på maskinginlärningsprocessen och dess resultat.
Visualitet ökar tillförlitligheten
Hur ska man då förlita sig på automatiserade beslut som är gjorda av komplexa maskininlärningsprocesser, med tanke på att sådana modeller inte hålls ansvariga för sina förutsägelser? Den frågan ställde sig Angelos Chatzimparmpas när han påbörjade sin doktoravhandling vid Linnéuniversitetets institution för datavetenskap och medieteknik. I avhandlingen förenklar han hanteringen av maskininlärningsalgoritmer så att mänskliga experter kan utvärdera hur automatiserade beräkningslösningar uppnår sina resultat.
– Min forskning visar hur användare av maskininlärning kan dra nytta av visuella analysverktyg och system som bidrar med förklarbarhet, ökar tillförlitligheten och leder maskininlärningsmetoderna genom interaktiva visuella representationer, det vill säga speciella typer av diagram och grafer som kan påverkas av användarna, säger Angelos Chatzimparmpas i ett pressmeddelande.
Heltäckande flöde
Som en del av doktorandprojektet har Angelos Chatzimparmpas och hans kollegor tagit fram ett digitalt verktyg som nu är tillgängligt för forskare, utövare och studenter som är intresserade av visualisering för maskininlärning. De har även designat och utvecklat ett flertal visuella, analytiska förhållningssätt som gör det möjligt för maskininlärningsexperter och modellutvecklare att förbättra alla steg i ett heltäckande arbetsflöde kring maskininlärning.