Våra ledningssystem – framtidens system kantas av botar, AI-hallucinationer och enkelhet

– Med en chattbot skulle medarbetare kunna samtala direkt med ledningssystemet, ställa frågor och få svar som baserats på, inte bara ett, utan en kombination av alla dokument i systemet.

AI-integrerade ledningssystem finns redan på marknaden, men Jacob Annerfors bygger Region Sörmlands lösning från grunden. På hans CV finns titlar som hotelldirektör, hr-konsult och över 100 inlagda erfarenheter.

Vad är den gemensamma nämnaren för din karriär?
– Svår fråga, men troligtvis att jag i stort sett är intresserad av allting.

Två av dessa intressen, AI och ledningssystem, hoppas han ska kunna möta den återkommande kritiken: att ledningssystem ofta uppfattas som otydliga och svårnavigerade.

– När vi började arbetet förstod jag att det knappt fanns någon som visste vad ett ledningssystem egentligen var. Kortfattat är ledningssystem ett sätt för ledningen att ge information om verksamheten till sina medarbetare som besvarar frågan ”hur ska jag sköta mitt arbete?”.

Nu ska en chattbot bli systemet personifierat och bokstavligen kunna svara på frågan ovan.

– När vi lägger in all information till AI:n blir systemet inte bara mer tillgänglig och lättöverskådlig, den hittar också brister i underlaget. Till exempel kan det finnas konflikter i riktlinjer och rutiner.

För att göra verklighet av AI-visionen använder Region Sörmland Microsofts språkmodell Copilot för att skapa den egna chatboten. Hittills har allt gjorts inhouse, utan byråer eller specialister.

– Allt sker inom vår ”häng”, vi kopplar vår Microsofts Sharepoint direkt till boten och därav får vi en hög datasäkerhet. Dessutom möjliggör det en dynamisk koppling, alltså: ändrar vi i vår Sharepoint ändras även chatbotens svar. I Copilot används heller inte vår information till att öva AI:n.

Nackdelarna med AI

AI kan erbjuda tillgänglighet och relevans i ett system som traditionellt riskerar att vara motsatsen, vad är haken?

– AI har tyvärr en välkänd förmåga att hallucinera ihop svar som inte är sanna. Därför måste vi i framtiden jobba med att utbilda och informera om både AI och om ledningssystemet i sig så att medarbetare lättare kan bedöma om ett svar skulle verka konstigt eller felaktigt.

En premiss för ett AI-styrt ledningssystem är därför att svaren alltid ska länka tillbaka till originalen i systemet.

– Ja det är en förutsättning. Om man inte kan lösa sådana länkar kan man inte heller ha ett sådant här system. Speciellt inte när det gäller känslig information, som i vården, där det helt enkelt inte får bli fel.

AI-ledningssystemet anpassat för vården i Regio Sörmlands kommer därför att dröja.

– Det ligger åtminstone några år bort skulle jag säga. Däremot skulle vi troligtvis kunna rulla ut småskaliga tester för de administrativa delarna inom något år.

Så kommer du i gång med att implementera AI

Andra regioner har varit intresserade av Region Sörmlands arbete och ifall även du och din organisation skulle vara det rekommenderar Jacob Annerfors att börja arbeta ”smart”.

– Börja testa med att lägga in och fråga din bot om välkänd information så att du lätt kan kontrollera ifall svaren blir korrekta. Börja smått och lägg sedan in större mängder med information.

Förutom det förklarar han att det också är klokt att först ha en bra översikt över själva ledningssystemet och vilka regelverk som finns angående AI och digitalisering på arbetsplatsen.

Framåt hoppas Jacob Annerfors att AI-modellerna kommer ge ökat värde till den enorma mängd data som redan finns ute i regionerna.

– Jag anser att det är oerhört viktigt att vi tillsammans jobbar med AI-etik och att vi i regionerna börjar se vår data som den tillgång den faktiskt är.