Ny modell ska öppna AI:s “svarta låda” – kan förbättra tekniken

AI och maskininlärning används redan av myndigheter och inom sjukvård, industrin och näringslivet. Så kallade djupinlärningsmetoder kan nu diagnostisera patienter i vården, mycket snabbare än människor.

Den nya AI-förklaringsmodellen heter CIU-metoden fungerar i stort sett för alla AI-system, och ska hjälpa oss att förstå varför AI föreslår en viss typ av lösningar i specifika situationer.

– Den kan vara till stor nytta för samhälle och näringsliv för att förstå och förklara beslut som tas av AI, maskininlärningsmodeller och neurala nätverk, säger Kary Främling, professor vid Institutionen för datavetenskap, i ett pressmeddelande.

Han har utvecklat CIU-metoden, Contextual Importance and Utility, och menar att den är mer effektiv än andra förklaringsmodeller för AI.

– Förklarande AI är ett område som många är intresserade av men som få behärskar fullt ut. De förklaringsmodeller som finns idag är inte heller tillräckligt begripliga för gemene man. Det är fullt möjligt att få mer korrekt information, och inte bara en “föraning” om vad som hände eller gick fel i ett AI-system. CIU kan ge stora möjligheter för företag och deras kunder, men också för myndigheter och medborgare, kommenterar Kary Främling.