BCG inför ny AI-standard – bland de första i världen

Att certifiera sig mot den nya standarden har fungerat som en bekräftelse på att utvecklingen av företagets processer, verktyg och styrningsstrukturer fungerat.

– Certifieringsprocessen gav en värdefull extern och oberoende bekräftelse på att våra interna standarder och arbetssätt möter en rigorös global referensram. Vi har länge varit engagerade i ansvarsfull utveckling och användning av AI. Vi lanserade vårt program för risk- och kvalitetsstyrning inom AI redan 2020 och publicerade 2022 vår AI Code of Conduct, en av de första åtagandena av sitt slag i branschen, vilket tydliggjorde att ansvarsfull AI är en central del av vårt arbetssätt, berättar Steven Mills.

Hur skiljer sig ISO/IEC 42001 från tidigare ramverk ni redan följer?

– Vårt arbetssätt har kontinuerligt utvecklats i takt med globala regulatoriska initiativ, inklusive EU:s AI förordning. ISO IEC 42001 etablerar en strukturerad internationell standard för ledningssystem för AI, med fokus på riskhantering, styrningsstrukturer och ansvarsfulla arbetssätt. När vi analyserade standarden såg vi en stark överensstämmelse med det program vi redan hade byggt upp. Certifieringsprocessen krävde därför inga fundamentala förändringar, utan bekräftade att vår befintliga modell redan uppfyller de krav som standarden ställer, säger Steven Mills och fortsätter:

– För branschen i stort ser vi ISO IEC 42001 som en viktig referensram och ett gemensamt riktmärke, och vi är stolta över att vara bland de första att uppnå certifieringen.

Steven Mills beskriver arbetet med etiska AI-lösningar på BCG utifrån en egen modell: först en proaktiv screeningprocess redan i projektstart i linje med vår AI Code of Conduct och BCG:s övergripande syfte och värderingar, sedan en översyn av ett särskilt tillsynsråd och sedan riskreducerande åtgärder.

– I praktiken innebär detta ofta att projektets omfattning justeras för att exkludera delar som inte kan hanteras tillräckligt genom tekniska eller organisatoriska skyddsåtgärder, säger Steven Mills.

– Vi har möjlighet att avbryta projekt, men vår styrningsmodell är utformad för att filtrera rätt från början. Målet är att våra AI lösningar ska vara ”responsible by design”.

Hur hanterar ni målkonflikter mellan affärsnytta och ansvarsfull AI-styrning?

– Att hantera kvalitet och risk på ett strukturerat sätt är det som säkerställer att AI skapar värde i stället för att förstöra det. Resultat av låg kvalitet kan underminera kundförtroende, skapa juridisk och regulatorisk exponering samt leda till att organisationer går miste om potentiella effektivitetsvinster och innovationsmöjligheter, säger Steven Mills.