Inga produkter i varukorgen.
Vattenmärkning av AI-genererad info – en lösning?
AI Desinformation, falska texter, videos och bilder är ett hot som kan påverka samhälle och trovärdighet. Alltmer information som produceras är AI-genererad, och Rise undersöker om vattenmärkning av AI-texter skulle kunna säkerställa att AI förblir en tillgång – och inte ett hot.
Rise forskar bland annat på AI och etik, samhällspåverkan av AI, mediekritik, och hur individer och organisationer på bästa sätt drar nytta av AI:ns potential. Foto: Adobe Stock
Det finns inget som säger att en text är korrekt för att den producerats av en människa. Desinformation kan komma från alla möjliga källor, men i takt med att AI producerar mer och mer information blir det viktigare att kunna urskilja en AI-text från en text skriven av en människa. På forskningsinstitutet Rise håller man på att forska om saken, för att se ifall vattenmärkning av AI-texter kan vara en lösning.
– Det bästa skyddet vi har mot desinformation är ett väl fungerande demokratiskt samhälle med utbildning, trygghet och tillgång till god information. Det finns redan mycket fake news och overifierad information på internet. Det som kommer hända med AI är att mängden falska texter, bilder och videos ökar hastigt och då blir det ännu viktigare att organisationer och individer vet hur de kan hitta verifierad information, säger Kristina Knaving, forskare inom AI och etik på Rise, i ett pressmeddelande.
Betonar vikten av källkritik
Att med hjälp av verktyg kunna säkerställa avsändaren av en text kan vara användbart för exempelvis lärare som ska betygsätta inlämningar.
Men vattenmärkning av AI-text skulle kräva att verktygen tränas på att urskilja mellan mänsklig text och AI-genererad text. Tekniken är inte helt tillförlitlig då den har svårt att klassificera information som den inte tränats på.
Schibbolet-regeln, alltså krav på att chatbottar presenterar sig som just det, är ett alternativ till vattenmärkning. Då skulle den som interagerar med en bot veta att den inter interagerar med en människa.
Oavsett om man väljer att vattenmärka AI-texter eller ej så fastslår Rise på skolans viktiga roll i att lära individer vara källkritiska. I AI-agendan, en rapport bestående av 25 förslag för accelererad AI-utveckling i Sverige, skriver Rise även att organisationer måste skapa ett eget förhållningssätt till AI.
AI-Agendan
Förslag vad gäller näringsliv och offentlig sektor
- Ta fram en digital AI-guide som innehåller riktlinjer och praxis som stödjer en ändamålsenlig och hållbar utveckling och användning av AI-lösningar inom offentlig förvaltning och näringsliv. Inledningsvis bör AI-guiden prioritera de områden där det finns störst behov och stödja tillämpad AI-utvecklingens olika faser, bland annat inom områdena etik, juridik, säkerhet, arkitektur, datahantering och upphandling.
- Säkerställ att det finns AI-rådgivare och förändringsledare för offentlig sektor, fack och för olika branscher. AI-satsningar inom offentlig sektor, fack och branscher behöver koordineras och drivas mot en vision. Dessa rådgivare behöver också finnas på kommunal och regional nivå. Utöver detta behövs särskilda utbildningar för beslutsfattare och ledare i företag och offentlig verksamhet för att säkerställa att AI utnyttjas på rätt sätt i verksamhet och att omställningen kan ledas.
- “Upskill och reskill” för att klara omställningen av arbetslivet. Kompetens är en nyckel för att lyckas ställa om samhället och anpassa verksamheter när mer avancerad informationsdelning och data ger nya möjligheter till arbetssätt och beteenden. Därför behöver samhällets parter arbeta strategiskt och stödjande vad gäller att ge kompetensförstärkning för dem som är på arbetsmarknaden och att ge stöd för att skaffa sig ny kompetens inom nya områden. Omställningsfonder, yrkesutbildningar och universitet har ett särskilt ansvar tillsammans med arbetsmarknadens parter.
- Skapa nya ingångar för AI-företag i offentlig sektor och myndigheter genom innovationsplattformar. Innovativa AI-företag behöver på ett enkelt sätt komma in som leverantör inom offentlig sektor. Vi föreslår att exempelvis Challengeplattformen, en ”anslagstavla” där offentlig sektor lägger ut problem och utmaningar, och företag (även offentliga aktörer) kan komma med lösningar, utökas.
- Skapa en svensk digital AI-infrastruktur med gemensamma standarder, där data och tjänster kan delas med säkerställd integritet och dataskydd. En gemensam svensk plattform är nödvändig för att hjälpa offentliga aktörer få ordning på sin data, sina tjänster och koppla ihop sina verksamheter sinsemellan och med näringslivet. Detta innehåller också:
- – En för myndigheter gemensam dataportal. Genom att exempelvis utveckla dataportal.se kan en ny möjlighet att dela data mellan myndigheter skapas. Stöd för att dela stängda data med tillhörande licenser, eller data som innehåller känslig information och behöver säkras.
- – Ge uppdrag åt det offentliga att i samverkan med näringslivet strukturera och tillgängliggöra data så att den blir åtkomlig för vidare användning och innovation. Svenska myndigheter behöver få ett tydligt uppdrag att göra data tillgängligt i enlighet med datadelningskraven i PSI-direktivet (EU-direktiv med syfte att göra offentlig information mer tillgänglig.)
- Satsa på och underlätta livslångt lärande inom AI. Vi behöver goda förutsättningar för omskolning och vidareutbildning under hela arbetslivet för att säkerställa den breda AI-kompetens som behövs i hela samhället, särskilt nu under en övergångsperiod. Vi kan dra lärdomar av hur befintliga insatser lyckats och justera dem för att öka effekten, exempelvis genom att skapa certifikat och involvera företag i utbildningarna. Ett konkret förslag är att utveckla en öppen plattform för modulutbildningar som människor lätt kommer åt genom till exempel sin smartphone i syfte att göra en kunskapshöjande insats lättillgänglig och lustfylld.
Källa: Rise
