Inga produkter i varukorgen.
Forskare: Vi måste skaffa AI-läsförståelse – innan det är för sent
Artificiell intelligens Stora språkmodeller som ChatGPT används redan på regeringsnivå – men utan tillräcklig förståelse för riskerna. Forskaren Andreas Önnerfors menar att organisationer måste bygga egen AI-kompetens och utveckla en ny form av läsförståelse för att inte äventyra kvalitet och förtroende.
Foto: Adobe stock/Linnéuniversitetet
– Den senaste tiden har vi sett ganska naiv användning av de stora språkmodellerna, som när Ebba Busch felciterade en journalist efter att ha använt sig av AI för att skriva ett tal, säger Andreas Önnerfors, professor i idéhistoria vid Linnéuniversitetet.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Kvalitetsmagasinet premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
Utvecklandet av AI har radikalt förenklat hur vi inhämtar och sammanfattar information. Det liknar sättet Google revolutionerade internet under tidiga 2000-talet. Problemet ligger i att nu, som då, har inte samhället varit tillräckligt väl förberett, menar Andreas Önnerfors.
– Vi ser tydliga tecken på att det inte bara går att sätta verktygen lösa för allmänheten utan konsekvenser. Det rör sig om allt från felciteringar av vice stadsministern till forskningsrapporter med hallucinerade referenser.
Tre utvecklingsområden
Andreas Önnerfors menar att man behöver utveckla tre förmågor i samhället kopplade till AI:
- Förmåga att prompta: Ju bättre (eller sämre) instruktioner du ger till en chattbot desto högre eller lägre kvalitet på utförandet.
- Större medvetenhet: Den breda allmänheten behöver få större förståelse för AI:s möjligheter och begränsningar, lära sig hantera verktyg källkritiskt och förhålla sig till AI-genererad information på ett mer hållbart sätt.
- Skapa slutna språkmodeller. För att säkerställa högre kvalitet på svaren och minska problem med läckt information behöver fler organisationer lära sig att skapa och använda slutna språkmodeller inom organisationen baserad på tillgänglig data, istället för öppna modeller som gratisversionen av ChatGPT, då informationen kan delas fritt.
Samhällets attityd till AI måste ändras, menar Andreas Önnerfors. Det är mycket lathet som driver på den breda användningen av AI och konsekvenserna tas inte på tillräckligt stort allvar.
Alla måste ta ansvar
Vem som ska ansvara för att driva igenom förändring och höja den allmänna kompetensnivån ligger hos både skolväsendet, individen och på regeringsnivå.
– Det är lätt att peka ut skolan som ansvariga för att höja kompetensen, men jag tror att det krävs en fördelning av olika aktörer. I Norden har vi otroligt stort ansvar på den enskilda att navigera hela informationsflödet. Att använda sitt sunda förnuft räcker långt, men det här är en fråga av så pass stor magnitud att man måste fundera på att utveckla någon sorts rundabordsamtal för att diskutera de etiska konsekvenserna av utvecklingen.
De konsekvenser som ofta lyfts, att elever använder språkmodeller som ChatGPT för att svara på skoluppgifter, förefaller sig logiskt när lärare i sin tur använder sig av språkmodeller för att konstruera själva provet.
– Paradoxalt nog blir konsekvensen en uppgradering av det analoga. Lärare satsar enbart på muntliga tentamen, HR-personal struntar i digitala jobbansökningar och kör enbart på att träffa folk personligen.
Återgång till det analoga
Andreas Önnerfors berättar en anekdot om när han var på ett varuhus för något år sedan och de spelade AI-genererad julmusik.
– Det var något som kom ur högtalarna som lät som julmusik men som inte var det, typ om du samplar ”O helga natt” och ”Tomtarnas julafton”. De hade skapat en artificiell ljudmatta som skulle få oss att känna oss juliga, utan att betala STIM-avgifter till artisterna.
– Vad får det här oss konsumenter att göra? Det kanske fungerar på ett varuhus då man inte går dit för att lyssna på riktig musik, men man skapar ett samhälle där man betalar mer för att få mänskligt innehåll.
Strävan tillbaka mot det analoga leder i sin tur till bisarra fenomen. De etiska implikationerna är något som måste tas på allvar, konstaterar Andreas Önnerfors.
– Som med alla udda sex-sajter där folk betalar mycket pengar för att se en riktig människa interagera med publiken. Det fungerar som en slags motreaktion när nätet allt mer blir igenkloggat av AI-slopp. Vad gör det med vårt samhälle?
