AI-HALLUCINATIONER PÅ JOBBET — NÄR AI HITTAR PÅ SAKER OCH HUR DU HANTERAR DET
AI kan presentera påhittade fakta, felaktiga lagrum och icke-existerande rapporter med ett självförtroende som inte avslöjar osäkerheten bakom. Det betyder inte att verktyget försöker ljuga — det är en känd feltyp som ofta kallas hallucination. Här får du veta varför det händer, vilka uppgifter som är högrisk och hur du bygger in rätt kontroll i ditt arbetsflöde.
Vem står bakom innehållet?
Den här artikeln ingår i AI på svenska och är redaktionellt framtagen för yrkesverksamma. Använd råden som praktiskt stöd och kontrollera alltid data, ansvar och verksamhetens egna regler före införande.
AI som inte vet att den inte vet
Moderna AI-modeller har lärt sig att producera sammanhängande och övertygande språk. Problemet är att en trovärdig formulering inte i sig visar att faktaunderlaget är korrekt. Vissa AI-tjänster kan söka på webben eller läsa anslutna dokument, medan andra svarar utan sådan källåtkomst. I båda fallen kan ett felaktigt påstående vara lika språkligt välformat som ett korrekt.
Det är kärnan i vad som ofta kallas en hallucination; NIST använder termen confabulation: generativ AI presenterar felaktigt eller missvisande innehåll som om det vore korrekt. Det kan vara en rapport som aldrig skrivits, ett lagrum som inte finns eller en statistiksiffra som inte stämmer — levererat med ett lugnt och auktoritativt tonläge.
FAKTAKONTROLL HALLUCINATIONER MÄNSKLIG KONTROLLLägre risk
Brainstorming, tonhjälp, strukturering av egna idéer och sammanfattning som du kan jämföra mot originaltexten.
Kräver alltid manuell kontroll
Faktapåståenden, lagstiftning, siffror, statistik, citat, källhänvisningar, personuppgifter och kontraktstexter.
1. Så kan en hallucination se ut i praktiken
Hallucinationer är svåra att fånga just för att de ser rätt ut. Här är tre typscenarier som dyker upp på svenska arbetsplatser.
Felaktigt lagrum i en juridisk sammanfattning
Du ber AI sammanfatta reglerna kring provanställning och får ett välformulerat svar med hänvisning till ett visst kapitel i LAS. Paragrafen existerar inte, eller innehåller något helt annat. Utan att öppna lagtexten och läsa paragrafen ser du ingenting fel — men innehållet är felaktigt.
Påhittad rapport i en analys
Du ber AI hitta forskning om ett ämne och får en lista med rapporter: titlar, författare, publiceringsår och journalnamn ser trovärdiga ut. Några av dem existerar. Andra är konstruerade — rätt mönster, fel innehåll. En sökning visar att rapporterna inte går att finna i de databaser de påstås komma från.
Felaktig siffra i ett beslutsunderlag
Du ber AI formulera en marknadsöversikt och frågar om marknadsstorlek. Svaret innehåller en siffra som låter rimlig men inte kan spåras till någon källa. Om siffran används i ett underlag till ledningen och sedan inte stämmer kan det skada trovärdigheten för hela analysen.
2. Varför händer det — utan teknisk jargong
En grundmodell genererar text utifrån mönster i det underlag den fått. En AI-tjänst kan också vara kopplad till sökning eller dokumenthämtning, så att relevanta utdrag läggs till innan svaret skrivs. Det kallas ofta hämtning förstärkt generering, eller RAG (retrieval-augmented generation).
Källåtkomst kan göra ett svar lättare att grunda och kontrollera, men den är ingen garanti: tjänsten kan hämta fel källa, misstolka ett utdrag eller lägga till ett påstående som underlaget inte stöder. När exakt fakta är avgörande behöver du därför kontrollera både källan och AI:ns tolkning av den.
Var särskilt vaksam i tre situationer:
- Specifika detaljer: Exakta siffror, datum, citat och paragrafer kan se färdiga ut i svaret men behöver kunna spåras till originalkällan.
- Aktuellt eller internt innehåll: Nyheter, nya regler och interna dokument kräver en aktuell, behörig källa. Utan den kan tjänsten sakna rätt underlag för svaret.
- Ledande frågor: Om du lägger in din egen slutsats i frågan kan AI ge ett instämmande svar i stället för att pröva påståendet kritiskt.
3. Fyra praktiska regler för att hantera risken
Skilj på "skriva" och "kontrollera"
Använd AI fritt för att skriva, strukturera och formulera — men tillåt dig aldrig att låta ett AI-svar passera direkt till ett besluts- eller publiceringsläge utan granskning. Skriv och kontrollera är två separata steg med olika ansvar.
Ställ alltid frågan: vad bygger detta på?
Om AI uppger en källa — rapport, lagrum, statistik — kontrollera att källan existerar och att innehållet stämmer med vad AI påstår. En källa som inte går att verifiera är inte en källa.
Behandla siffror och lagrum som rödmarkeringar
Exakta siffror, procenttal, lagparagrafer och citat är de kategorier där hallucinationer är vanligast och konsekvenserna störst. Sök upp dem alltid i primärkällan — oavsett hur övertygande formuleringen i AI-svaret är.
Formulera hellre ett utkast av egna idéer än be om fakta
AI är användbart för att strukturera vad du redan vet eller för att sammanfatta ett underlag du tillhandahåller. Vid faktakontroll är en bättre instruktion: "Utgå endast från den bifogade primärkällan, ange vilket avsnitt som stöder varje slutsats och skriv att uppgiften saknas om den inte står där." Kontrollera sedan själv att hänvisningen håller.
4. Promptmall: be AI markera osäkerheter
Du kan inte hindra hallucination bara genom att instruera modellen — men du kan öka chansen att osäkerheter synliggörs i stället för att döljas. Använd den här promptmallen när du ber AI ta fram faktabaserade underlag.
5. Kontrollera AI-svar på jobbet
Gå igenom listan innan du använder ett AI-svar i ett dokument, ett beslut eller externt.
Alltid
- Finns det siffror eller procenttal i svaret? Spåra var de kommer ifrån — kan du inte hitta originalreferensen är de opålitliga.
- Finns det lagrum, paragrafer eller hänvisningar till lagar? Öppna lagtexten och läs paragraferna manuellt.
- Finns det källhänvisningar? Sök upp källorna och kontrollera att de existerar och att innehållet stämmer.
- Innehåller svaret citat? Bekräfta att citatet verkligen förekommer i ursprungsmaterialet.
Vid högrisk — juridik, ekonomi, personalärenden, externt material
- Låt en ansvarig person signera av på faktainnehållet — inte bara texten.
- Dokumentera vilken källa respektive påstående bygger på.
- Använd AI:ns output som utkast, inte som färdigt underlag.
- Om AI inte kan ange en verifierbar källa — använd inte påståendet.
Vanliga frågor om AI-hallucinationer
Är alla AI-svar lika opålitliga?
Nej. Risken varierar kraftigt med uppgiftstypen. Brainstorming, skrivhjälp och att strukturera idéer du redan har är situationer med lägre faktarisk. Faktapåståenden, exakta siffror, lagstiftning, citat och källhänvisningar kräver alltid manuell kontroll.
Kan man lita på AI om man ber den bekräfta sitt svar?
Nej — inte utan en primärkälla att verifiera mot. Ledande frågor kan ge instämmande svar även när användarens utgångspunkt är fel. Be i stället AI att arbeta från en angiven källa och kontrollera själv att slutsatsen stöds av källtexten.
Vad är skillnaden mellan en hallucination och ett vanligt AI-fel?
Hallucination är ett specifikt fenomen där modellen genererar innehåll som verkar välgrundat men saknar faktaunderlag — exempelvis en icke-existerande rapport med rätt titelmönster och trovärdigt DOI. Vanliga fel är enklare misstag som stavfel, räknefel eller missförstånd av frågan. Hallucinationer är svårare att fånga eftersom de ser övertygande ut.
Hur ofta hallucinerar moderna AI-modeller?
Det finns ingen generell procentsats som gäller för alla verktyg och uppgifter. Utfallet påverkas bland annat av modell, frågetyp, tillgång till relevanta källor och hur resultatet utvärderas. Behandla därför faktapåståenden som något som ska verifieras, även när verktyget kan söka eller hänvisa till dokument.
Primärkällor och forskning
- NIST AI 600-1: Generative Artificial Intelligence Profile — beskriver confabulation som en särskild risk med generativ AI.
- Lewis m.fl. (2020): Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks — forskningsartikeln som introducerade RAG-metoden för källhämtning i generering.
- Sharma m.fl. (2023): Towards Understanding Sycophancy in Language Models — undersöker AI-assistenters tendens att anpassa svar efter användarens påståenden.
Läs vidare
I samma serie: AI som arbetssätt. Vet du hur AI behandlar den data du matar in — och vad som faktiskt händer med din information?
Fördjupning Vad betyder "AI tränas på din data" i praktiken? Skillnaden mellan konsumentkonto och enterprise och hur team minskar risken.