Du ber en AI-assistent om namnet på den svenska författare som vann Nobelpriset i litteratur 2019. Den svarar med självförtroende: ”Det var Kerstin Ekman.” Det låter rimligt. Men det stämmer inte alls – priset det året gick till österrikaren Peter Handke.
Det här är ett exempel på vad som kallas hallucination i AI-sammanhang. Inte att modellen ser syner, utan att den genererar information som låter övertygande men som är felaktig eller helt påhittad. Det är ett av de viktigaste fenomenen att förstå när du använder AI-verktyg, eftersom det påverkar hur du bör använda dem och när du inte ska lita blint på svaren.
Men varför händer det här? Språkmodeller fungerar inte som en databas där fakta lagras och hämtas. De är tränade på enorma mängder text och har lärt sig mönster i hur språk ser ut – vilka ord som brukar följa på varandra, hur meningar byggs upp, hur argument struktureras. När du ställer en fråga genererar modellen ett svar ord för ord baserat på vad som statistiskt sett verkar mest troligt i det sammanhanget.
Problemet är att ”troligt” inte är samma sak som ”sant”. Om modellen har sett många texter om svenska Nobelpristagare och om Kerstin Ekman som framstående författare kan den koppla ihop dessa mönster på ett sätt som låter helt rätt, även om kopplingen är felaktig. Den har ingen inbyggd funktion som säger ”stanna upp, jag är osäker på det här” eller ”låt mig dubbelkolla den informationen”. Den skapar bara text som passar mönstret.
Hallucination blir särskilt vanligt i vissa situationer. När du frågar om obskyra fakta som modellen har sett få exempel på under träningen. När du ber om specifika detaljer som namn, datum eller siffror. När ämnet ligger i gränslandet mellan saker modellen känner väl till – då kan den blanda ihop element från olika sammanhang på ett sätt som verkar sammanhängande men är felaktigt.
Det intressanta är att modellen ofta låter lika säker oavsett om informationen är korrekt eller påhittad. Det finns ingen tvekan i rösten, inga ”jag tror att” eller ”kanske”. Det gör hallucination extra lurigt – du kan inte höra på tonen om svaret är tillförlitligt.
Så vad betyder det här för hur du ska använda AI? Det handlar om att välja rätt verktyg för rätt uppgift. Språkmodeller är fantastiska på att hjälpa dig tänka, strukturera idéer, omformulera text eller utforska möjligheter. Men för faktakontroll, specifika datumpunkter eller exakta siffror behöver du en annan strategi. Antingen använder du verktyg som kan söka efter aktuell information, eller så dubbelkollar du viktiga fakta i pålitliga källor.
Många moderna AI-system försöker minska hallucination genom olika tekniker. De kan vara tränade att säga ”jag vet inte” oftare. De kan kopplas till sökmotorer för att hämta aktuell information. De kan utformas för att citera källor. Men ingen metod är perfekt, och risken finns alltid där.
Att förstå hallucination handlar inte om att undvika AI, utan om att använda den klokt. Tänk på språkmodeller som en kreativ, kunnig samtalspartner med fantastiskt minne – men ibland lite väl god fantasi. Lita på dem för att utforska idéer och formulera tankar. Men när det verkligen spelar roll att något är rätt, verifiera alltid.