En hallucination er, når en AI-model præsenterer noget forkert eller opdigtet, som om det var et faktum – flydende formuleret og uden forbehold.
Hallucinationer opstår, fordi en sprogmodel beregner sandsynligt sprog – ikke sandhed. Når modellen mangler viden, stopper den ikke op; den udfylder hullet med de ord, der statistisk passer bedst. Resultatet ligner et svar, men er en sproglig rekonstruktion af, hvordan et svar plejer at lyde.
Det bedste værn er at styre modellens kilder. I Fokusmodellen er det K'et – Kilder: Angiv, hvilke kilder AI'en må og ikke må bruge, og bed den sige til, når den ikke ved det. Det fjerner ikke behovet for faktatjek, men det gør fejlene færre og lettere at fange.
I praksis
Beder du AI'en skrive et afsnit om jeres marked, kan den finde på at henvise til 'en undersøgelse fra 2024', der aldrig er lavet – med troværdigt instituttnavn og det hele. Sender du det videre i et nyhedsbrev eller en pressemeddelelse, er det jeres afsender, der hænger på fejlen.
Sådan forklarer du det for ledelsen
»AI'en beregner sandsynligt sprog – ikke sandhed. Derfor faktatjekker vi alt, før det forlader huset.«
K'et er ét af fem elementer i Fokusmodellen – hele metoden står i min guide til den gode prompt.