Definition
Inden for kunstig intelligens refererer hallucinationer til tilfælde, hvor en model genererer output, der er flydende, men faktuelt ukorrekte eller meningsløse. Det er især almindeligt i store sprogmodeller og generativ kunstig intelligens.
Formål
Studier af hallucinationer hjælper med at forbedre modellernes pålidelighed og sikkerhed. Det giver udviklere mulighed for at designe sikkerhedsforanstaltninger til at opdage og reducere unøjagtige output.
Vigtighed
- Reducerer tilliden til AI, hvis der ikke tages hånd om det.
- Kan forårsage skade i følsomme applikationer som sundhedspleje eller jura.
- Fremhæver begrænsninger ved nuværende generative modeller.
- Driver forskning i faktuel forankring og genfindingsmetoder.
Hvordan det virker
- Modellen modtager en prompt eller forespørgsel.
- Genererer output baseret på lærte mønstre, ikke faktabekræftelse.
- Kan give plausible, men forkerte resultater.
- Der anvendes detektions- og korrektionsteknikker (f.eks. RAG).
Eksempler (den virkelige verden)
- ChatGPT viser lejlighedsvis forkerte oplysninger, når de bliver bedt om det.
- Google Bards indledende demo viste faktuelle fejl.
- AI-genereret medicinsk rådgivning indeholder sommetider unøjagtigheder.
Referencer / Yderligere læsning
- “Reduktion af hallucinationer i store sprogmodeller” — arXiv preprint.
- NIST AI-risikostyringsramme.
- Mitchell et al. “Modelkort til modelrapportering.” ACM FAccT.
- Årsager til AI-hallucinationer
