Definition
Human-in-the-loop (HITL) refererer til systemer, hvor menneskelig dømmekraft er integreret i AI-arbejdsgange til opgaver som træning, evaluering eller beslutningstagning.
Formål
Formålet er at kombinere menneskelig ekspertise med AI-effektivitet. Det sikrer kvalitet, etisk tilsyn og sikkerhed i følsomme applikationer.
Vigtighed
- Reducerer fejl inden for højrisikoområder (f.eks. sundhedsvæsen, forsvar).
- Forbedrer træning gennem menneskelig feedback.
- Giver ansvarlighed i automatiserede systemer.
- Langsommere og dyrere sammenlignet med fuld automatisering.
Hvordan det virker
- Definer områder, hvor menneskelig overvågning er påkrævet.
- Indsaml AI-output eller forslag.
- Mennesker validerer, korrigerer eller giver feedback.
- Feedback integreres for at omskole eller forfine modeller.
- Overvåg systemets ydeevne med løbende menneskelig gennemgang.
Eksempler (den virkelige verden)
- Indholdsmoderering: Mennesker gennemgår markerede opslag fra AI.
- Medicinsk AI: Læger validerer AI-genererede diagnoser.
- Forstærkningslæring fra menneskelig feedback (RLHF): træner sprogmodeller som ChatGPT.
Referencer / Yderligere læsning
- Amershi et al. “Magt til folket: Menneskers rolle i interaktiv maskinlæring.” AI Magazine.
- NIST AI-risikostyringsramme.
- IEEE-standarder for Human-in-the-Loop-systemer.
- Forståelse af Human-in-the-Loop
