Menneske i løkken (HITL)

Litteraturen skelner mellem tre konfigurationer. Human-in-the-loop betyder, at systemet ikke kan fuldføre et kontrolleret trin uden en aktiv menneskelig beslutning; human-on-the-loop betyder, at systemet handler selvstændigt, mens en person overvåger og kan gribe ind eller stoppe det; human-out-of-the-loop betyder slet ingen løbende overvågning. Betegnelserne gælder enkelte trin frem for hele systemer: En agent kan køre skrivebeskyttede værktøjer selvstændigt, logge handlinger med middel risiko til senere gennemsyn og blokere for godkendelse ved uigenkaldelige handlinger.

I EU-retten er ankeret artikel 14 i AI-forordningen (forordning (EU) 2024/1689). Højrisikosystemer skal udformes, så fysiske personer effektivt kan føre tilsyn med dem; art. 14, stk. 4, oplister, hvad tilsynspersonerne skal sættes i stand til: at forstå systemets kapacitet og begrænsninger og overvåge det, være opmærksomme på automatiseringsbias, fortolke output korrekt, beslutte ikke at bruge systemet eller at se bort fra, tilsidesætte eller omgøre output samt gribe ind eller afbryde via en stopprocedure. Art. 14, stk. 5, tilføjer et krav om to personer ved biometrisk fjernidentifikation i bilag III, punkt 1, litra a. Idriftsættere skal overdrage tilsynet til personer med den nødvendige kompetence, uddannelse og myndighed (art. 26, stk. 2). Efter at AI-omnibusændringen trådte i kraft den 27. juli 2026, gælder forpligtelserne for højrisikosystemer i bilag III fra 2. december 2027 og for systemer indlejret i produkter under bilag I fra 2. august 2028. Derudover begrænser databeskyttelsesforordningens art. 22 afgørelser, der udelukkende bygger på automatisk behandling og har retsvirkning eller tilsvarende betydelig virkning, og art. 22, stk. 3, giver ret til menneskelig indgriben; Artikel 29-gruppens retningslinjer (WP251rev.01) anser symbolsk menneskelig medvirken for utilstrækkelig til at bringe en afgørelse uden for art. 22, og EU-Domstolen fastslog i SCHUFA (C-634/21, 2023), at en automatisk score i sig selv kan være en sådan afgørelse, når en tredjepart i afgørende grad lægger vægt på den.

Den centrale fejlmåde er stempelgodkendelse. Automatiseringsbias og godkendelsestræthed får den, der godkender hundredvis af rutineanmodninger, til at holde op med at læse dem, så godkendelsesraten nærmer sig 100 %, og kontrollen bliver til teater. Effektive design kræver godkendelse efter risiko frem for som standard, viser den konkrete foreslåede handling (den præcise e-mail, SQL-sætning, diff eller betaling med parametre og de kilder, der førte til den) frem for et resumé skrevet af den samme model, gør afvisning og redigering lige så let som godkendelse, afviser som standard ved timeout og logger, hvem der godkendte hvad, af hensyn til revision.

For agenter kræver implementeringen, at forløbet kan sættes på pause midtvejs: orkestreringen gemmer tilstanden ved det kontrollerede værktøjskald, lægger det i en godkendelseskø og genoptager med menneskets beslutning indsat som værktøjsresultat. Bemærk begrænsningerne. HITL forhindrer ikke prompt injection; det giver et menneske en chance for at opdage virkningen, hvilket kun virker, hvis den ondsindede handling er synlig i det, der vises. Det tilføjer også latenstid og omkostning og supplerer derfor sandkasser og mindste privilegium frem for at erstatte dem.