human-in-the-loop

Angol megfelelő: human-in-the-loop

A human-in-the-loop az a működési elv, amiben egy AI-rendszer egy adott lépésnél megáll, emberi jóváhagyást vagy döntést vár, mielőtt tovább menne.

Ez a visszafordíthatatlan vagy kockázatos lépéseknél, fizetés, kiküldött levél, törlés, a bevett védelem: az ágens előkészíti a döntést, az utolsó kattintást viszont egy ember adja meg. A Kreatív Kontroll saját szabályrendszere is emiatt különbözteti meg az autonóm és a jóváhagyást igénylő műveleteket.

Rokon fogalmak: ágens, guardrail, AI alignment