human
Angol megfelelő: human (human oversight, human review)
A „human" az AI-rendszerek leírásában nem egyszerűen embert jelent, hanem megnevezett szerepet: azt, aki a gép munkáját ellenőrzi, illetve azt, aki a döntésért felel.
A kifejezés a szakmai szövegekben szinte mindig összetételben szerepel: human oversight, vagyis emberi felügyelet, human review, vagyis emberi átnézés, human-in-the-loop, vagyis emberi jóváhagyási pont. Ezek nem ugyanazt jelentik, a különbség pedig gyakorlati.
A human-in-the-loop egy PONT a folyamatban, ahol a rendszer megáll, majd vár. A „human" mint szerep ennél tágabb: arról szól, KI az, akinek a neve ott áll a döntés mellett. A kettő könnyen szétcsúszik: sok cégnél van jóváhagyó képernyő, viszont nincs megnevezve, kinek a dolga ránézni, ilyenkor a felügyelet papíron létezik, a gyakorlatban nem.
Két szabály segít. Az első: a szerepet személyhez, ne osztályhoz rendeljük, mert az osztálynak nincs naptára. A második: a szerephez tartozzon idő is, tehát ha valakinek naponta száz tételt kell átnéznie tíz perc alatt, akkor az nem felügyelet, hanem kattintás.
Az európai szabályozás is ezt a különbséget feszegeti: a nagy kockázatú rendszereknél nem elég a felügyelet lehetőségét megteremteni, azt ténylegesen gyakorolni kell tudni.
Példa: Egy harmincfős magyar szolgáltatócég AI-t állít az ügyfélszolgálati levelek megválaszolására, azzal, hogy a kényes eseteket ember nézi át. Három hónap múlva kiderül, hogy az átnézés a gyakorlatban egy közös postafiókba érkező másolat, amit senki nem olvas, mert nincs hozzá gazda. A rendszer nem hibás, a szerep hiányzik. A javítás egy sor a folyamatleírásban: ki nézi át, mikor, mennyi idő alatt, valamint mi történik akkor, ha nem ér rá. A mérce: legyen kimutatható, hány jóváhagyásra váró tétel várakozik ma huszonnégy óránál régebben, ezt a számot pedig lássa a vezető, ne a rendszer.
Forrás: A human oversight, illetve a human review kifejezés a szakmai, valamint a szabályozási szóhasználatból származik, a fogalmat az európai MI-rendelet is használja a nagy kockázatú rendszerek emberi felügyeletére; a rendelet pontos cikkszámát a szócikk szándékosan nem idézi, mert azt a hatályos szövegben kell ellenőrizni. A szerep, illetve a megállási pont megkülönböztetése a szótár saját értelmezése, a human-in-the-loop önálló szócikk.
Rokon fogalmak: human-in-the-loop, kontrollelv, autonóm, ágens, guardrail, EU AI Act