autonóm
Angol megfelelő: autonomous (autonomy level)
Az autonóm működés azt jelenti, hogy a rendszer emberi jóváhagyás nélkül hajtja végre a lépést. Nem kapcsoló, hanem fokozat: műveletenként állítható, nem rendszerenként.
Az „autonóm AI" szókapcsolat félrevezető, mert egyetlen állapotot sugall, holott a gyakorlatban fokozatokról van szó, plusz ezek műveletenként külön beállíthatók. Egy jól működő rendszerben ugyanaz a program az egyik műveletnél csak jelez, a másiknál jóváhagyást kér, a harmadiknál magától cselekszik, majd utólag beszámol róla. A helyes kérdés ezért nem az, hogy autonóm-e a rendszer, hanem az, hogy melyik művelete az.
A besorolás mércéje a visszafordíthatóság, nem a nehézség: egy bonyolult, viszont visszavonható lépés nyugodtan mehet magától, egy egyszerű, viszont visszafordíthatatlan lépés, kiküldött levél, kifizetés, törlés, nem. Ezt a különbséget a nehézség alapján döntő cégek szokták elrontani, mert az egyszerű műveletet érzik veszélytelennek.
A Kreatív Kontroll saját rendszerében ez három fokozat: az első csak jelez, a második jóváhagyást kér, a harmadik elvégzi a műveletet, aztán jelenti; a beállítás művelet-típusonként külön áll, tehát a levélküldés más fokozaton van, mint a naptárbejegyzés. Az autonómia növelése így nem egy döntés, hanem sok kicsi, mindegyik mögött azzal a kérdéssel, hogy mi történik, ha ez a lépés rosszul sül el.
Példa: Egy tizennyolc fős magyar nagykereskedés készletfigyelő rendszert kap, ami magától rendel a beszállítótól, ha a készlet egy szint alá esik. Az ötlet jó, a beállítás viszont mindent egy fokozatba tesz. Egy hibás készletadat miatt a rendszer hétvégén tizenegyszer adja fel ugyanazt a rendelést. A javítás nem a rendszer kikapcsolása: a lekérdezés, illetve a javaslat maradhat autonóm, a megrendelés elküldése viszont jóváhagyásra kerül egy összeghatár fölött. A mérce: legyen leírva művelet-típusonként, melyik fokozaton áll, plusz melyik az az összeg, ami fölött mindenképpen ember nyom gombot.
Forrás: A fokozatos autonómia gondolata általános a szakmai gyakorlatban, önálló forrást a szócikk nem jelöl. A három fokozatra vonatkozó példa a Kreatív Kontroll saját beállítás-fájljából származik. A visszafordíthatóságra épülő mérce a szótár saját értelmezése.
Rokon fogalmak: ágens, human-in-the-loop, kontrollelv, human, guardrail, orchestrator