megfigyelhetőség

Angol megfelelő: observability

A megfigyelhetőség azt jelenti, hogy egy AI-rendszer működése, döntései és hibái kívülről nyomon követhetők és visszamérhetők, nem csak a végeredmény látszik.

Egy jól megfigyelhető rendszer naplózza, milyen lépéseket tett egy ágens, milyen adatot használt, hol tért el a várt viselkedéstől. Megfigyelhetőség nélkül egy hibás AI-döntés csak a következményén, rossz email, rossz szám, vehető észre, magán a folyamaton nem.