selective prediction

Angol megfelelő: selective prediction

A selective prediction az a modellképesség, amikor egy AI-rendszer bizonytalan válasz helyett inkább nem válaszol, vagy megjelöli a bizonytalanságát, ahelyett hogy találgatna.

A módszer célja, hogy a modell felismerje a saját tudásának határát, ott inkább elutasítsa a választ, vagy alacsony megbízhatóságúként jelölje meg, mintsem magabiztos hangnemben hibás állítást fogalmazzon meg. Ez az egyik legfontosabb eszköz a hallucináció visszaszorítására, mert nem a válasz pontosságát próbálja javítani, hanem azt méri, mikor érdemes egyáltalán válaszolni.

Rokon fogalmak: hallucináció, AI alignment, benchmark