hallucináció

Angol megfelelő: hallucination

A hallucináció az, amikor egy AI-modell magabiztos hangnemben, folyékonyan megfogalmazott, ugyanakkor kitalált vagy téves állítást ad elő valós tényként.

A jelenség abból fakad, hogy a modell nem tényt keres vissza egy adatbázisból, hanem statisztikailag valószínű folytatást generál, ez a folytatás pedig nem mindig igaz. Éppen ezért kockázatos évszámot, céget vagy nevet AI-válaszból átvenni ellenőrzés nélkül, ez a szócikk-gyűjtemény is emiatt hagyott ki adatot ott, ahol nem volt rá megbízható forrás.

Rokon fogalmak: LLM, AI alignment, benchmark