nemdeterminisztikusság (non-determinism)
Angol megfelelő: non-determinism (nondeterminism)
A nemdeterminisztikusság azt jelenti, hogy egy AI-modell ugyanarra a kérdésre, ugyanazzal a beállítással sem ad mindig ugyanolyan választ. Ez nem hiba, hanem a működés része, amellyel minden mérésnél, minden automatizált folyamatnál számolni kell.
Az egyik ok szándékos. A modell minden lépésben valószínűséget számol a lehetséges következő tokenekre, majd ezek közül mintát vesz, tehát nem mindig a legvalószínűbbet választja. Ezt a véletlenszerűséget a hőmérséklet (temperature) nevű beállítás szabályozza: magasabb értéken változatosabb, alacsonyabban kiszámíthatóbb a szöveg.
A meglepő rész az, hogy a véletlenszerűség kikapcsolása után is marad eltérés. A Thinking Machines nevű kutatócég 2025 szeptemberében ezer választ kért ugyanarra a kérdésre („Mesélj Richard Feynmanról") egy nyílt súlyú Qwen-modelltől, nulla hőmérsékleten, ami elvben mindig ugyanazt adná. 80 különböző szöveget kaptak. Az első 102 token mindegyikben egyezett, a 103.-nál vált el: 992 válasz szerint Feynman a New York-i Queensben született, 8 szerint New York Cityben. A kutatók szerint az ok a szerver terhelése: attól függően, hány más kérés fut egyszerre, a számítás sorrendje, így a kerekítés is picit más, ez pedig a felhasználó szemszögéből véletlen.
A gyakorlati következmény: egy AI-kimenetet nem lehet egyetlen futás alapján megítélni. Ha egy folyamat azonos választ vár, azt külön kell biztosítani, például rögzített formátummal, ellenőrzéssel, vagy azzal, hogy ugyanazt többször lefuttatják, majd az eltérést mérik.
Példa: A Kreatív Kontroll egyik szövegértékelő eszköze egy honlapot pontoz AI-modellel. 2026 szeptemberében ugyanazt a lementett oldalt háromszor pontoztattuk, az eredmény 29, 28, 28 pont lett: ugyanaz a sáv, ugyanaz a három leggyengébb pont, egy pont szórással. A véletlenszerűséget csökkentő hőmérséklet-beállítást a használt modell el sem fogadta, hibaüzenettel utasította vissza. A tanulság: a pontszámot sávként érdemes kezelni, egy pont eltérés két futás között nem változás, hanem szórás.
Forrás: Horace He és a Thinking Machines munkatársai: Defeating Nondeterminism in LLM Inference, Thinking Machines Lab, 2025. szeptember 10., thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference (a mintavétel, az ezer válasz, a 80 különböző szöveg, a 102 azonos token, a 992 kontra 8, a szerverterhelés mint ok). 2026-09-29-én letöltve. A példa a szótár saját mérése (2026. szeptember 28.), valamint saját értelmezése.
Rokon fogalmak: output, következő token előrejelzése (next-token prediction), benchmark, Qwen, hallucináció