reasoning (gondolkodás, indoklás)

Angol megfelelő: reasoning

A reasoning azt jelenti, hogy egy AI-modell a végső válasz kiadása előtt egy belső, lépésenkénti okfejtést futtat le, ahelyett hogy a kérdésre azonnal, egy lépésben válaszolna.

A hagyományos modellhasználatnál a modell a bemenetből egyenesen a kimenetre ugrik, a "reasoning" vagy "gondolkodó" módban viszont a modell előbb egy hosszabb, gyakran nem is megjelenített belső levezetést készít, ez alatt bontja részfeladatokra a kérdést, ellenőrzi a saját közbenső lépéseit, majd ebből áll össze a végleges válasz. Ez nem varázslat: több számítást, több időt és több tokent, tehát több pénzt igényel egy egyszerű válaszhoz képest, valamint nem garancia a helyes eredményre, csak nagyobb esélyt ad rá olyan feladatoknál, ahol a hiba oka az elhamarkodott következtetés, nem a hiányzó tudás. Egyszerű, jól ismert kérdésnél a gondolkodó mód gyakran csak lassabb és drágább választ ad, érdemi pontosságjavulás nélkül. Ne keverd a "reasoning state" fogalommal: az arról szól, hogy egy már lezajlott gondolkodási menetet át lehet-e vinni a következő fordulóba, ez a szócikk viszont magáról a gondolkodási folyamatról szól, egy adott válaszon belül.

Példa: Egy tizennyolc fős könyvelőiroda egy bonyolult, több lábon álló adóoptimalizálási kérdést tesz fel egy gondolkodó módú modellnek, ami helyesen bontja szét a kérdést jogszabályi eseteire, egy egyszerű számlaosztályozási feladatnál viszont ugyanez a mód csak feleslegesen lassítja és drágítja a napi rutint, ahol egy gyors modell ugyanolyan jól teljesít.

Forrás: OpenAI, "Learning to reason with LLMs" (openai.com/index/learning-to-reason-with-llms), valamint Anthropic, "Claude's extended thinking" dokumentáció (platform.claude.com/docs/build-with-claude/extended-thinking).

Rokon fogalmak: LLM (nagy nyelvi modell), reasoning state (gondolkodási állapot), token, modell