reasoning state (gondolkodási állapot)

Angol megfelelő: reasoning state / reasoning item

A gondolkodási állapot egy gondolkodó modell belső, lépésenkénti okfejtésének az a nyoma, amit egyes API-k a beszélgetés következő fordulójába is át tudnak vinni, ahelyett hogy a modell minden kérdésnél nulláról gondolkodna újra.

A hagyományos beszélgetés-API-knál minden új kérdés a modell számára új gondolkodást indít, a korábbi belső okfejtés elvész, csak a végső válasz marad meg. Egyes újabb API-k ezzel szemben megőrzik a gondolkodási lépéseket, ezekre pedig a következő fordulóban hivatkozni lehet, így a modell a korábbi okfejtésére tud építeni ahelyett, hogy azt megismételné. Fontos korlát: ez a folytonosság jellemzően csak ugyanazon modellcsaládon belül működik, egyik szolgáltató gondolkodási állapotát egy másik szolgáltató modellje nem tudja átvenni.

Példa: Egy nyolcfős könyvvizsgáló iroda egy többlépéses adóügyi elemzést futtat egy gondolkodó modellel, a modell az első kérdésre adott belső okfejtését a második, kapcsolódó kérdésnél újra tudja használni, ezért a második válasz gyorsabban és a korábbi levezetéssel összhangban készül el, nem egy független, esetleg ellentmondó levezetésből indulva.

Forrás: OpenAI fejlesztői dokumentáció, "Reasoning models" és "Better performance from reasoning models using the Responses API" (developers.openai.com/api/docs/guides/reasoning, developers.openai.com/cookbook/examples/responses_api/reasoning_items).

Rokon fogalmak: LLM (nagy nyelvi modell), API, kontextusablak