kontextusromlás (context rot)
Angol megfelelő: context rot, más néven attention degradation
A kontextusromlás az a jelenség, hogy egy AI-modell pontossága csökken, ahogy nő a kontextusában lévő szöveg mennyisége, akkor is, ha a kontextusablak még messze nincs tele. A hosszú beszélgetés vége felé a modell gyakrabban téveszt, kihagy, összekever.
A modellek hirdetett ablakmérete arról szól, mennyi szöveg fér bele, nem arról, mennyit használ jól. A Chroma nevű cég 2025 júliusi kutatása 18 modellt vizsgált, köztük a GPT-4.1-et, a Claude 4-et, a Gemini 2.5-öt, a Qwen3-at: a teljesítmény a bemenet hosszával egyre megbízhatatlanabb lett, egyszerű, állandó nehézségű feladatokon is. A 2023-as „Lost in the Middle" tanulmány egy konkrét mintát is talált: a modellek a kontextus elején, illetve végén lévő információt használják a legjobban, a közepén lévőt a legrosszabbul.
Az Anthropic 2025 szeptemberi írása szerint a jelenség a modellek felépítéséből ered: minden token minden más tokennel kapcsolatba kerül, n tokennél ez n² kapcsolat, a hosszabb szövegnél tehát a modell figyelme egyre vékonyabban oszlik el. A cég ezt figyelemkeretnek (attention budget) nevezi: minden új token fogyaszt belőle valamennyit.
A gyakorlati következtetés az, hogy a kontextust gondozni kell, nem tölteni. A jó munkafolyamat a legkisebb olyan anyagot adja a modellnek, ami a feladathoz még elég, a hosszú munkát pedig részekre bontja, friss munkamenetekkel, alágensekkel.
Példa: A Kreatív Kontroll főágense egymillió tokenes kontextusablakkal dolgozik, a nagy anyagot átfésülő munkát mégis kiadja egy szakágensnek vagy alágensnek, amely friss kontextussal indul, a végén pedig csak az eredményt küldi vissza. Így a főágens munkatere nem telik meg olyan részletekkel, amelyekre később nincs szüksége. Egy ügyfélszolgálati vezető ugyanezt tapasztalhatja: ha egy AI-asszisztenssel egész délután ugyanabban a beszélgetésben dolgozik, a késő délutáni válaszok egyre kevésbé veszik figyelembe a reggel megadott szabályokat. A javítás olcsó: a szabályokat egy rövid összefoglalóba írja, azzal új beszélgetést nyit.
Forrás: Kelly Hong, Anton Troynikov, Jeff Huber: Context Rot: How Increasing Input Tokens Impacts LLM Performance, Chroma, 2025. július 14., trychroma.com/research/context-rot (a 18 vizsgált modell, a bemenet hosszával romló teljesítmény). Nelson F. Liu és munkatársai: Lost in the Middle: How Language Models Use Long Contexts, arXiv:2307.03172, 2023. július 6., arxiv.org/abs/2307.03172 (a kontextus elején, illetve végén lévő információ előnye). Anthropic: Effective context engineering for AI agents, 2025. szeptember 29., anthropic.com/engineering/effective-context-engineering-for-ai-agents (a figyelemkeret, az n² kapcsolat, a legkisebb elégséges tokenkészlet elve). Mind 2026-09-29-én letöltve. A példa a szótár saját gyakorlatából, illetve saját értelmezéséből való.
Rokon fogalmak: kontextusablak (context window), kontextus, context compaction (kontextustömörítés), trim, alágens (subagent), token