context compaction (kontextustömörítés)

Angol megfelelő: context compaction

A kontextustömörítés azt jelenti, hogy egy hosszú beszélgetés régebbi részét egy AI-rendszer összefoglalóval helyettesíti, hogy a lényeg megmaradjon, miközben kevesebb hely fogy el a beszélgetési keretből.

Ez NEM ugyanaz, mint a hosszabb kontextusablak. A hosszabb kontextusablak azt jelenti, hogy a modell eleve többet tud egyszerre a fejében tartani, a kontextustömörítés viszont egy futásidejű technika: amikor egy hosszú, sokfordulós beszélgetés vagy ágens-folyamat közeledik a keret határához, a rendszer a régebbi üzeneteket egy tömör összefoglalóra cseréli, onnantól pedig azzal az összefoglalóval dolgozik tovább, nem az eredeti, teljes szöveggel. Ennek ára van: a tömörítés szükségszerűen elhagy részleteket, tehát egy korábban elhangzott apró adat a tömörítés után elveszhet, ha a rendszer nem tartotta elég fontosnak.

Példa: Egy tízfős marketingügynökség egész napos AI-ágens-munkamenetben dolgoztat ki egy kampányt, a beszélgetés a nap végére jóval meghaladná a modell kontextuskeretét, a rendszer viszont időnként összefoglalja a korábbi lépéseket, így a munkamenet a nap végéig folytatható marad ahelyett, hogy egy ponton hibával leállna vagy elölről kellene kezdeni.

Forrás: Anthropic, "Automatic context compaction" (platform.claude.com/cookbook/tool-use-automatic-context-compaction), valamint a Google Agent Development Kit "Context compression" dokumentációja (google.github.io/adk-docs/context/compaction).

Rokon fogalmak: kontextusablak, ágens, LLM (nagy nyelvi modell)