kontextus

Angol megfelelő: context

A kontextus az a szövegmennyiség, korábbi üzenetek, dokumentumok, utasítások, amit egy AI-modell egyszerre lát és figyelembe vesz a válaszadáskor.

Minden modellnek van egy kontextusablaka, ami annak a maximális mérete, amennyi szöveget egyszerre be tud tölteni. Ha egy beszélgetés vagy dokumentum ezen a kereten túlnő, a rendszernek döntenie kell, mit dob el vagy foglal össze, ez a trim.