output
Angol megfelelő: output (model output, completion)
Az output a modell válasza: az a szöveg, kép vagy adat, amit az input alapján előállít. Nem keresés eredménye, hanem a legvalószínűbb folytatás.
A leggyakoribb félreértés az, hogy a modell kikeres valamit, majd visszaadja. Nem ezt teszi: szóról szóra azt állítja elő, ami az adott szövegkörnyezetben a legvalószínűbb folytatás. Ezért lehet az output tökéletes formájú, mégis valótlan, ezért nem lehet ránézésre megkülönböztetni a kettőt.
Három gyakorlati tudnivaló következik ebből. Az első: az output nem tény, hanem javaslat, tehát olyan folyamatba nem tehető be ellenőrzés nélkül, ahol a hibának ára van. A második: a legtöbb szolgáltatónál a kimeneti token drágább a bemenetinél, gyakran többszöröse, tehát a hosszú válasz kérése a költség fő hajtóereje; a rövid, meghatározott formátumú válasz olcsóbb, ráadásul könnyebben ellenőrizhető.
A harmadik: ugyanarra az inputra a válasz nem feltétlenül azonos, tehát ha valaki elvárja, hogy kétszer ugyanaz jöjjön ki, azt külön be kell állítani, alapból nem így működik. Az outputot ezért nem elfogadni kell, hanem megmérni: mi az, aminek egyeznie kell egy már ismert adattal, plusz mi történik, ha nem egyezik.
Példa: Egy tizenkét fős magyar szerszámkereskedés termékleírásokat írat AI-jal, kétezer cikkre. A szövegek szépek, viszont a modell néhány terméknél olyan műszaki adatot ír bele, ami a katalógusban nincs: teljesítményt, garanciaidőt, méretet. Ezek nem elírások, hanem kitalált, hihető adatok. A megoldás nem a kézi átolvasás kétezerszer: a leírásba csak az mehet, amit a rendszer a saját termékadatbázisából kapott, minden más mezőt üresen kell hagynia. A mérce: a kitétel előtt fusson egy összevetés, ami minden számot visszakeres a törzsadatban, eltérésnél pedig megáll a tétel.
Forrás: A fogalom általános, minden nagy nyelvi modell dokumentációja ugyanígy használja, önálló forrást ezért nem jelöl a szócikk. Az az állítás, hogy a kimeneti token jellemzően drágább a bemenetinél, a nagy szolgáltatók nyilvános árlistáiból következik, a pontos szorzó viszont szolgáltatónként, illetve modellenként eltér, ezért a szócikk számot nem mond. A három gyakorlati tudnivaló a szótár saját értelmezése.
Rokon fogalmak: input, token, hallucináció, kontrollelv, prompt, nemdeterminisztikusság