input
Angol megfelelő: input (model input, prompt input)
Az input mindaz, amit a modell a válasz elkészítéséhez megkap: a kérdés, a hozzá adott háttéranyag, a csatolt fájlok, valamint a beszélgetés addigi része.
Sokan a begépelt kérdést hiszik inputnak, pedig az csak az egyik rétege. A modell ugyanabban a körben megkapja a rendszerpromptot, vagyis a viselkedési utasítást, a beszélgetés addigi szövegét, plusz minden csatolt anyagot: táblázatot, szerződést, ügyféllistát. Ez a teljes csomag az input, ez fér bele a kontextusablakba, ezt számolja el a szolgáltató tokenben.
Három dolog következik ebből egy vállalkozásnak. Az első pénzügyi: a hosszú beszélgetés minden fordulóban újra elküldi a korábbi részt is, tehát a költség nem a kérdés hosszával nő, hanem a beszélgetés egészével. A második minőségi: a kimenet pontossága felülről korlátos, a modell nem tud olyasmit válaszolni, ami az inputban nem szerepel; a hiányzó adatot nem kérdezi vissza, hanem kitölti.
A harmadik adatvédelmi, ez a legkevésbé átgondolt: ami inputként bemegy, az elhagyja a céget, tehát az ügyféladat, a bérlista, a szerződéstervezet külső szolgáltatóhoz kerül, hacsak a modell nem helyben fut. Az inputot ezért érdemes úgy kezelni, mint egy kimenő levelet: mielőtt elküldi valaki, legyen eldöntve, mi mehet bele.
Példa: Egy huszonöt fős magyar webáruház marketingese beilleszti a teljes vevőlistát egy chatablakba, hogy szegmenseket kérjen rá. A válasz használható lesz, közben viszont nevek, e-mail-címek, valamint rendelési előzmények mentek át egy külső szolgáltatóhoz, jogalap nélkül. A javítás nem az AI tiltása: elég annyi, hogy a lista azonosító nélküli, összesített alakban megy be, tehát kor, város, rendelésszám, név nélkül. A mérce: legyen egy fél oldalas lista arról, mi tehető be egyáltalán egy AI-ablakba, ezt pedig mindenki lássa, aki használja, ne csak az informatikus.
Forrás: A fogalom általános, minden nagy nyelvi modell dokumentációja ugyanígy használja, önálló forrást ezért nem jelöl a szócikk. A költség-, a minőségi, illetve az adatvédelmi következtetés a szótár saját értelmezése, a magyar kis- meg középvállalati helyzetre szabva.
Rokon fogalmak: output, prompt, rendszerprompt, token, kontextusablak, hallucináció