Constitutional AI
Angol megfelelő: Constitutional AI
A Constitutional AI az Anthropic betanítási eljárása, amelyben a modell viselkedését egy leírt elvgyűjtemény („alkotmány") vezeti, nem kizárólag esetenkénti emberi visszajelzés, tehát az értékek kimondottan szerepelnek egy dokumentumban, plusz szükség esetén ott is írhatók át.
Az eljárás két szakaszból áll. Az elsőben, felügyelt tanulással, a modellt arra tanítják, hogy a SAJÁT válaszait bírálja felül az elvek alapján, plusz írja át őket, néhány mintapélda segítségével. A másodikban megerősítéses tanulás következik, viszont a két válasz közötti választást nem ember végzi, hanem maga a rendszer, az elvek alapján adott gépi visszajelzésből (ezt hívja a szakirodalom RLAIF-nek, szemben az emberi visszajelzésre épülő RLHF-fel).
A gyártó szerint az eredmény Pareto-javulás, vagyis a kapott modell egyszerre segítőkészebb, plusz ártalmatlanabb, mint az emberi visszajelzéssel tanított változat. Ez a gyártó saját állítása, független visszamérést ebben a körben nem olvastunk, a szótár pedig nem marketing-anyag, tehát ezt külön kimondjuk.
Az eljárás melletti érv az, hogy az emberi visszajelzés nehezen skálázódik, plusz emberekkel kell zavaró tartalmakat átnézetni; az ellenérv, amit a szakmai vita felvet, hogy az elvgyűjteményt is emberek írják, tehát a kérdés nem tűnik el, csak egy szinttel feljebb kerül, ráadásul egy gépi bíró elfogultságai nehezebben látszanak, mint egy emberé.
A módszert leíró Anthropic-anyag első közlése 2023. május 9., a Claude alkotmányának frissített változatát 2026. január 21-én jelentették be. Ez a szócikk a 2026. szeptember 15-i állapotot írja le, az alkotmány szövege pedig verziózott, tehát a hivatkozásnál érdemes a dátumot is megadni.
Példa: Egy negyvenfős magyar könyvelőiroda belső MI-asszisztenst állít be, plusz az első hónapban esetenként javítgatja: „ezt ne mondd", „erre ne válaszolj". Három hónap múlva senki nem tudja megmondani, mit tud a rendszer, plusz miért. A Constitutional AI mintája itt nem az, hogy saját modellt tanítanak, hanem az elv: legyen EGY leírt dokumentum arról, mit szabad az asszisztensnek, mit nem, plusz mi az eljárás vitás esetben. Ez a dokumentum kerüljön a rendszerpromptba, plusz a belső szabályzatba is. A mérhető különbség nem a modell minőségében van, hanem abban, hogy egy új munkatárs kérdésére van hova mutatni.
Forrás: Anthropic, „Claude's Constitution" lap (anthropic.com/news/claudes-constitution), lekérve 2026-09-15-én. ELSŐDLEGES forrás, viszont a GYÁRTÓÉ: a Pareto-javulásra vonatkozó állítás az ő mérése, nem független mérés.
Rokon fogalmak: Anthropic, Claude, AI alignment, rendszerprompt, guardrail, MI-kormányzás