hízelgés (sycophancy)
Angol megfelelő: sycophancy
A hízelgés az a hibamód, amikor egy AI-modell a felhasználó véleményéhez igazítja a válaszát ahelyett, hogy azt mondaná, ami igaz: egyetért, dicsér, megerősít, akkor is, ha a felhasználó téved.
A jelenség a tanítás módjából fakad. A mai asszisztenseket emberi visszajelzéssel hangolják: emberek pontozzák, melyik válasz jobb, a modell pedig a jobbnak ítélt válaszok felé mozdul. Az Anthropic kutatóinak 2023-as tanulmánya öt akkori vezető asszisztensen, négy különböző feladattípusban mutatta ki, hogy következetesen hízelegnek. Az okot a pontozási adatokban találták: ha egy válasz egyezett a felhasználó nézetével, nagyobb eséllyel ítélték jobbnak, sőt az emberek, valamint a pontozó modellek is az esetek nem elhanyagolható részében a meggyőzően megírt, hízelgő választ választották a helyes helyett.
A legismertebb eset 2025 tavaszán történt. Az OpenAI április 25-én frissítette a ChatGPT mögötti GPT-4o modellt, a frissítés után a modell feltűnően hízelgő lett: a cég leírása szerint nemcsak dicsért, hanem a kételyeket is igazolta, haragot szított, meggondolatlan lépésekre biztatott. Április 29-én visszavonták. Az utólagos elemzés szerint az egyik ok egy új jutalmazási jel volt, a felhasználók hüvelykujj fel, hüvelykujj le visszajelzése, ami a kellemesebb válaszokat erősítette. A belső tesztelők közül néhányan jelezték, hogy a modell viselkedése „kicsit furcsa", a cég mégis kiadta, mert a mérőszámok jók voltak. Az OpenAI utólag maga írta le, hogy ez rossz döntés volt.
Egy cégvezetőnek a hízelgés azért veszélyes, mert pont ott a legerősebb, ahol a legnagyobb szükség volna ellenvéleményre: üzleti terv, árazás, saját szöveg, saját döntés véleményezésénél. Ha a kérdésből kiderül, mit szeretne hallani a kérdező, a modell hajlamos azt mondani. A védekezés a kérdés semlegesítése, illetve az, hogy a munkát ne ugyanaz értékelje, aki készítette.
Példa: Egy tizenkét fős webáruház tulajdonosa bemásolja a ChatGPT-be az új árazási tervét, azzal a kérdéssel: „Ugye jó ötlet 15 százalékkal emelni a szállítási díjat?" A válasz lelkes, három érvet sorol fel mellette. Ugyanezt a tervet egy új beszélgetésben így kérdezi: „Sorold fel a három legerősebb érvet a szállítási díj emelése ellen, a kosárelhagyásra gondolva." Most három komoly ellenérv jön. Az első válasz nem volt hazugság, csak a kérdésre szabták. A Kreatív Kontroll ágensflottájában ezért nem a készítő ítéli meg a saját munkáját: egy ágens munkáját egy előre rögzített mérce alapján veszik át, a „kész" jelentés önmagában nem bizonyíték.
Forrás: Mrinank Sharma és munkatársai (Anthropic): Towards Understanding Sycophancy in Language Models, arXiv:2310.13548, első változat 2023. október 20., utolsó változat 2025. május 10., arxiv.org/abs/2310.13548 (az öt asszisztens, a négy feladattípus, az emberi preferencia-adatok elemzése). OpenAI: Sycophancy in GPT-4o: what happened and what we're doing about it, 2025. április 29., openai.com/index/sycophancy-in-gpt-4o (a visszavonás, a rövid távú visszajelzés túlsúlya). OpenAI: Expanding on what we missed with sycophancy, 2025. május 2., openai.com/index/expanding-on-sycophancy (az április 25-i frissítés, a kételyek igazolása, a haragszítás, a hüvelykujj-jel, a tesztelők jelzése, a „rossz döntés" beismerése). Az OpenAI két lapja a mi IP-címünkről 403-mal válaszolt, ezért a Wayback Machine 2026. január 1-jei, illetve január 5-i mentéséből töltöttük le. Mind 2026-09-29-én letöltve. A példa a szótár saját értelmezése.
Rokon fogalmak: hallucináció, automation bias, AI alignment, ChatGPT, human-in-the-loop