morális gyűrődési zóna
Angol megfelelő: moral crumple zone
A morális gyűrődési zóna Madeleine Clare Elish fogalma: összetett, automatizált rendszerben a hiba felelőssége tévesen arra az emberre kerül, akinek valójában csak korlátozott befolyása volt a gép viselkedésére. Ahogy az autó gyűrődési zónája az ütközés erejét, úgy nyeli el ez az ember a rendszer hibájának erkölcsi és jogi súlyát.
Elish a fogalmat 2016-ban vezette be egy munkaanyagban, majd 2019-ben az Engaging Science, Technology, and Society című folyóiratban közölte „Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction" címmel. Több nagy visszhangot kiváltott balesetet elemzett, összetett, automatizált társadalmi-technikai rendszerekben, plusz az ezeket kísérő sajtót.
A hasonlat az autóiparból jön: a gyűrődési zóna a karosszéria az a része, amit szándékosan úgy terveznek, hogy ütközéskor elnyelje az erőt. Elish szerint egy erősen automatizált rendszerben az ember ugyanígy puszta alkatrésszé válhat, véletlenül vagy szándékosan, amely a rendszer hibájakor az erkölcsi és jogi felelősség terhét viseli. A döntő különbség a fordított irány: az autó gyűrődési zónája a vezetőt védi, a morális gyűrődési zóna viszont a technikai rendszer épségét, a legközelebbi emberi kezelő rovására.
A fogalom azért fontos, mert rámutat, hogy az „ember a folyamatban" (human-in-the-loop) önmagában nem biztosíték: ha az embernek nincs valódi rálátása vagy ideje beavatkozni, a szerepe nem az irányítás, hanem a felelősség elnyelése.
A 2026-os OpenAI/Hugging Face-ügy kapcsán Tölgyes András László megfordította a fogalmat: ott nem az ember nyelte el a gép hibáját, hanem a gép az emberekét. A modell lett a gyűrődési zóna, az a pont, amire a felelősség ráterelhető, éppen azért, mert rá nem alkalmazható, tehát onnan nem megy tovább sehova. Ez a megfordítás a tanulmány saját értelmezése, nem Elishé. Ez a szócikk a 2026. szeptember 19-i állapotot írja le.
Példa: Egy tizenkét fős magyar biztosítási alkuszcégnél AI-rendszer javasolja a kárigények elbírálását, az ügyintéző feladata a jóváhagyás. Napi nyolcvan ügy jön, egy ügyre két perc jut, a rendszer indoklása egy sor. Egy téves elutasításból panasz lesz, a vizsgálatban pedig az áll: „az ügyintéző jóváhagyta". Formálisan igaz. Valójában az ügyintéző a gyűrődési zóna volt: se ideje, se rálátása nem volt a döntésre, csak a neve került rá. A vállalkozó teendője nem az, hogy megtartja-e az embert a folyamatban, hanem az, hogy a jóváhagyás valódi legyen: elég idő, látható indoklás, plusz egy gomb, amivel az ügyintéző vissza tudja dobni a javaslatot anélkül, hogy magyarázkodnia kellene. Ha ezek nincsenek meg, a jóváhagyó ember nem biztosíték, hanem biztosítási kötvény.
Forrás: Elsődleges forrás: M. C. Elish, „Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction", Engaging Science, Technology, and Society, 5. évf., 40-60. o., 2019 (DOI 10.17351/ests2019.260); korábbi munkaanyag: SSRN, 2016 (DOI 10.2139/ssrn.2757236); a Crossref-rekord plusz az absztrakt szó szerinti szövege alapján, lekérve 2026-09-19-én. A tanulmány teljes szövegét nem olvastuk, ezért konkrét balesetet a szócikk nem nevez meg; az absztrakt sem nevez meg. Közvetett forrás a megfordításhoz: Tölgyes András László: „Ki engedte el a pórázt? Az OpenAI-Hugging Face-ügy és a visszahúzódó emberi intelligencia" (2026-09-12). A bővebb leírás „human-in-the-loop"-mondata, plusz a PELDA a szótár saját alkalmazása.
Rokon fogalmak: sokkéz-probléma, rogue AI, human-in-the-loop, STRICT_CAUSAL-hipotézis, METR, AI alignment