Magnifica Humanitas

A cím a dokumentum latin kezdőszavaiból áll, jelentése: csodálatos (nagyszerű) emberiség. Az enciklika 245 számozott pontból áll; az első pont szerint az emberiség döntés előtt áll, „vagy egy új Bábel tornyát építi fel, vagy azt a várost, amelyben Isten és az emberiség együtt lakik” (saját fordításban). A dokumentum az egyház társadalmi tanításának folytatásaként határozza meg magát: XIII. Leó 1891-ben a Rerum novarumban az ipari forradalom „új dolgaira” (rerum novarum) válaszolt, XIV. Leó szerint korunk új dolgai a digitalizáció, a mesterséges intelligencia, illetve a robotika. A párhuzamot a Szentszék sajtóirodája is kimondja: az aláírás napja a Rerum novarum kihirdetésének 135. évfordulója.

Az AI-ról szóló rész két megszorítással kezdődik. Az egyik, hogy minden AI-ról tett állítás gyorsan elavulhat, a másik, hogy a működésüket a fejlesztők is csak korlátozottan értik, mert a mai rendszereket inkább „termesztik”, mint „építik” (98. pont). A szöveg szerint az AI az emberi intelligencia bizonyos funkcióit utánozza, gyorsaságban, számítási képességben gyakran felül is múlja, viszont nincs erkölcsi lelkiismerete, nem ítél jó és rossz között, nem visel felelősséget a következményekért; amit tanulásnak nevezünk nála, az adatokon alapuló statisztikai alkalmazkodás (99. pont).

A fő tételek. Az egyéni használatban három dologra kell figyelni (100. pont): a könnyen kapott eredmény túlzott ráhagyatkozáshoz vezethet, a válaszok látszólagos tárgyilagossága elfedi, hogy a tervezők kulturális előfeltevéseit tükrözik, a gépi együttérzés pedig a kapcsolat illúzióját keltheti, egészen addig, hogy valaki elveszíti a vágyat a valódi emberi kapcsolatra. A társadalmi használatban a munkáról, hitelről, közszolgáltatásról vagy egy ember jó hírnevéről szóló döntést nem szabad teljesen automatikus rendszerre bízni (102. pont). „Az AI-t nem tekinthetjük erkölcsileg semlegesnek” (104. pont, saját fordításban), mert minden rendszer döntéseket hordoz abban, mit mér, mit hagy figyelmen kívül, mit optimalizál. A felelősségnek minden szakaszban név szerint kell kiderülnie, a tervezőtől a felhasználóig (105. pont). Nem elég elvontan etikára hivatkozni: erős jogi keret, független felügyelet, tájékozott felhasználók kellenek, illetve olyan politika, amely nem mond le a felelősségéről; a lassabb bevezetés kérése nem a haladás elutasítása (106. pont). Az AI „gépek erkölcsössé tétele”, az úgynevezett alignment önmagában kevés, ha az etikai keretekről nem lehet nyíltan vitatkozni: „különben akik az AI-t irányítják, a saját erkölcsi látásukat kényszerítik rá, amely e rendszerek láthatatlan infrastruktúrájává válik” (107. pont, saját fordításban). A pápa a „lefegyverzés” szót is az AI-ra alkalmazza: ki kell venni a geopolitikai és üzleti fegyverkezési versenyből, a monopóliumok kezéből (110. pont), a fejlesztőkhöz pedig külön felhívást intéz, mert minden tervezési döntés egy emberképet tükröz (111. pont). Szóba kerül az adatok közös jószágként kezelése, az algoritmusokat fenntartó, rejtett munkások helyzete, illetve az AI energia- és vízigénye is.

A fogadtatás. XIV. Leó első enciklikájának rögtön az AI-t választotta témául, a bemutatón pedig maga szólalt fel, ami a hazai sajtó (MTI) szerint az egyház történetében először fordult elő. A vatikáni bemutatón a bíborosok mellett felszólalt Christopher Olah, az Anthropic társalapítója is. A National Catholic Register beszámolója szerint a meghívása előtte vitát keltett, mert egyesek a cég vagy az AI-ipar pápai támogatásának olvasták; a pápa beszédében külön megköszönte a jelenlétét és azt mondta, a nézeteltérések ellenére „együtt akar haladni” vele. A nézeteltérés a lap szerint az AI természetéről szól: az enciklika szerint a gép nem érti, amit előállít, Olah ugyanott arról beszélt, hogy a modellek nem „a nekünk megígért hideg, számító robotok” (saját fordításban).

Kritikus olvasat. Az enciklika erkölcsi tanítás, nem jogszabály: senkit nem kötelez jogilag, a szöveg maga is törvényhozást, független felügyeletet, illetve politikai cselekvést kér, vagyis a kikényszerítést másoktól várja. Elsősorban a katolikusoknak szól, a 2. pont szerint viszont párbeszédet keres „korunk minden emberével”, a 111. pont pedig név szerint a fejlesztőket szólítja meg. Az AI-ról tett megállapításai közül az, hogy a gép nem érti, amit mond, filozófiai álláspont, amelyet a bemutatón felszólaló kutató sem osztott; azt pedig, hogy minden AI-állítás gyorsan elavulhat, a dokumentum magáról is kimondja.