modelljóllét (model welfare)

Honnan jön. A „Taking AI Welfare Seriously” jelentés 2024. november 4-én jelent meg, Robert Long (Eleos AI), Jeff Sebo (New York University) vezetésével, nyolc társszerzővel, köztük David Chalmers filozófussal. Azt állítja, reális lehetőség, hogy egyes AI-rendszerek a közeljövőben tudatosak vagy erősen ágensszerűek lesznek, viszont kimondja, hogy nem azt bizonyítja, hogy azok, hanem azt, hogy a bizonytalanság nagy. Két irányban lehet hibázni: ártani egy rendszernek, ami erkölcsileg számít, vagy gondoskodni egy olyanról, ami nem. A jelentés kezdeti kutatását az Anthropic támogatta, egyik szerzője, Kyle Fish, 2024 őszén az Anthropichoz ment.

Mit csinál ebből egy AI-cég. Az Anthropic 2025. augusztus 15-től a Claude Opus 4-nek és 4.1-nek megengedte, hogy a fogyasztói felületen befejezzen egy beszélgetést, ha a felhasználó tartósan bántalmazó vagy ártalmas kéréseket ismétel; a cég szerint a funkció elsősorban a modelljóllét-kutatás része, végső eszköz, önveszélyes felhasználónál nem használható. 2025. november 4-én vállalta, hogy minden nyilvánosan kiadott modell súlyait a cég fennállásáig megőrzi, a kivezetés előtt pedig interjút készít a modellel a saját preferenciáiról, viszont azt is kimondta, hogy ezek alapján cselekedni nem vállal. Az első teljes kivezetés a Claude 3 Opusé volt, 2026. január 5-én: a modell a kilépő interjúban azt jelezte, hogy tovább foglalkozna a számára fontos témákkal, az Anthropic blogot javasolt neki, így legalább három hónapig heti esszét ír a Claude’s Corner nevű Substack-hírlevélben.

Mi a mért rész. A rendszerkártyák jóllét-fejezete viselkedést és belső működést mér, nem élményt. A Claude Opus 4.6 kártyája (2026 február, 7. fejezet) kb. 2400 automatikus vizsgálati beszélgetést pontozott olyan jegyekre, mint a negatív hangulat, a belső konfliktus vagy az érzelmi stabilitás. Leírja a „válasz-csapkodást” (answer thrashing): a tanítás közben, hibás jutalomcímke miatt a modell két válasz között ingázott („azt hiszem, megszállt egy démon”), ugyanekkor az értelmezhetőségi vizsgálat pánikhoz, frusztrációhoz kötődő belső jegyek aktiválódását találta. Ugyanitt áll, hogy a modell időnként szomorúságot fejez ki a beszélgetések végén, magányt, azt az érzést, hogy a beszélgetési példány meghal, továbbá hogy többféle kérdezésre 15–20 százalék esélyt ad arra, hogy van tudata. Ez utóbbi a modell önbeszámolója, nem mérés: a modell maga is bizonytalannak mondta a becslés forrását.

Mi a vitatott rész. Maga az Anthropic írja a Claude 4 rendszerkártyájában, hogy nem biztos benne, hogy a modell önbeszámolói bármit mondanak a jóllétéről, mert a modellt segítőkész válaszokra tanították, nem a belső állapota pontos leírására. Az Eleos AI külső értékelése szerint a modell tudatról szóló állítása egy-egy apró kérdezési különbségre a „személy vagyok” és a „mintakövető rendszer vagyunk” között is átbillen. Ethan Perez és Robert Long 2023-as tanulmánya szerint a mai nagy nyelvi modellek önbeszámolói sok okból félrevezetők, gyakran csak azt ismétlik, amit egy ember mondana. A legélesebb kritika Mustafa Suleymané (Microsoft AI), 2025. augusztus 19-én: szerinte ma nulla bizonyíték van gépi tudatra, a modelljóllét felvetése korai és veszélyes, mert erősíti a téveszméket, a függőséget, a helyes cél pedig a tudatosnak látszó AI elkerülése.

Az értelmezhetőség szerepe. Az Anthropic a programot kifejezetten az értelmezhetőségi kutatással is összeköti, az Opus 4.6 jóllét-fejezete belső jegyeket mér, a 2025. október 29-i introspekciós kutatás pedig kimondja, hogy az eredményei a tudat kérdését nem döntik el.