A magas kockázat nem compliance-kategória

Mit tanít a Meta elleni per minden olyan szervezetnek, amely mesterséges intelligenciát alkalmaz az emberekkel kapcsolatban – és mit nem.

Huszonhat Meta-alkalmazott perelte be a vállalatot a szövetségi bíróságon, azzal az állítással, hogy a mesterséges intelligenciával támogatott rendszerek őket választották ki elbocsátásra – és hogy a kiválasztás aránytalanul érintette azokat, akik betegszabadságon, szülői szabadságon vagy családi szabadságon voltak. A kereset szerint a kiválasztás alapjául szolgáló adatok között szerepeltek a teljesítményértékelések, a kalibrációs pontszámok, a termelékenységi mutatók, a tevékenységfigyelés, sőt még az AI-tokenek felhasználása is. Ezek olyan mutatók, amelyeket – a felperesek szavai szerint – védett szabadságon lévő személyek természetüknél fogva nem tudnak felhalmozni.

A vállalat cáfolja a vádakat, és a bíróság fogja eldönteni, hogy mi történt valójában. Azonban a vád felépítése minden HR-vezető figyelmét megérdemli, függetlenül az ítélet kimenetelétől — hiszen ez a felépítés szinte minden olyan szervezetben megismételhető, amely a munkatársakat teljesítménymutatók segítségével értékeli.

Ezt a mintát belülről ismerem. Az elmúlt évben technikai munkám nagy része a strukturálatlan adatokból történő következtetéssel telt – jellemzően a munkaköri leírásokból és a taxonómiai definíciókból származtattam a munkaköri szinteket. A munkaköri szint nem csupán technikai részletkérdés: a szint általában az egyenértékű munkacsoportot meghatározó dimenziók egyike, ami a bérkülönbség kiszámításának, valamint az arra épülő minden bér-benchmark alapját képezi. Nincs ebben semmi díszes. És itt van, amit ez a munka gyorsan megtanít: a munkaköri leírások vegyes minőségű nyersanyagok – elavultak, következetlenek, felfújtak, homályosak. A kód lehet kiváló; mégis mindig csak arra épül, amit beletáplálsz. Ha a bemeneti adatok nem írják le teljes mértékben a kontextust, a kimenet torz lesz – és ugyanígy minden, arra épülő döntés is. Nem lehet kastélyt építeni iszapból, bármilyen tehetséges is legyen az építész. Éppen ezért minden, amit létrehozunk, esetében két dolog nem képezi tárgyalási alapot: a bevitt adatok minősége, valamint egy konkrét személy, aki ellenőrzi a kimenetet.

A hiba nem ott van, ahol mindenki keresi

Az eset legkézenfekvőbb értelmezése: “a mesterséges intelligencia kudarcot vallott”. Ez azért tűnik csábítónak, mert kényelmes megoldás – a modellt újra lehet tanítani, a szolgáltatót le lehet cserélni, a beszerzési követelményt pedig le lehet pipálni.

De ha az állítások helytállóak, akkor a modell pontosan azt tette, amire tervezték. Számba vette a teljesítményt. A probléma az, hogy mit jelent a teljesítmény számbavétele annak számára, aki négy hónapot szülői szabadságon töltött: távollétét alulteljesítésként rögzítik – nem tévedésből, hanem definíció szerint.

Ez nem a modell hibája. Hanem a mérőszám-tervezés hibája — és ez a különbség rendkívül fontos, mert az egész minőségbiztosítási rendszerünk a modellre összpontosít. A pontossági tesztek nem fogják ezt észrevenni: a modell pontos. A szokásos méltányossági mutatók sem fogják megbízhatóan észlelni, ha a védett szabadság nem szerepel a teszttervben. Akár tökéletesen is ellenőrizhetjük az algoritmust, mégis okozhatunk kárt, mert a kárról már korábban döntöttek, amikor valaki kiválasztotta, hogy mit mérjünk.

Éppen ezért a komoly algoritmus-audit gyakorlat az AI-t szocio-technikai rendszerként kezeli: a modell, az azt tápláló mutatók, az alapján cselekvő emberek és az azt körülvevő folyamat egy elemzési egységet alkotnak. Ha bármelyik réteget önmagában vizsgáljuk, az eredmény értelmetlen.

Mit jelent valójában a “magas kockázat” kifejezés?

Az EU mesterséges intelligencia törvénye értelmében a foglalkoztatási döntésekben – felvétel, előléptetés, feladatkiosztás, munkaviszony megszüntetése – alkalmazott mesterséges intelligencia a magas kockázatú kategóriába tartozik. És pontosan itt látom, hogy a szervezetek egy látszólag jelentéktelen, de súlyos következményekkel járó hibát követnek el: a “magas kockázatú” kifejezést pusztán adminisztratív besorolásként értelmezik. Olyan címkének tekintik, amely meghatározza, hány dokumentumot kell benyújtaniuk.

Ez fordítva van. A „magas kockázat” azt jelenti, hogy a potenciális kár hatása jelentős. Pénzügyi szempontból: bírságok, peres eljárások, hírnévromlás és közvetlen üzleti kár. Emberi szempontból: jogok és lehetőségek elvesztése — ez a két kárkategória, amelyet az algoritmus-audit osztályozási rendszerek kifejezetten „lehetőségvesztésként” és „jogsértésként” neveznek meg. A Meta elleni panasz – ha pontos – egyszerre mindkettő tankönyvi példája: megélhetés elvesztése, amely állítólag egy jogilag védett jog gyakorlásához kapcsolódik.

Itt jön jól a társadalmi-technikai szemlélet. Az algoritmus-audit gyakorlatában kedvelem a BABL AI CIDA-modelljét – Kontextus, Bemenet, Döntés, Cselekvés –, amely egy olyan értékelési és átláthatósági keretrendszer, amely arra készteti az embert, hogy az AI-rendszer mind a négy rétegét vizsgálja meg, ne csak a középső modellt. Ha a Meta ellen felhozott vádakat ráillesztjük erre a modellre, a szerkezet egyértelművé válik: a Kontextus egy olyan tömeges elbocsátás, amely jogilag védett távollétet élvező munkavállalókat érint; a Bemenet olyan mutatók halmaza, amelyek – tervezésüknél fogva – távollét ideje alatt nem halmozódhatnak fel; a Döntés a felmondásra való kiválasztás; a Cselekvés pedig több ezer munkahely megszüntetése – állítólag anélkül, hogy a kontextus által megkövetelt egyéni felülvizsgálat megtörtént volna. Figyeljük meg, hol jelentkezik a kár: a bemeneti adatok szintjén, még mielőtt bármelyik modell futna. Pontosan ez az a réteg, amelyet egy kizárólag a modellre összpontosító ellenőrzés soha nem vesz észre – és pontosan ez az oka annak, hogy a négy réteg együttes értékelése nem módszertani pedantéria, hanem az algoritmus ellenőrzése és a rendszer ellenőrzése közötti különbség.

A kockázatnak pedig van egy képlete: kockázat = nagyságrend × valószínűség, ahol a nagyságrend = súlyosság × mérték. Nyolcezer ember elbocsátása egyetlen leépítési hullám során – ez a mérték. Az a mutató, amely strukturálisan hátrányosan érinti a védett szabadságot, a súlyosság. Ha mindkettő fennáll, a valószínűségnek alig van jelentősége – a kockázat már vállalati szintű.

A telepítő gondolatkísérlet

Íme egy gyakorlat, amit bármely vezetői csapattal elvégezném: képzeljék el, hogy ugyanazt a rendszert – ugyanazokat a mutatókat, ugyanazokat a vezérlőpaneleket – egy harmadik fél által fejlesztett eszközként vezetnék be egy olyan szervezetbe, amely rendelkezik működőképes mesterséges intelligencia-irányítási keretrendszerrel. Mi kellett volna történnie az élesítés előtt?

A rendszer felkerülne egy nyilvántartásba, és kockázati besorolást kapna. Foglalkoztatási döntések: magas kockázat. Ez az egyetlen lépés elindítja az egész további folyamatot – ezután a rendszerrel kapcsolatban semmi sem marad informális.

Egy hatásvizsgálat előre feltenné azt a kényelmetlen kérdést: lehet-e bármely bemeneti mutató – már a tervezés során – hátrányosan érintetni valakit, aki törvényes jogát gyakorolja? Kilépés. Fogyatékosság. Ésszerű alkalmazkodás. Ha ezt az egyetlen kérdést már a tervezés során felvetik, elkerülhető az egész peres eljárás. Ha viszont a rendszer bevezetése után teszik fel, akkor már a peren kívüli egyezségről kell tárgyalni.

Az adatkezelés maguknak a bevitt adatoknak a vizsgálatára irányulna. Mit jelképez valójában a token-felhasználás? Mit mér egy tevékenységi mutató a szülői szabadság ideje alatt? A mutatók soha nem semlegesek; választások eredményei, és ezeket a választásokat felül lehet vizsgálni.

Az emberi felügyelet strukturális jellegű lenne, nem pedig pusztán díszítő jellegű: egy meghatározott „megállás és felülvizsgálat” szabály a védett helyzetekre vonatkozóan, amelyben egy kijelölt személy felel – az ítélkezés a szervezeten belül marad, nem pedig egy irányítópultra kerül kihelyezésre.

És a bizonyítékok már eleve rendelkezésre állnának – vizsgálati jegyzőkönyvek, döntési naplóbejegyzések, eltérések –, még mielőtt bárki is kérdezné őket. A peres eljárás nyomására összeállított dokumentáció senkit sem győz meg, legkevésbé pedig a bíróságot.

Mindez egyáltalán nem akadályozza a mesterséges intelligencia bevezetését. Ez az a lényeg, amit a legtöbb elemzés figyelmen kívül hagy: az ilyen módon megvalósított irányítás nem gátolja a folyamatot – éppen ez teszi a bevezetést megalapozottá, és ez az, ami lehetővé teszi, hogy kiállja a jogi szervekkel, a munkavállalói tanácsokkal és a bíróságokkal való összetűzéseket.

“De a határidők megváltoztak”

Van még egy ellenvetés, amit hetente hallok, és amelyre érdemes közvetlen választ adni. Igen – a nemrég elfogadott digitális omnibusz-törvény 2027 végéig elhalasztotta az AI-törvény szerinti, önálló, magas kockázatú rendszerekre vonatkozó alapvető kötelezettségeket. Néhány átláthatósági kötelezettség ugyan 2026 augusztusában lép hatályba, de a szabályozás betartását szolgáló hatalmas gépezet így egy kis lélegzetvételnyi időt kapott.

Ami viszont nem változott: a diszkriminációellenes törvény. A családi és betegszabadságra vonatkozó védelem. A fogyatékossággal élők jogai. A Meta elleni per felperesei nem az AI-törvény alapján perelnek – hanem a már évtizedek óta létező, az algoritmikus magatartásra alkalmazott munkajog alapján. Ennek az ügynek a tanulsága pontosan az, hogy az AI-szabályozás határidejének kivárása kategóriahiba: a kockázat abban a pillanatban keletkezik, amikor a mutatóid embereket érintenek, és ez mindig is így volt.

A határidő azt jelzi, mikor kezdi meg a hatóság a vizsgálatot. A kár mértéke pedig azt határozza meg, mikor lép közbe az ügyvéd.

A vizsgálat tárgyát képező kérdés

Tehát egy kérdés minden olyan szervezet számára, amely a munkavállalókra vonatkozó termelékenységi, teljesítmény- vagy kiválasztási célú mesterséges intelligenciát alkalmaz:

Előfordulhat-e, hogy valamelyik mutatója – a kialakításából adódóan – hátrányosan érinti azokat, akik törvényes jogukat gyakorolják?

Ha a szervezetben még senki sem tette fel ezt a kérdést – hát ez az audit.

Ha a szervezetedben még senki sem tette fel ezt a kérdést — hát ez az audit.

Független mesterséges intelligencia-rendszer-audit →Ismerje meg a FairPath-t →