Két évvel ezelőtt a HRPortálon írtam arról, hogyan készüljön fel a HR az EU AI Act-re. Azóta a határidő eltolódott, a perek viszont már meg is indultak. Ez a frissített, kiegészített változat.
Három eset, három tanulság
2023, Egyesült Államok. Az esélyegyenlőségi hatóság (EEOC) pert indított egy oktatási cég ellen, mert az AI-alapú toborzóeszközük automatikusan elutasította az 55 év feletti nőket és a 60 év feletti férfiakat. A cég 365 000 dollárt fizetett. Tanulság: a torzítás egészen kézzelfogható lehet — egy születési dátumon alapuló szabály.
2024–2026, Workday-per. Egy álláskereső több mint száz álláshelyre jelentkezett a Workday-alapú rendszereken keresztül, és sorra elutasították — volt, hogy perceken belül, éjszaka. A bíróság 2025-ben országos csoportos perként engedélyezte az életkor alapján történő diszkrimináció miatt indított ügy folytatását; a Workday becslése szerint az érintett időszakban nagyjából 1,1 milliárd jelentkezést utasítottak el a rendszereiken. 2026 júniusában a bíróság a fogyatékosságra utaló proxyk — például betegszabadságra, kezelésre utaló minták — alapján történő kiszűrés miatti keresetet is továbbengedte, és korábban kimondta: a szoftvergyártó az ügyfelei „képviselőjeként” felelhet, mert a munkáltatók rá ruházták a jelöltek elutasításának feladatát. Tanulság: A szállító nem pajzs. Az eszköz használója ugyanúgy részt vesz a perben — erről a A Workday-perről szóló korábbi cikkemben erről részletesebben is írtam.
2026. július, a Meta-per. Huszonhat jelenlegi és volt Meta-alkalmazott perelte be a vállalatot, mert állításuk szerint a mintegy nyolcezer fős létszámleépítés listáját nem „a munkát ismerő vezetők döntése”, hanem belső mesterséges intelligencia (AI) rendszerek együttese állította össze — aktivitásfigyelési adatokból, AI-eszközhasználati mutatókból és algoritmussal támogatott teljesítményrangsorokból. A felperesek szülési, gondozói és betegszabadságon lévő, valamint fogyatékossággal élő munkavállalók. A kereset nem azt állítja, hogy a Meta egészségügyi adatokat táplált volna a rendszerbe. Azt állítja, hogy a rendszer azt a tevékenységhiányt büntette, amelyet a védett szabadság szükségszerűen maga után von. A Meta ezt tagadja, és állítása szerint a döntéseket emberek hozták, nem pedig mesterséges intelligencia; az ügy még folyamatban van. A tanulság a végkimeneteltől függetlenül érvényes: a HR-ben az AI-kockázat nem csak a toborzásra vonatkozik, hanem a teljesítménymenedzsmentre és a létszámleépítésre is; a torzítás nem védett tulajdonságon, hanem semlegesnek tűnő proxy-n keresztül jelentkezik; és az „ember hozta a döntést” védekezés annyit ér, amennyi dokumentált emberi felülvizsgálat áll mögötte.
Európában sem elméleti kérdésről van szó: a holland emberi jogi intézet 2025 elején, a francia egyenlőségi biztos pedig 2025 őszén elmarasztalta a Metát, mert a Facebook álláshirdetés-elosztó algoritmusa nem a szabályok szerint jelenítette meg a hirdetéseket — szerelőt a férfiaknak, óvónőt a nőknek —, még ha nem is szándékosan. Vagyis: nem arról van szó, hogy „ha” torzít, hanem hol.
Mi az algoritmikus torzítás, és honnan származik?
Algoritmikus torzításnak nevezzük azt a jelenséget, amikor a mesterséges intelligencia-modellek bizonyos társadalmi csoportokat — jellemzően a nőket, az időseket, az etnikai kisebbségeket és a fogyatékossággal élőket — hátrányosan megkülönböztetnek. Ennek három forrása van, és mindhármat másképp kell kezelni:
- Az adat. A modell a korábbi adatokból tanul. Ha bizonyos csoportok alul- vagy túlreprezentáltak, a modell ezt a mintát megtanulja és megismétli. Az Amazon 2018-ban leállított önéletrajz-szűrője a korábbi évek – túlnyomórészt férfiakkal kapcsolatos – felvételi döntéseiből tanulta meg, hogy a „női” szót tartalmazó önéletrajzokat alacsonyabb pontszámmal értékelje.
- Egy modell. A torzítás már magából a felépítésből is származhat: olyan proxy-változókból, amelyek nem a nemet vagy a kort kódolják, hanem az iskolát, a lakóhelyet, a szóhasználatot, a karrier szünetet — és mégis ezeken keresztül. A Meta-ügy erre a legszembetűnőbb példa: az „aktivitás” mérőszáma semleges, hatása viszont nem.
- A használat. A legkevésbé emlegetett forrás. Ha a toborzó vagy a vezető a rendszer javaslatát felülvizsgálat nélkül elfogadja, az emberi felügyelet csupán formális marad, és a rendszer de facto hozza meg a döntést — még akkor is, ha a szervezeti ábrán az ember áll a végén.
Ezen kockázatok mérséklése a vállalat érdeke és felelőssége. A felelősségteljes mesterséges intelligencia (AI) használata nem egy eszköz tulajdonsága, hanem egy irányítási keretrendszeré: az AI-irányítás azt jelenti, hogy a szervezet tudja, hol használja az AI-t, ki felel érte, milyen kockázatokat azonosított, és hogyan ellenőrzi azokat rendszeresen – értékelések és auditok segítségével.
Az EU mesterséges intelligencia törvénye ma
A 2024. augusztus 1-jén hatályba lépett rendelet a HR-területen használt mesterséges intelligencia-rendszerek nagy részét — toborzás, kiválasztás, előléptetés, feladatkiosztás, teljesítményértékelés, munkaviszony megszüntetése — magas kockázatúnak minősíti. Általános szabályként: ami a HR-ben az emberekről szóló döntéseket hoz vagy támogatja, az magas kockázatú.
Mi változott: a 2026-ban elfogadott „Digital Omnibus” módosítás nyomán a magas kockázatú rendszerekre vonatkozó kötelezettségek határideje 2027. december 2. Ami nem változott: az AI-jártassági kötelezettség (a rendelet 4. cikke) 2025 februárja óta érvényben van, és a diszkriminációtilalom — az egyenlő bánásmódról szóló törvény, a Munka törvénykönyve — soha nem várt az AI Act-re. A Workday- és a Meta-per nem az AI-szabályozás alapján indult, hanem évtizedes munkajogi normák alapján, algoritmikus magatartásra alkalmazva. A határidő azt határozza meg, mikor kezd el kérdéseket feltenni a szabályozó hatóság; a kár pedig azt, mikor kezd el kérdéseket feltenni egy ügyvéd.
A HR-ről szóló rendelet üzemeltetőként (a telepítő) kezeli, és ez nem csupán formalitás. A magas kockázatú rendszer üzemeltetőjének a szállító utasításai szerint kell használnia az eszközt, biztosítania kell a hozzáértő emberi felügyeletet, ellenőriznie kell, hogy a bemeneti adat releváns és reprezentatív, monitoroznia kell a működést, meg kell őriznie a naplókat, és – HR-specifikusan – a rendszer bevezetése előtt tájékoztatnia kell a munkavállalói képviseletet és az érintett munkavállalókat. A „nem mi fejlesztettük, csak megvásároltuk” érv nem menti fel a felelősség alól; a szankció a magas kockázatú kötelezettségek megsértése esetén akár 15 millió euró vagy a globális árbevétel 3%-a lehet.
Mit tehet ma a HR-osztály?
Az első feladat változatlan: a HR-csapatok mesterséges intelligencia- és adatkompetenciájának fejlesztése. Nem kell adattudóssá válni, de meg kell érteni, hogy egy-egy rendszer mit csinál, hol rejlik a kockázat, és milyen kérdéseket kell feltenni a szolgáltatónak. Ennek alapja a rendezett adat és az adatközpontú döntéshozatal — nincs olyan adat, amelyet senki sem ért, és amely felett ne lenne emberi felügyelet.
Hol érdemes kezdeni — a két évvel ezelőtti lista, egy új ponttal kiegészítve:
- A jelenleg használt mesterséges intelligencia-rendszerekről szóló áttekintés a HR-en belül — az ATS-től a teljesítményértékelő irányítópultig, beleértve azokat is, amelyek egy nagyobb szoftverbe „beépítve” érkeztek. Gyűjtsük össze az érintetteket, és vegyük sorra a lehetséges káros hatásokat: az adatokból, a modellből és a kimenet felhasználásából fakadóakat.
- A tervezett mesterséges intelligencia-beruházások jegyzéke az AI-ütemterv alapján — vagy ha ilyen nincs, akkor határozzuk meg, hol oldana meg valós problémát. Ha a legtöbb időt az önéletrajzok szűrése veszi igénybe, indokolt lehet egy szűrőmegoldás bevezetése — de a fenti kérdések figyelembevételével.
- Először a strukturált adat. Mielőtt egy szűrőt bevezetnénk, tisztázzuk, hogy az adott pozícióban mi határozza meg a magas teljesítményt, és ezeknek az adatoknak a tekintetében végezzük el a tisztítást: kiugró értékek, duplikációk, hiányzó adatok.
- Adatkezelés (adatkezelés) az adatok pontosságáért, következetességéért és a GDPR-nak való megfelelésért. Különös figyelmet kell fordítani a torzításvizsgálathoz szükséges speciális adatokra: az AI Act kifejezetten engedélyezi ezt a célt, de szigorú védelmi intézkedések és dokumentált indoklás mellett.
- Kezdjük néhány egyszerű elemzéssel: dashboardok, gyökérelemzés, a toborzási folyamat elemzése — ki esik ki melyik szakaszban, milyen profilú jelölt, és melyik döntési pont után. Alakítsunk ki egy rendszerességet ezek frissítésére és áttekintésére.
- Ne feledkezzünk meg a strukturálatlan adatokról. A torzítás gyakran e-mailekben, dokumentumokban és csevegési naplókban rejtőzik — és ezeket használják a chatbotok és a virtuális asszisztensek betanításához.
- Rendszeres torzításvizsgálat és független audit. Ez az új szempont, és ez a felügyelet bizonyítéka. Egy magas kockázatú rendszer esetében nem az a kérdés, hogy a szervezet akart-e diszkriminálni, hanem hogy mivel tudja bizonyítani, hogy nem tette: mit mért, mikor, milyen eredménnyel, és ki ellenőrizte. A Meta-perben a felperesek egyik állítása éppen az, hogy a rendszereket nem tesztelték torzításra. Egy dokumentált, ismételt teszt — külső audit által megerősítve — az a különbség, ami egy kereset esetén a védekezés alapját képezi.
A kérdés, amelyet a szabályozó felvet
A mesterséges intelligencia mindkét irányban óriási potenciállal bír: rengeteg előnnyel jár, ugyanakkor nagyon nagy kárt is okozhat. Ahogy egyre inkább átszövi a munkahelyi döntéseket, a mi felelősségünk, hogy etikus és ellenőrizhető módon használjuk. A rendelet értelmében ez a felelősség 2027 végére jogi kötelezettséggé válik – de a perek már ma is arról szólnak, ami eddig is tilos volt.
A szabályozó hatóság — és a bíróság — nem azt kérdezi, hogy akartunk-e diszkriminálni. Azt kérdezi, mivel bizonyítjuk, hogy nem tettük. Erre a kérdésre most kell elkezdeni válaszolni, mert az AI-rendszerek összetettek, a kockázatok felmérése és mérséklése időigényes — és a HR-nek, a magas kockázatú rendszerek üzemeltetőjének ebben a legnagyobb a szerepe és a felelőssége.
A szabályozó nem azt kérdezi, hogy szándékában állt-e diszkriminálni — hanem azt, hogy mivel bizonyítja, hogy nem tette.
Független mesterséges intelligencia-rendszer audit →FairPath — torzításvizsgálat és megfelelés →