Ha valaha nézted a Little Britain című sorozatot, biztosan emlékszel arra a jelenetre, amikor a segítőkészségtől mentes ügyintéző – minden érzelem és logika nélkül – minden kérést egy kifejezéstelen “A számítógép nemet mond” mondattal utasít el. Imádom azt a sorozatot. Teljesen nevetséges.
A mesterséges intelligencián alapuló önéletrajz-szűrő eszközök manapság több ezer toborzási folyamatban végzik el az első szűrést — eldöntve, hogy ki jut tovább, és ki nem jut el egyáltalán egy emberi toborzóhoz.
Az automatizálás ígérete a hatékonyság. De amikor ezt a “nemet” egy algoritmus mondja ki – emberi felügyelet, átláthatóság vagy a döntés megtámadásának lehetősége nélkül –, az komoly kérdéseket vet fel a méltányosság, az elszámoltathatóság, valamint a GDPR és az uniós mesterséges intelligencia-törvény betartása tekintetében.
1. A GDPR szemszögéből: automatizált döntéshozatal
A GDPR 22. cikke minden magánszemélynek biztosítja azt a jogot, hogy ne legyen kitéve olyan, kizárólag automatizált adatkezelésen alapuló döntésnek, amely rá jelentős hatással van.
Ha valakit azért zárnak ki egy álláslehetőségből, mert egy algoritmus úgy döntött, hogy az önéletrajza nem felel meg, az egyértelműen teljesíti e meghatározás mindkét feltételét:
- teljes mértékben automatizált (az elutasítás előtt nincs emberi ellenőrzés), és
- ennek jelentős hatása van (egy valós lehetőség elvesztése).
Tehát igen — a legtöbb esetben a mesterséges intelligencián alapuló előszűrés automatizált döntéshozatalnak minősül.
2. Mit mondanak a szabályozó hatóságok
Az európai szabályozó hatóságok álláspontja következetes volt:
- EDPB (WP29): Az előszűrés vagy az automatikus kizárás automatizált döntéshozatalnak minősül.
- CNIL (Franciaország): Az emberi részvételnek valósnak kell lennie, nem pedig pusztán szimbolikusnak.
- BfDI (Németország): kifejezett hozzájárulást vagy más jogalapot, valamint biztosítékokat igényel.
- Datatilsynet (Norvégia): még a “döntéshozatalt támogató” eszközök is megsérthetik a 22. cikket, ha a toborzó egyszerűen elfogadja a mesterséges intelligencia ajánlását.
Más szavakkal: ha az elutasítás előtt nem történik érdemi emberi felülvizsgálat, akkor az automatizált döntéshozatalról van szó – ennyi.
3. A “human in the loop” mítosz
Számos szolgáltató és bevezető a következőképpen érvel: “A végső döntést ember hozza meg – így a folyamat nem automatizált.”
Azonban a hatékony emberi felügyelet azt jelenti, hogy:
- Aktív részvétel — az emberek felülírhatják a mesterséges intelligenciát.
- Tájékozott felügyelet — megértik a modell logikáját.
- Időbeni beavatkozás — a felülvizsgálatra még azelőtt kerül sor, hogy bármely döntés hatályba lépne.
Ha ezek a feltételek nem teljesülnek, akkor az, hogy később bevonunk egy embert a folyamatba, még nem teszi azt szabályszerűvé – csupán az irányítás látszatát kelti.
4. Milyen jogszerű felhasználáshoz szükséges
A 22. cikk alkalmazása esetén a szervezetek csak akkor járhatnak el, ha:
- ez a szerződés megkötéséhez szükséges (ami a munkaerő-toborzásban ritka), vagy
- a jelölt kifejezett hozzájárulását adja, vagy
- bevezetésre kerül egy érdemi emberi ellenőrzési lépés.
Ezenkívül kötelesek:
- átlátható módon tájékoztassák a jelölteket a mesterséges intelligencia használatáról,
- lehetővé tegyék a vitát és az emberi beavatkozást, valamint
- végezzen adatvédelmi hatásvizsgálatot (DPIA), mivel a mesterséges intelligencia alapján történő szűrés magas kockázatú adatkezelésnek minősül.
5. Miért fontos ez a GDPR-en túl is?
Az EU mesterséges intelligencia törvénye értelmében a toborzási és önéletrajz-szűrő rendszerek mostantól kifejezetten a “magas kockázatú mesterséges intelligencia-rendszerek” közé tartoznak. Ez azt jelenti, hogy ezek esetében a következőket kell biztosítani:
- dokumentált adatkezelés,
- emberi felügyeleti mechanizmusok,
- kockázatkezelés, valamint
- a bevezetés előtti megfelelőségértékelések.
Az Általános Adatvédelmi Rendelet (GDPR) továbbra is szabályozza az átláthatóságot, a méltányosságot és az adatvédelmi jogokat – az AI-irányítás azonban egy új szintű elszámoltathatóságot fog bevezetni.
6. Mit tanít ez nekünk a HR-területen az AI-ismeretekről?
Itt nem csupán a szabályozási ellenőrzőlistákról van szó. Arról van szó, hogy megértsük, hogyan működik valójában a mesterséges intelligencia – és hol kezdődik az emberi felelősség.
A HR-területen az AI-ismeretek a következőket jelentik:
- tudva, hogy milyen döntést hoz a mesterséges intelligencia,
- azzal a kérdéssel, hogy ki a felelős, ha valami nem stimmel,
- az adatminőség biztosítása és a torzítások vizsgálata, valamint
- hogy képes legyen a logikát a jelölteknek és a vezetőknek egyaránt elmagyarázni.
Az igazi műveltség nem a programozás. Hanem az a képesség, hogy megfelelő kérdésekkel megkérdőjelezzük egy algoritmust – még mielőtt az észrevétlenül befolyásolná az emberek karrierjét.
Az Ön szűrő-mesterséges intelligenciája automatizált döntéseket hoz? Derítse ki, mielőtt a szabályozó hatóság rákérdez!.
Független mesterséges intelligencia-rendszer-audit →Mesterséges intelligencia irányításának gyors áttekintése →