Az ATS-ed korrekt. A konverziós csatornád viszont nem.

Mit tanít nekünk egy virálissá vált LinkedIn-bejegyzés, három bizonyítékréteg és egy figyelmen kívül hagyott elfogultság a valódi mesterséges intelligencia-ismeretről.


Egy kiberbiztonsági vezető nemrég megosztott egy észrevételt, ami nagyon megérintett: a terhességről, az IVF-ről és a katonai házastárs életéről szóló bejegyzései több mint 25 000 megjelenítést érnek el. A kiberbiztonságról, a mesterséges intelligencia stratégiájáról és a CISO-vezetésről – azaz a tényleges szakmájáról – szóló bejegyzései viszont körülbelül 500-at érnek el. És amikor a platform húsz “legfontosabb véleményt” válogatott össze egy jelentős biztonsági incidensről, úgy tűnt, hogy közülük három nőtől származott.

Mit mutatnak valójában a bizonyítékok – három rétegben

Első réteg: a víruskísérletek. Az #WearThePants kísérletek során a nők a LinkedIn-profiljukban a nemet férfira állították át, és napok alatt 200%+ megjelenítési ugrást regisztráltak. A LinkedIn válasza szerint algoritmusai nem használnak demográfiai jelzőket a tartalom láthatóságának szabályozásához (legalábbis nem közvetlenül, de mindannyian tudjuk, hogy a demográfiai jelzők általában közvetett módon csúsznak be a rendszerbe). Igazságosság kedvéért meg kell jegyezni, hogy a kísérletek eredményeit zavarta egy tényező: több résztvevő az írásstílusát is megváltoztatta, amikor “férfiként” tett közzé bejegyzéseket. Ez inkább csak utalás, széles körben érzékelt jelenség, nem pedig bizonyíték.

Második szint: a platform saját, közzétett kutatási eredményei. 2019-ben a LinkedIn kutatói közzétettek egy, a méltányosságot szem előtt tartó újrarangsorolási keretrendszert a Talent Search szolgáltatáshoz. A bevezetést követően a demográfiailag reprezentatív eredményeket visszaadó keresések aránya közel megháromszorozódott — anélkül, hogy az üzleti mutatók romlottak volna — és a rendszert kiterjesztették az összes Recruiter-felhasználóra. Olvassuk el ezt fordítva: ez egy számszerűsített, szakértői értékelésen átesett beismerés arról, hogy a javítás előtt mennyire torzítottak voltak a rangsorok. Adjunk méltó elismerést: a közzététel és a javítás pontosan így néz ki egy felelősségteljes önellenőrzés során. De ez azt is jelzi, hogy a torzulás valós volt, jelentős mértékű, és a felhasználók számára láthatatlan maradt, amíg a platform nem döntött úgy, hogy megméri.

Harmadik szint: az ellenőrzési hiányosság. A LinkedIn Recruiter rangsorairól nemrég elvégzett független külső audit demográfiai eltéréseket tárt fel abban, hogy a jelöltek rangsorolási helyezései mennyire stabilak az idő múlásával — és, ami ugyanolyan fontos, rávilágított arra is, hogy a külső audit elvégzése szinte lehetetlen: a független kutatók számára gyakorlatilag nem létezik teljes hozzáférés a platformhoz. Így hát a ’visszatartja-e a hírfolyam a nők technikai szakértőinek hangját?“ kérdésre az őszinte válasz a következő: ezt nem tudjuk függetlenül ellenőrizni – és ez maga is egy megállapítás. Egy ilyen jelentős rendszer – amelynek hatása kiterjed a karrierre, a láthatóságra és a munkaerő-felvételre – jelenleg kizárólag saját maga által ellenőrizhető.

Vegyünk hozzá még egy réteget, amely már az algoritmus működése előtt kezdődik: a LinkedIn-profilok elemzése azt mutatja, hogy a férfiak és a nők másképp mutatják magukat — egészen a készségek felsorolásának és ismétlésének módjáig — és az ezeken a profilokon betanított rangsoroló eszközök is átveszik ezt a különbséget. Az elfogultság nem várja meg a modell elkészültét. Már az adatokkal együtt megjelenik.

Az a torzítás, amelyet senki sem vesz figyelembe az árazáskor

Most pedig kövessük nyomon a következményeket a folyamat további szakaszában, mert ez az a rész, amely szerintem szinte minden, a HR-ben alkalmazott mesterséges intelligenciáról szóló beszélgetésből hiányzik.

A legtöbb szervezet számára a LinkedIn az a toborzási folyamat első szűrője. Itt kezdődik a jelöltkeresés, itt keresnek a toborzók, és itt határozzák meg operatív szempontból a “piacot”. Íme tehát a kellemetlen számítás: Ha a jelöltállomány már a folyamat megkezdése előtt torz, akkor nem számít, mennyire kiegyensúlyozott és elfogulatlan az AI-alapú ATS-rendszered. Akár tökéletesen is ellenőrizheted a modellt, futtathatsz minden méltányossági mutatót, teljesítheted minden beszállítói értékelést – és mégis torz eredményeket kapsz, mert a remekül irányított rendszered egy előszűrt mintát dolgoz fel. A modellt ellenőrizted. A folyamatot senki sem ellenőrizte.

Ez az a fajta elfogultság, amely a legtöbb embernek eszébe sem jut, mert az egész “felvételi folyamatunknak” nevezett folyamatot megelőző szakaszban rejlik. Nincs olyan szolgáltató, akit hibáztathatnánk érte, és nincs olyan irányítópult sem, amelyen látható lenne. És ez csendben aláássa az iparág leggyakoribb megnyugtató állítását:

“De a mesterséges intelligencia kijavítja az emberi elfogultságot”

Részben igaz – és veszélyesen hiányos. Évekkel ezelőtt írtam azokról a kognitív torzításokról, amelyek megnehezítik a HR-döntéseket: a rendelkezésre állási heurisztika, a közelségi torzítás, a horgonyzás és a csoportgondolkodás. Ezzel szemben azok, az adatok valóban segítenek — egy termelékenységi elemzésnek nem számít, hogy melyik alkalmazott ül a vezetőhöz legközelebb, és egy jól összeállított felmérés minden esetben megbízhatóbb, mint a folyosón hallott benyomások. Ez az igazság fele.

A hamis fele: a mesterséges intelligencia kijavítja azokat az elfogultságokat, amelyek a következő formában jelennek meg: következetlenség az emberi ítéletek között. Semmit sem tesz a képzési adataiba beépült torzítások ellen — azokat, amelyeket nem javít ki, azokat iparosítja. Egy emberi toborzó elfogultsága egyszerre csak egy jelöltlistát érint. Egy modell elfogultsága viszont minden jelöltlistát érint, azonos módon, nagy léptékben, és bizalmi pontszámmal kiegészítve. Az, hogy “a mesterséges intelligencia kiküszöböli az emberi elfogultságot”, és az, hogy “a mesterséges intelligencia felerősíti az emberi elfogultságot”, egyaránt igaz – csak különböző elfogultságok esetében. Tudva, hogy melyik melyik pontosan ez az a készség, amely hiányzik a szakmánkból.

Ez az, amit valójában jelent a mesterséges intelligencia iránti ismeret

Ezzel eljutottam a lényeghez. A piac úgy döntött, hogy a mesterséges intelligencia iránti ismeretek egyenlőek a prompt-tervezéssel. Ezt a nézetet szeretném a lehető leghatározottabban cáfolni.

A prompt-tervezés az eszközök magabiztos használatát jelenti. Az AI-ismeretek az a képesség, hogy saját kezdeményezésből feltegyük a következő kérdéseket: hol jelentkezik a kockázat ebben a rendszerben, melyik érdekelt fél számára, és milyen ellenőrző intézkedéseket kell bevezetnem ellene? Nem csak azt, hogy megértjük a választ, amikor valaki elmagyarázza – hanem hogy magunk is tudjuk eszedbe jut. Felismerni, hogy egy beszerzési platform része a döntéshozatali rendszernek, még akkor is, ha soha nem vásároltad meg. Észrevenni, hogy egy bemeneti mutató már a kialakításából adódóan hátrányba hozhat valakit. Felismerni, hogy a kontextus, a bemeneti adatok, a döntések és a cselekvések négy különböző pontot jelentenek, ahol kár keletkezhet — és hogy mindegyiknek saját ellenőrzési mechanizmusra van szüksége.

És ami a legfontosabb: ez az írástudás vonatkozik a felhasználó, nem csupán a platformot. Az a toborzó, aki tisztában van azzal, hogy a toborzási csatornája milyen irányba torzul… másképp toboroz. Új csatornákat vesz igénybe. A folyamat megkezdése előtt ellenőrzi a jelöltállomány összetételét, nem pedig az év végi sokszínűségi jelentésben. A “honnan származik ez a jelöltkör?” kérdést alapvető ellenőrző kérdésként kezeli, ahogyan a pénzügyi osztály kezeli a “honnan származik ez a szám?” kérdést. Ez az emberi szerepvállalás egy mesterséges intelligenciával támogatott folyamatban – nem a végén elvégzett, pusztán formaságból történő jóváhagyó kattintás, hanem a tájékozott döntés a kiválasztási folyamat kialakításának szakaszában.

A javítások a rétegekhez igazodnak. Platformszinten: külső ellenőrizhetőség — az ilyen jelentőségű rendszereket nem szabad, hogy kizárólag saját maguk ellenőrizhessék, és a szabályozás is lassan ebbe az irányba halad. Szervezeti szinten: a folyamat elején végzett ellenőrzések – mérjük fel, mi kerül be a folyamatba, ne csak azt, mi jön ki belőle. Egyéni szinten: pontosan azt, amit az a kiberbiztonsági vezető tett – emeljük ki azokat a szakértelmet, amelyekkel az algoritmus nem rendelkezik, és tudatosan hozzuk meg saját beszerzési döntéseinket.

A platform dönti el, mit emel ki. Te döntöd el, hova nézel. A mesterséges intelligencia irányítása lényegében arról szól, hogy soha ne keverjük össze ezt a kettőt.

A méltányosságot a teljes értékesítési folyamat során bizonyítékokkal alátámasztva vizsgáljuk.

Ismerje meg a FairPath-t →Töltse ki az AI-irányítás gyorsfelmérést →