A mai gyorsan változó mesterséges intelligencia (AI) területén az egyik legnagyobb kockázat nem az, amit látsz, hanem az, amit nem látsz. Ahogy a szervezetek kiszerveznek, partnerségeket kötnek, mesterséges intelligencia-rendszereket vásárolnak, vagy olyan beszállítói függőségeket alakítanak ki, amelyekbe a mesterséges intelligencia be van ágyazva, a láthatóság kérdése központi jelentőségűvé válik: ki fér hozzá milyen adatokhoz, ki irányítja a mesterséges intelligenciát, mennyire átlátható a folyamat, és mi történik, ha valami rosszul sül el.
A Kiteworks által nemrégiben Észak-Amerikában, Európában, az Ázsia-Csendes-óceáni térségben és a Közel-Keleten 461 szervezet körében végzett felmérés rávilágít erre a problémára:
- A szervezetek közel fele nem tudja, hány külső partnerrel áll kapcsolatban, illetve milyen gyakran fordulnak elő adatvédelmi incidensek.
- Csak 17% hajtotta végre teljes mértékben a mesterséges intelligencia irányítására vonatkozó technikai ellenőrzési intézkedéseket.
- Ráadásul az 83% nem rendelkezik olyan automatizált ellenőrzési mechanizmusokkal, amelyek megakadályoznák az érzékeny adatok nyilvános mesterséges intelligencia-eszközökkel való megosztását.
Ez több, mint pusztán technikai hiányosság. Ez egy irányítási hiányosság – és a HR pontosan ennek a középpontjában áll.
Az EU mesterséges intelligencia törvénye: miért nem hagyhatja figyelmen kívül a HR a harmadik felek által fejlesztett mesterséges intelligenciát
Az EU mesterséges intelligencia törvénye 2024 augusztusában lépett hatályba, létrehozva ezzel a világ első átfogó jogi keretrendszerét a mesterséges intelligencia területén. A magas kockázatú rendszerekre vonatkozó kötelezettségek – ideértve a toborzásban, a teljesítménymenedzsmentben és egyéb alapvető HR-feladatokban alkalmazott mesterséges intelligenciát is – gyorsan közelednek.
Ez a határidő fontos. A magas kockázatú mesterséges intelligencia-rendszerek esetében dokumentált átláthatóságra, nyomonkövethetőségre, emberi felügyeletre és szigorú adatminőségi szabványokra lesz szükség. Fontos kiemelni, hogy azok a szervezetek, amelyek a HR-területen alkalmazzák a mesterséges intelligenciát, akkor is felelősséggel tartoznak, ha a rendszert egy külső szolgáltató biztosítja. A törvény egyértelműen kimondja: a “nem mi fejlesztettük” nem szolgálhat mentségként.
ISO 42001: a szabályozás gyakorlatba ültetése
Az ISO/IEC 42001 szabvány, amely a mesterséges intelligencia irányítási rendszerekre (AIMS) vonatkozik, gyakorlati keretrendszert biztosít e kötelezettségek teljesítéséhez. A HR-számára legfontosabb követelményei között szerepelnek a következők:
- A harmadik felek és a beszállítók felügyelete kötelező — A szervezeteknek nem csupán a saját mesterséges intelligencia-rendszereikben, hanem a beszállítók és alvállalkozók rendszereiben is fel kell mérniük a kockázatokat.
- A mesterséges intelligencia-rendszerek életciklusuk során történő folyamatos figyelemmel kísérése — a tervezéstől a bevezetésen át a frissítésekig — biztosítja, hogy a kockázatok ne csússzanak be észrevétlenül.
- Kompetencia- és írás-olvasási követelmények — a személyzetet fel kell készíteni arra, hogy megértse a mesterséges intelligencia kockázatait és korlátait, és szükség esetén beavatkozzon.
Az ISO 42001 szabvány bevezetése ugyan nem jogi követelmény, de ez az egyik legegyértelműbb módja annak, hogy a szabályozó hatóságok, a munkavállalók és a partnerek számára bebizonyítsa: szervezete komolyan veszi a felelősségteljes mesterséges intelligencia alkalmazását.
Azok a kérdések, amelyeket a HR-vezetőknek fel kell tenniük
Mit jelent mindez a gyakorlatban a HR számára? Azt jelenti, hogy a szállítói eszközök passzív felhasználójából az AI-irányítás aktív irányítójává kell válnia. Ez azzal kezdődik, hogy a megfelelő kérdéseket tesszük fel:
- Milyen mesterséges intelligencia-rendszereket használunk valójában a HR-ben? Az ATS-től és az átvilágítási platformoktól kezdve a teljesítményelemző irányítópanelekig – van-e áttekintése arról, hogy az AI hol érintkezik a munkavállalói adatokkal és a döntésekkel?
- Hogyan hoznak döntéseket ezek a rendszerek? Előfordulhat, hogy a szolgáltatók nem szívesen osztják meg a modell teljes részleteit, de a HR-nek ragaszkodnia kell legalább egy funkcionális magyarázathoz: milyen adatokat használnak, mely kritériumok számítanak, és hogyan kezelik az elfogultságot.
- Milyen szerződéses kötelezettségek vonatkoznak beszállítóinkra? A megállapodások előírják-e számukra, hogy naplókat vezessenek, dokumentációt nyújtsanak be, engedélyezzék az ellenőrzéseket, és biztosítsák az emberi felügyeletet? Ezek hiányában a szabályoknak való megfelelés csupán találgatásra épül.
- Ki viseli a kockázatot a vállalatunkon belül? Ha egy beszállító mesterséges intelligenciája diszkriminál, adatokat szivárogtat ki vagy meghibásodik, akkor ki viseli a felelősséget a HR-osztályon? A felelősség egyértelmű meghatározása elengedhetetlen ahhoz, hogy elkerülhető legyen a cselekvésképtelenség, ha valami baj történik.
- Képzettek-e munkatársaink arra, hogy szembeszálljanak a mesterséges intelligenciával? A szakmai szkepticizmus nem opcionális. A HR-munkatársaknak és a vezetőknek tudniuk kell, hogyan kell megkérdőjelezni az eredményeket, felismerni a figyelmeztető jeleket és hatékonyan beavatkozni.
- Van vészhelyzeti tervünk? Ha egy mesterséges intelligencia-rendszer meghibásodik – függetlenül attól, hogy saját fejlesztésű vagy beszállítótól származó –, van-e egyértelmű eljárás az ügy továbbítására, a kommunikációra és a hiba kijavítására?
Ezeknek a kérdéseknek a felvetése nem csupán a jogi és hírnévvel kapcsolatos kockázatokat csökkenti. Ugyanakkor bizalmat épít ki a munkavállalókkal szemben is — akik egyre inkább elvárják, hogy az őket értékelő mesterséges intelligencia-eszközök méltányosak, átláthatók és megfelelően szabályozottak legyenek.
Következtetés: a vakfoltoktól a tiszta látásig
A harmadik felek által okozott mesterséges intelligencia kockázata nem csupán egy szűk körű probléma. A Kiteworks adatai azt mutatják, hogy a legtöbb szervezet még mindig vakon halad. Az EU mesterséges intelligencia törvénye jogi alapot biztosít a láthatóság és a felügyelet szükségességéhez. Az ISO 42001 szabvány strukturált módszert kínál e követelmények gyakorlati megvalósításához.
A HR-vezetők számára az üzenet egyszerű: ne várják meg a határidőt a cselekvéssel! Kezdjék azzal, hogy már most felvetik a kényes kérdéseket! Növeljék az átláthatóságot, követeljék meg a beszállítóktól a felelősségre vonhatóságot, és gondoskodjanak arról, hogy csapataik ne csupán passzív felhasználók legyenek – aktív, tájékozott szkeptikusokká kell válniuk, akik képesek irányítani a mesterséges intelligenciát, ahelyett, hogy az irányítaná őket.
Mert a mesterséges intelligencia korszakában a tudatlanság nem csupán gyengeség. Hanem hátrányt jelent.
A beszállítói mesterséges intelligencia továbbra is az Ön felelőssége. Hozzon létre olyan irányítási rendszert, amely igazolja a felügyeletet.
Az ISO/IEC 42001 szabvány bevezetése →Ismerje meg a FairPath-t →