A láthatatlan meglátása: harmadik felek által okozott mesterséges intelligencia kockázatok, az EU mesterséges intelligencia törvénye, az ISO 42001 szabvány, és mit kell tennie a HR-nek

A mai gyorsan változó mesterséges intelligencia (AI) területén az egyik legnagyobb kockázat nem az, amit látsz, hanem az, amit nem látsz. Ahogy a szervezetek kiszerveznek, partnerségeket kötnek, mesterséges intelligencia-rendszereket vásárolnak, vagy olyan beszállítói függőségeket alakítanak ki, amelyekbe a mesterséges intelligencia be van ágyazva, a láthatóság kérdése központi jelentőségűvé válik: ki fér hozzá milyen adatokhoz, ki irányítja a mesterséges intelligenciát, mennyire átlátható a folyamat, és mi történik, ha valami rosszul sül el.

A Kiteworks által nemrégiben Észak-Amerikában, Európában, az Ázsia-Csendes-óceáni térségben és a Közel-Keleten 461 szervezet körében végzett felmérés rávilágít erre a problémára:

  • A szervezetek közel fele nem tudja, hány külső partnerrel áll kapcsolatban, illetve milyen gyakran fordulnak elő adatvédelmi incidensek.
  • Csak 17% hajtotta végre teljes mértékben a mesterséges intelligencia irányítására vonatkozó technikai ellenőrzési intézkedéseket.
  • Ráadásul az 83% nem rendelkezik olyan automatizált ellenőrzési mechanizmusokkal, amelyek megakadályoznák az érzékeny adatok nyilvános mesterséges intelligencia-eszközökkel való megosztását.

Ez több, mint pusztán technikai hiányosság. Ez egy irányítási hiányosság – és a HR pontosan ennek a középpontjában áll.

Az EU mesterséges intelligencia törvénye: miért nem hagyhatja figyelmen kívül a HR a harmadik felek által fejlesztett mesterséges intelligenciát

Az EU mesterséges intelligencia törvénye 2024 augusztusában lépett hatályba, létrehozva ezzel a világ első átfogó jogi keretrendszerét a mesterséges intelligencia területén. A magas kockázatú rendszerekre vonatkozó kötelezettségek – ideértve a toborzásban, a teljesítménymenedzsmentben és egyéb alapvető HR-feladatokban alkalmazott mesterséges intelligenciát is – gyorsan közelednek.

Ez a határidő fontos. A magas kockázatú mesterséges intelligencia-rendszerek esetében dokumentált átláthatóságra, nyomonkövethetőségre, emberi felügyeletre és szigorú adatminőségi szabványokra lesz szükség. Fontos kiemelni, hogy azok a szervezetek, amelyek a HR-területen alkalmazzák a mesterséges intelligenciát, akkor is felelősséggel tartoznak, ha a rendszert egy külső szolgáltató biztosítja. A törvény egyértelműen kimondja: a “nem mi fejlesztettük” nem szolgálhat mentségként.

ISO 42001: a szabályozás gyakorlatba ültetése

Az ISO/IEC 42001 szabvány, amely a mesterséges intelligencia irányítási rendszerekre (AIMS) vonatkozik, gyakorlati keretrendszert biztosít e kötelezettségek teljesítéséhez. A HR-számára legfontosabb követelményei között szerepelnek a következők:

  • A harmadik felek és a beszállítók felügyelete kötelező — A szervezeteknek nem csupán a saját mesterséges intelligencia-rendszereikben, hanem a beszállítók és alvállalkozók rendszereiben is fel kell mérniük a kockázatokat.
  • A mesterséges intelligencia-rendszerek életciklusuk során történő folyamatos figyelemmel kísérése — a tervezéstől a bevezetésen át a frissítésekig — biztosítja, hogy a kockázatok ne csússzanak be észrevétlenül.
  • Kompetencia- és írás-olvasási követelmények — a személyzetet fel kell készíteni arra, hogy megértse a mesterséges intelligencia kockázatait és korlátait, és szükség esetén beavatkozzon.

Az ISO 42001 szabvány bevezetése ugyan nem jogi követelmény, de ez az egyik legegyértelműbb módja annak, hogy a szabályozó hatóságok, a munkavállalók és a partnerek számára bebizonyítsa: szervezete komolyan veszi a felelősségteljes mesterséges intelligencia alkalmazását.

Azok a kérdések, amelyeket a HR-vezetőknek fel kell tenniük

Mit jelent mindez a gyakorlatban a HR számára? Azt jelenti, hogy a szállítói eszközök passzív felhasználójából az AI-irányítás aktív irányítójává kell válnia. Ez azzal kezdődik, hogy a megfelelő kérdéseket tesszük fel:

  • Milyen mesterséges intelligencia-rendszereket használunk valójában a HR-ben? Az ATS-től és az átvilágítási platformoktól kezdve a teljesítményelemző irányítópanelekig – van-e áttekintése arról, hogy az AI hol érintkezik a munkavállalói adatokkal és a döntésekkel?
  • Hogyan hoznak döntéseket ezek a rendszerek? Előfordulhat, hogy a szolgáltatók nem szívesen osztják meg a modell teljes részleteit, de a HR-nek ragaszkodnia kell legalább egy funkcionális magyarázathoz: milyen adatokat használnak, mely kritériumok számítanak, és hogyan kezelik az elfogultságot.
  • Milyen szerződéses kötelezettségek vonatkoznak beszállítóinkra? A megállapodások előírják-e számukra, hogy naplókat vezessenek, dokumentációt nyújtsanak be, engedélyezzék az ellenőrzéseket, és biztosítsák az emberi felügyeletet? Ezek hiányában a szabályoknak való megfelelés csupán találgatásra épül.
  • Ki viseli a kockázatot a vállalatunkon belül? Ha egy beszállító mesterséges intelligenciája diszkriminál, adatokat szivárogtat ki vagy meghibásodik, akkor ki viseli a felelősséget a HR-osztályon? A felelősség egyértelmű meghatározása elengedhetetlen ahhoz, hogy elkerülhető legyen a cselekvésképtelenség, ha valami baj történik.
  • Képzettek-e munkatársaink arra, hogy szembeszálljanak a mesterséges intelligenciával? A szakmai szkepticizmus nem opcionális. A HR-munkatársaknak és a vezetőknek tudniuk kell, hogyan kell megkérdőjelezni az eredményeket, felismerni a figyelmeztető jeleket és hatékonyan beavatkozni.
  • Van vészhelyzeti tervünk? Ha egy mesterséges intelligencia-rendszer meghibásodik – függetlenül attól, hogy saját fejlesztésű vagy beszállítótól származó –, van-e egyértelmű eljárás az ügy továbbítására, a kommunikációra és a hiba kijavítására?

Ezeknek a kérdéseknek a felvetése nem csupán a jogi és hírnévvel kapcsolatos kockázatokat csökkenti. Ugyanakkor bizalmat épít ki a munkavállalókkal szemben is — akik egyre inkább elvárják, hogy az őket értékelő mesterséges intelligencia-eszközök méltányosak, átláthatók és megfelelően szabályozottak legyenek.

Következtetés: a vakfoltoktól a tiszta látásig

A harmadik felek által okozott mesterséges intelligencia kockázata nem csupán egy szűk körű probléma. A Kiteworks adatai azt mutatják, hogy a legtöbb szervezet még mindig vakon halad. Az EU mesterséges intelligencia törvénye jogi alapot biztosít a láthatóság és a felügyelet szükségességéhez. Az ISO 42001 szabvány strukturált módszert kínál e követelmények gyakorlati megvalósításához.

A HR-vezetők számára az üzenet egyszerű: ne várják meg a határidőt a cselekvéssel! Kezdjék azzal, hogy már most felvetik a kényes kérdéseket! Növeljék az átláthatóságot, követeljék meg a beszállítóktól a felelősségre vonhatóságot, és gondoskodjanak arról, hogy csapataik ne csupán passzív felhasználók legyenek – aktív, tájékozott szkeptikusokká kell válniuk, akik képesek irányítani a mesterséges intelligenciát, ahelyett, hogy az irányítaná őket.

Mert a mesterséges intelligencia korszakában a tudatlanság nem csupán gyengeség. Hanem hátrányt jelent.

A beszállítói mesterséges intelligencia továbbra is az Ön felelőssége. Hozzon létre olyan irányítási rendszert, amely igazolja a felügyeletet.

Az ISO/IEC 42001 szabvány bevezetése →Ismerje meg a FairPath-t →