Megjelent az első harmonizált európai mesterséges intelligencia szabvány. Az EN 18286:2026 fontos lépést jelent az EU mesterséges intelligencia törvényének gyakorlati követelményekké történő átültetésében. De vajon ez azt jelenti-e, hogy azoknak a szervezeteknek, amelyek már bevezették az ISO 42001 szabványt, elölről kell kezdeniük? Egyáltalán nem. Sokkal érdekesebb kérdés, hogy mit kívánnak elérni ezek a szabványok – és hogy képesek-e lépést tartani a mesterséges intelligencia rendszereinek fejlődésével.
Az AI-törvény meghatározza, mit kell elérnünk. A szabványok pedig segítenek megmagyarázni, hogyan.
2026. október 14-én az EN 18286:2026 szabvány lett az első harmonizált európai mesterséges intelligencia-szabvány, amelyet az Európai Unió Hivatalos Lapjában hivatkoztak.
Az EU mesterséges intelligencia törvénye meghatározza a magas kockázatú mesterséges intelligencia-rendszerekre vonatkozó követelményeket, amelyek kiterjednek a kockázatkezelésre, az adatkezelésre, a műszaki dokumentációra, az átláthatóságra, az emberi felügyeletre, a pontosságra, a robusztusságra és a kiberbiztonságra. Ezeknek a követelményeknek a mérnöki döntésekbe és működési ellenőrzési intézkedésekbe való átültetése azonban nem egyszerű feladat.
Mit jelent a megfelelő adatminőség? Hogyan kell meghatározni az elfogadható torzítási szinteket? Milyen bizonyítékok támasztják alá, hogy a kockázatokat kellő mértékben csökkentették?
Itt jönnek képbe az egységesített európai szabványok. Ezeket a CEN-CENELEC dolgozta ki az Európai Bizottság szabványosítási felkérése nyomán, és technikai, valamint szervezeti előírásokat tartalmaznak a mesterséges intelligencia törvény végrehajtásának támogatására.
Jelentőségük túlmutat a gyakorlati útmutatáson. Miután a Hivatalos Lapban közzétették, a harmonizált szabvány vonatkozó rendelkezéseinek betartása biztosíthatja a megfelelés vélelme az általa szabályozott jogi követelményeknek. Ez nem jelenti az AI-törvény teljes szövegének automatikus betartását, de jogilag elismert módszert biztosít az egyes kötelezettségeknek való megfelelés igazolására.
Az EN 18286 az első, az AI-törvény hatálya alá tartozó szabvány, amely elérte ezt a mérföldkövet. Megjelenése egyúttal rávilágít a szervezeti AI-irányítás és a szabályozási megfelelés közötti fontos különbségre is.
Egy másfajta szemlélet a minőségről
Az EN 18286 szabvány az AI-törvény 17. cikkét szabályozza, amely előírja, hogy a magas kockázatú mesterséges intelligencia-rendszerek szolgáltatóinak minőségirányítási rendszert (QMS) kell létrehozniuk és fenntartaniuk.
Első pillantásra ez úgy tűnhet, mintha csak egy újabb ISO-szabványról lenne szó. A mögöttes cél azonban más.
Az ISO 9001 általános keretrendszert biztosít a minőségirányításhoz, beleértve a következetes teljesítést, az ügyféligényeket és a szervezeti fejlesztést. Az ISO/IEC 42001 egy mesterséges intelligencia (AI) irányítási rendszert hoz létre, amely támogatja a felelősségteljes AI-fejlesztést és -használatot a szervezet egészében. Az orvostechnikai eszközökre kidolgozott ISO 13485 szabvány szorosabb párhuzamot mutat az EN 18286 szabvánnyal, mivel hangsúlyt fektet a szabályozott termékekre, a tervezési ellenőrzésekre, a validálásra és az életciklusra vonatkozó bizonyítékokra.
Az EN 18286 szabvány ezt a termékorientált szabályozási szemléletmódot alkalmazza a mesterséges intelligencia rendszerekre. Ebben az összefüggésben a minőség alapvetően összefügg a szabályozási előírásoknak való megfeleléssel, ideértve az egészség, a biztonság és az alapvető jogok védelmét is.
A központi kérdés már nem csupán az, hogy egy szervezet rendelkezik-e hatékony mesterséges intelligencia-irányítási rendszerrel. Hanem az is, hogy a szolgáltató képes-e bizonyítani, hogy egy adott mesterséges intelligencia-rendszer a tervezett felhasználási környezetben megfelel-e az alkalmazandó szabályozási követelményeknek.
Ez megváltoztatja a tanúsítás tárgyát. A szervezeti irányelvek és folyamatok továbbra is fontosak maradnak, de a megfelelés bizonyítékainak visszavezethetőnek kell lenniük az egyes mesterséges intelligencia-rendszerekre, azok követelményeire, tesztelésére, dokumentációjára és nyomon követésére.
Az üzleti kockázat és a kár bekövetkezésének kockázata nem ugyanaz a dolog
Talán a legérdekesebb különbség a kockázat fogalmában rejlik.
A hagyományos vállalati kockázatkezelés – amely gyakran az ISO 31000 szabványon alapul – a kockázatot a bizonytalanságnak a célokra gyakorolt hatásaként határozza meg. A szervezetek meghatározzák céljaikat, felmérik a lehetséges kockázatokat, és eldöntik, mekkora kockázatot hajlandók vállalni.
A mesterséges intelligencia törvény (AI Act) más szemszögből közelíti meg a kockázat kérdését. A magas kockázatú mesterséges intelligencia-rendszerek esetében a hangsúly a potenciális károkon van, figyelembe véve azok valószínűségét és súlyosságát. Lényeges, hogy ez magában foglalja az egészségre, a biztonságra és az alapvető jogokra jelentett kockázatokat is.
A kérdés nem csupán az, hogy egy vállalat mennyire hajlandó kockázatot vállalni üzleti céljainak elérése érdekében. Hanem az is, hogy mesterséges intelligencia-rendszerei milyen kockázatokat jelenthetnek másokra nézve, és hogy ezek a kockázatok elfogadhatók-e az alkalmazandó jogi előírások szerint.
Vegyünk példának egy mesterséges intelligencián alapuló toborzási rendszert. Ez jelentősen csökkentheti a toborzási költségeket, felgyorsíthatja a jelöltek szűrését és javíthatja a folyamat következetességét. Üzleti szempontból ez kiemelkedő sikernek bizonyulhat. Ugyanakkor ez a rendszer bizonyos jelöltcsoportokat szisztematikusan hátrányos helyzetbe hozhat.
Az üzleti siker nem teszi elfogadhatóvá a jogilag elfogadhatatlan kockázatot. Egy vállalat kockázatvállalási hajlandósága nem írhatja felül az egyenlő bánásmódra vonatkozó követelményeket vagy más alapvető jogokat.
Ez nem jelenti azt, hogy az ISO 42001 figyelmen kívül hagyná ezeket a kérdéseket. A szabvány kifejezetten foglalkozik a mesterséges intelligencia-rendszerek egyénekre, csoportokra és a társadalomra gyakorolt következményeivel, többek között a mesterséges intelligencia-rendszerek hatásvizsgálatain keresztül.
A különbség ennél árnyaltabb. Az ISO 42001 szabvány a mesterséges intelligenciával kapcsolatos kockázatokat és lehetőségeket egy tágabb szervezeti irányítási keretben közelíti meg. A mesterséges intelligenciáról szóló törvény olyan szabályozási szemléletet alakít ki, amelyben a kockázatok elfogadhatósága a rendszer rendeltetésétől, a lehetséges károktól és az alkalmazandó jogi követelményektől függ.
Ezek a nézőpontok átfedik egymást, de nem felcserélhetők.
Az alapjogok új irányt adnak a kockázatkezelésről szóló vitának
Az európai termékbiztonsági előírások már régóta előírják a gyártóknak, hogy azonosítsák a veszélyeket, becsüljék meg a kár bekövetkezésének valószínűségét és súlyosságát, védőintézkedéseket vezessenek be, valamint értékeljék a fennmaradó kockázatokat.
Az AI-törvény egy új dimenziót vezet be: az alapjogokat. Ez pedig olyan kihívásokat teremt, amelyek kezelésére a hagyományos termékbiztonsági módszerek eredetileg nem voltak kialakítva.
Hogyan értékeljük a mesterséges intelligencia által működtetett toborzási rendszerben előforduló diszkrimináció súlyosságát? Meghatározhatunk-e egy elfogadható küszöbértéket arra az esetre, amikor a rendszer bizonyos demográfiai csoportokból származó, megfelelően képzett jelölteket szisztematikusan kizár? Hogyan értékeljük annak kockázatát, hogy egy mesterséges intelligencián alapuló teljesítménymenedzsment-rendszer igazságtalanul befolyásolja az előléptetési döntéseket?
Ezekre a kérdésekre nem mindig lehet választ adni egy hagyományos numerikus kockázati mátrix segítségével.
Fontos szempont a szóban forgó jog jellege, csakúgy, mint a jogszerűség, a jogos cél, a szükségesség és az arányosság. Bizonyos jogok esetében meghatározott jogi feltételek mellett korlátozások alkalmazhatók. Más jogokat viszont nem lehet egyszerűen a gazdasági előnyökkel szembeállítani.
Ebben az összefüggésben különösen érdekes a hamarosan megjelenő EN 18228 kockázatkezelési szabvány. Célja, hogy összekapcsolja a termékbiztonsági kockázatkezelés bevált elveit az alapjogok védelmével kapcsolatos konkrét kihívásokkal.
Bár a szabvány még kidolgozás alatt áll, az irányvonal egyértelmű: a kockázatok azonosítása önmagában nem elegendő. A szolgáltatóknak be kell bizonyítaniuk, hogy ezeket a kockázatokat hogyan kezelik a rendszertervezés, az ellenőrző mechanizmusok, a tesztelés és a folyamatos nyomon követés révén.
A kockázati nyilvántartás önmagában még nem teszi biztonságossá vagy előírásoknak megfelelővé egy mesterséges intelligencia rendszert.
A kormányzási irányelvektől a rendszerspecifikus bizonyítékokig
A kialakulóban lévő mesterséges intelligencia-szabványok egy másik fontos fogalma a rendeltetés.
Egy mesterséges intelligencia-rendszert nem lehet érdemben értékelni anélkül, hogy figyelembe vennénk, mire tervezték, ki használja és milyen körülmények között.
Vegyünk két olyan HR-alkalmazást, amelyek hasonló mesterséges intelligencia-technológiát alkalmaznak. Az egyik segít a toborzóknak az önéletrajzokban szereplő releváns készségek azonosításában, és jelölteket javasol további emberi értékelésre. A másik automatikusan rangsorolja a jelentkezőket, és eldönti, kik jutnak tovább a következő szakaszba.
Még ha hasonló modelleket is alkalmaznak, azok rendeltetése, a döntéshozatalban betöltött szerepük, valamint a jelöltekre gyakorolt lehetséges következményeik jelentősen eltérhetnek egymástól. A megfelelő biztosítékoknak, az emberi felügyeleti mechanizmusoknak és az érvényesítési követelményeknek tükrözniük kell ezeket a különbségeket.
A szabályozási követelmények mérhető elfogadási kritériumokká alakításához tehát három, egymással összefüggő szempontot kell figyelembe venni:
- Rendelkezési cél: Mit csinál a rendszer, kinek és milyen működési környezetben?
- Általánosan elismert technikai színvonal: Mely technikai módszerek, biztonsági intézkedések és teljesítményszintek tükrözik a bevált gyakorlatot?
- Kockázatkezelés: Milyen konkrét veszélyek merülnek fel ebben az összefüggésben, és milyen intézkedésekre van szükség ezek kezeléséhez?
Az EN 18286 szabvány biztosítja azt a minőségirányítási keretrendszert, amelyen belül ezek a követelmények, ellenőrzések és igazolások kezelhetők.
Minden érintett mesterséges intelligencia-rendszer esetében a szolgáltatóknak össze kell kapcsolniuk a vonatkozó szabályozási követelményeket a tervezési döntésekkel, az ellenőrzési és validálási tevékenységekkel, a műszaki dokumentációval, valamint a forgalomba hozatal utáni nyomon követéssel.
Jogszabályi követelmény → Rendszerkövetelmények → Ellenőrzések → Ellenőrzés és validálás → Bizonyítékok → Folyamatos nyomon követés.
Fontos kiemelni, hogy az EN 18286 szabvány nem helyettesíti az AI-törvény egyes követelményeit szabályozó műszaki szabványokat. Inkább olyan keretrendszert biztosít, amelyen keresztül ezek a követelmények és az azokat alátámasztó bizonyítékok koherensen kezelhetők.
Az ISO 42001 szabvány bevezetése pénzkidobás volt?
Egyáltalán nem.
Az ISO 42001 értékes szervezeti alapot biztosít. Meghatározza a felelősségi köröket, támogatja a mesterséges intelligencia kockázatainak és hatásainak értékelését, meghatározza az irányítási folyamatokat, foglalkozik a beszállítói kapcsolatokkal, valamint mechanizmusokat hoz létre a nyomon követés, az auditálás és a folyamatos fejlesztés érdekében.
Ezen elemek közül sok újra felhasználható az EN 18286 szabvány végrehajtása során.
Az ISO 42001 szabvány nem biztosítja automatikusan azokat a teljes, rendszerspecifikus szabályozási bizonyítékokat, amelyek szükségesek az AI-törvény minden vonatkozó követelményének való megfelelés igazolásához.
Előfordulhat, hogy egy szervezetnek kiváló mesterséges intelligencia-irányelvvel, működőképes kockázati nyilvántartással és dokumentált hatásvizsgálatokkal rendelkezik, ugyanakkor egy adott, magas kockázatú mesterséges intelligencia-rendszer esetében mégsem áll rendelkezésre kellően részletes validációs bizonyíték vagy műszaki dokumentáció.
A gyakorlati megközelítés tehát a következő: integráció, nem pedig felváltás.
Azoknak a szervezeteknek, amelyek már bevezették az ISO 42001 szabványt, az EN 18286 szabvány alapján fel kell mérniük a meglévő folyamataikat, azonosítaniuk kell a hiányzó jogszabályi vagy rendszerspecifikus követelményeket, és a meglévő keretrendszert kell kiterjeszteniük, ahelyett, hogy párhuzamos irányítási rendszert építenének ki.
Van egy általánosabb ok is arra, hogy az ISO 42001 miért marad továbbra is releváns. Nem minden szervezet mesterséges intelligencia-szolgáltató, és nem minden mesterséges intelligencia-rendszer jelent magas kockázatot. Számos vállalat elsősorban harmadik féltől származó mesterséges intelligencia-rendszereket alkalmaz, többek között a HR, a pénzügyek és az operatív döntéshozatal területén.
Ezeknek a szervezeteknek a számára a felelősségteljes mesterséges intelligencia-irányítás túlmutat a szolgáltatókra vonatkozó szabályozási követelményeken. Magában foglalja az üzleti stratégia, az értékteremtés, a munkaerőre gyakorolt hatás, a munkavállalók bizalma, az elszámoltathatóság és a felelősségteljes bevezetés kérdéseit.
A jogszabályok betartása elengedhetetlen, de nem ez jelenti a mesterséges intelligencia irányításának teljes körét.
Mi következik ezután – és képesek-e a szabványok lépést tartani az önálló cselekvésre képes mesterséges intelligenciával?
Az EN 18286 csak a kezdet. További európai mesterséges intelligencia szabványok kidolgozása folyik olyan területeken, mint a kockázatkezelés, az adatirányítás, az elfogultság, a naplózás, az átláthatóság, az emberi felügyelet, a pontosság, a robusztusság és a kiberbiztonság.
A tágabb értelemben vett program jelenleg körülbelül tizenhat kapcsolódó szabványt és szabványosítási projektet foglal magában. A fennmaradó munkák befejezésének célidőpontjaként 2027. február került meghatározásra, bár a közzététel és a Hivatalos Lapban való hivatkozás külön mérföldköveknek számítanak.
Még a vízszintes szabványok teljes körű rendszere sem ad választ minden megvalósítási kérdésre. Például egy mesterséges intelligencián alapuló toborzási rendszer esetében a megfelelő tesztelési módszerek és átvételi kritériumok a rendszer rendeltetésétől, az üzemeltetési feltételektől, a vonatkozó kockázatoktól, valamint az általánosan elismert technikai színvonaltól függenek.
Itt van az a hely, ahol kontextualizálás Itt kerül előtérbe az a feladat, hogy az általános követelményeket egy adott alkalmazásra vonatkozó, konkrét, ellenőrizhető kritériumokká alakítsuk át.
Van azonban egy másik kihívás is, amely véleményem szerint sokkal nagyobb figyelmet érdemel: maguknak a mesterséges intelligencia-rendszereknek a változó dinamikája.
A kialakulóban lévő szabványok nagyrészt egy termékorientált megfelelőségi modellre épülnek, amelyben a mesterséges intelligencia-rendszernek meghatározott rendeltetése, azonosítható határai, dokumentált ellenőrzési mechanizmusai, valamint értékelhető és nyomon követhető életciklusa van. Ez továbbra is elengedhetetlen alapot jelent, azonban az egyre autonómabbá váló mesterséges intelligencia-ügynökök egy másfajta működési valóságot teremtenek.
Képzeljünk el egy olyan mesterséges intelligenciával működő toborzó ügynököt, amely nemcsak a jelölteket szűri, hanem önállóan kapcsolódik külső adatbázisokhoz, üzeneteket küld, interjúkat szervez, frissíti a jelentkezők adatait, és együttműködik más ügynökökkel. Lehet, hogy az egyes funkcióit már értékelték, de az autonóm műveletek sorozatából, a rendelkezésére álló jogosultságokból, valamint más rendszerekkel való interakcióiból új kockázatok merülhetnek fel.
Lényeges, hogy ezek a kockázatok felmerülhetnek anélkül, hogy az alapul szolgáló modellt vagy annak jóváhagyott konfigurációját bármilyen módon módosítanák. A szabályozási megfelelés kihívása már nem korlátozódik a rendszerváltozások kezelésére. Magában foglalja azt is, hogy ellenőrizzük, mire van jogosultsága és mire képes futásidőben egy egyébként változatlan rendszer.
A meglévő és kialakulóban lévő szabványok már foglalkoznak a releváns elemekkel, ideértve az életciklus-kezelést, az emberi felügyeletet, a naplózást, a nyomon követést és a változáskezelést. Ugyanakkor továbbra is nyitott kérdés, hogy ezek a mechanizmusok megfelelően kezelik-e a dinamikus jogosultságokat, az autonóm végrehajtást, valamint az ügynökök közötti és az ügynökök és a rendszer közötti interakciókból fakadó kockázatokat.
Az emberi felügyelet önmagában nem feltétlenül bizonyul hatékonynak, ha az autonóm döntések és cselekvések olyan gyorsan zajlanak, hogy az ember reálisan nem képes azokat áttekinteni vagy beavatkozni. Az irányítási rendszernek ezért nagyobb hangsúlyt kell fektetnie az automatizált felügyeletre, a végrehajtható jogosultsági korlátokra, a futásidejű ellenőrzésekre, valamint azokra a mechanizmusokra, amelyek megakadályozzák vagy megszakítják a jogosulatlan cselekvéseket.
Ez nem jelenti azt, hogy a meglévő szabványok irrelevánssá válnának. Az sem jelenti, hogy minden cselekvőképes mesterséges intelligencia-rendszer kívül esne azok hatályán. Inkább rávilágít egy lehetséges szakadékra a – elsősorban a rendszer életciklusának biztosítására épülő – megfelelési keretrendszer és a folyamatos autonóm működés valós körülményei között.
És ez felvet egy fontos kérdést: Hogyan bizonyíthatjuk be, hogy egy mesterséges intelligencia-rendszer nem csupán az értékeléskor felelt meg a követelményeknek, hanem hogy önálló működése során is az elfogadható határok között marad?
Ez a kérdés külön megvitatást érdemel.
A mesterséges intelligencia irányításának túl kell lépnie a jogszabályi megfelelés dokumentálásán
Az EN 18286 szabvány megjelenése egyre szembetűnőbbé teszi egy fontos különbséget. A szervezeti mesterséges intelligencia-irányítás és a szabályozási megfelelés szorosan összefügg, de különböző kérdésekre adnak választ.
A mesterséges intelligencia irányítása azt vizsgálja, hogy egy szervezet felelősségteljesen és hatékonyan fejleszti-e és használja-e a mesterséges intelligenciát, összhangban céljaival és az érintett érdekelt felek érdekeivel. A jogszabályi megfelelés azt vizsgálja, hogy az egyes mesterséges intelligencia-rendszerek megfelelnek-e az alkalmazandó jogi követelményeknek, és hogy szolgáltatóik igazolni tudják-e ezt a megfelelést.
Mindkét szempont fontos. Előfordulhat, hogy egy toborzási algoritmus kiváló üzleti eredményeket hoz, miközben diszkriminatív következményekkel jár. Ugyanígy előfordulhat, hogy egy minden előírást betartó mesterséges intelligencia-rendszer nem képes érdemi üzleti értéket teremteni.
Az agentikus mesterséges intelligencia azonban egy harmadik dimenziót is felvet: az, hogy a szervezet képes-e érdemi ellenőrzést gyakorolni a egyre önállóbbá váló viselkedés felett annak kibontakozása során.
Ez a három dimenzió együttesen az AI-irányítás következő szakaszát jelzi: az üzleti célok, a szabályozási megfelelés és a működési biztosítás egyetlen keretrendszerbe történő összehangolását.
Ez azt jelenti, hogy el kell mozdulnunk az időszakos értékelésektől és a dokumentált irányelvektől egy olyan irányítási modell felé, amely képes reagálni a környezeti változásokra, a felmerülő kockázatokra és az önálló cselekvésekre. Az emberi felelősség továbbra is elengedhetetlen, de a hatékony felügyelet egyre inkább attól a technikai képességtől függ majd, hogy határokat tudjunk érvényesíteni, eltéréseket felismerni és szükség esetén beavatkozni.
A cél nem csupán annak bizonyítása, hogy egy mesterséges intelligencia-rendszer egy adott időpontban megfelelt-e a követelményeknek. Hanem annak biztosítása, hogy a mesterséges intelligencia egész életciklusa során – beleértve az önálló működés idejét is – folyamatosan értéket teremtsen, tiszteletben tartsa az alapvető jogokat, és elfogadható keretek között működjön.
Úgy vélem, éppen itt kezdődik a mesterséges intelligencia szabályozásának következő fejezete.
Egyetlen irányítási rendszer, amely mindkét szabványnak megfelel. Egyszer kell kialakítani, és az igazoló dokumentumokat meg kell őrizni.
Az ISO/IEC 42001 szabvány bevezetése →Ismerje meg a FairPath-t →