Vysoko rizikové systémy umelej inteligencie sú ústredným bodom európskeho nariadenia o umelej inteligencii ( nariadenie (EÚ) 2024/1689 ), bežne označovaného ako zákon o umelej inteligencii, ktoré zavádza rámec pre vývoj, dodávanie a používanie systémov umelej inteligencie (AI) založený na riziku. Čím vyššie je riziko pre zdravie, bezpečnosť a základné práva, tým sú povinnosti prísnejšie.
Pre organizácie sa preto dodržiavanie predpisov nezačína vypracovaním technickej dokumentácie, ale správnou klasifikáciou. Najprv sa musí zistiť, ktoré systémy umelej inteligencie sú v rámci organizácie vyvíjané, nakupované alebo používané. Potom sa musí posúdiť, či je systém zakázaný , vysoko rizikový, či podlieha povinnostiam transparentnosti alebo či nespĺňa akékoľvek špecifické povinnosti.
Tento článok stanovuje, kedy sa systém umelej inteligencie môže kvalifikovať ako vysoko rizikový, aké povinnosti sa vzťahujú na poskytovateľov a nasadzovateľov a aké kroky môžu organizácie podniknúť teraz. Zahŕňa aj aktuálny časový harmonogram vrátane zmien v rámci procesu Digital Omnibus. Referenčný dátum pre tento článok je 25. júla 2026.
Kedy je systém umelej inteligencie vysoko rizikový?
Posudzovanie vysokorizikových systémov umelej inteligencie sa vykonáva predovšetkým podľa článku 6 a príloh I a III zákona o umelej inteligencii. Existujú dva spôsoby.
Prvá cesta sa týka systémov umelej inteligencie, ktoré tvoria súčasť výrobkov, na ktoré sa vzťahujú európske právne predpisy o výrobkoch uvedené v prílohe I a ktoré vyžadujú posudzovanie zhody treťou stranou. Predstavte si určité zdravotnícke pomôcky, stroje, výťahy a hračky. V prípade týchto systémov zákon o umelej inteligencii vychádza z existujúceho postupu posudzovania zhody.
Druhá cesta sa týka systémov umelej inteligencie používaných v oblastiach uvedených v prílohe III: biometria, kritická infraštruktúra, vzdelávanie a odborná príprava, riadenie zamestnanosti a pracovnej sily, prístup k základným súkromným a verejným službám, presadzovanie práva, migrácia, azyl a kontrola hraníc a výkon spravodlivosti a demokratické procesy. Nie každé použitie v takejto oblasti automaticky vedie ku klasifikácii medzi vysoko rizikovými systémami umelej inteligencie: je potrebné posúdiť aj špecifickú funkciu systému a podmienky článku 6.
Výnimka v článku 6 ods. 3
Systém patriaci do oblasti prílohy III sa automaticky nezaraďuje medzi systémy umelej inteligencie s vysokým rizikom: táto klasifikácia je vylúčená, ak nepredstavuje žiadne významné riziko pre zdravie, bezpečnosť alebo základné práva osôb a podstatne neovplyvňuje výsledok rozhodovania. Môže to tak byť v prípade, keď systém vykonáva iba úzku procedurálnu úlohu, iba vylepšuje činnosť, ktorú už človek vykonal, iba označuje odchýlky od skoršieho ľudského rozhodovania bez toho, aby nahradil toto posúdenie, alebo vykonáva iba prípravnú úlohu.
Odvolávanie sa na túto výnimku musí byť starostlivo odôvodnené a zdokumentované. Organizácia zaznamenáva nielen záver, ale aj fakty a posúdenie, na ktorom je tento záver založený. Poskytovateľ, ktorý sa domnieva, že systém podľa prílohy III nepatrí medzi vysoko rizikové systémy umelej inteligencie, musí toto posúdenie zdokumentovať pred uvedením systému na trh alebo do prevádzky a navyše podlieha registračnej povinnosti podľa článku 49 ods. 2.
V jednom bode je nariadenie absolútne. Článok 6(3) stanovuje, že systém umelej inteligencie uvedený v prílohe III sa vždy započítava medzi systémy umelej inteligencie s vysokým rizikom, ak vykonáva profilovanie fyzických osôb. V takom prípade sa nemožno odvolávať na výnimku.
Akú úlohu má vaša organizácia?
Zákon o umelej inteligencii rozlišuje v tomto reťazci niekoľko rolí. Pre väčšinu organizácií sú dôležité dve z nich. Strana, ktorá vyvíja systém umelej inteligencie alebo ho uvádza na trh pod vlastným menom alebo ochrannou známkou, sa kvalifikuje ako poskytovateľ. Strana, ktorá používa systém umelej inteligencie v rámci vlastnej podnikateľskej činnosti bez toho, aby ho vyvinula, sa vo všeobecnosti kvalifikuje ako nasadzovateľ.
Toto rozdelenie úloh nie je statické. Organizácia, ktorá podstatne upraví zakúpený systém, dodáva ho ďalej pod svojím vlastným menom alebo ochrannou známkou alebo zmení jeho zamýšľaný účel, môže byť stále považovaná za poskytovateľa, a preto sa na ňu vzťahujú prísnejšie povinnosti. Pre každý systém stanovte, ktorú úlohu plníte, a toto hodnotenie zaznamenajte.
Hlavné povinnosti
Poskytovatelia vysokorizikových systémov umelej inteligencie podliehajú povinnostiam vrátane tých, ktoré sú uvedené v článkoch 8 až 17, 43 a 47 až 49:
- systém riadenia rizík pokrývajúci celý životný cyklus
- správa údajov vrátane odhaľovania a opravy skreslení v použitých údajoch, a to aj v súvislosti s tréningom, validáciou a testovaním údajov
- technická dokumentácia v súlade s prílohou IV a protokolovanie udalostí
- jasné pokyny na použitie pre nasadzovateľov
- dizajn umožňujúci efektívny ľudský dohľad
- požiadavky na presnosť, robustnosť a kybernetickú bezpečnosť
- systém riadenia kvality, posudzovanie zhody, vyhlásenie EÚ o zhode, označenie CE a registrácia v databáze EÚ
V prípade vysokorizikových systémov umelej inteligencie používaných na diaľkovú biometrickú identifikáciu, ako je uvedené v prílohe III bode 1 písm. a), článok 14 ods. 5 ukladá dodatočnú požiadavku na ľudský dohľad: na základe identifikácie nemožno prijať žiadne opatrenie ani rozhodnutie, pokiaľ ju samostatne neoverili a nepotvrdili aspoň dve fyzické osoby s potrebnou kompetenciou, odbornou prípravou a právomocou. Toto je známe ako zásada štyroch očí.
Nasadzovatelia podliehajú ľahším, ale nemenej dôležitým povinnostiam podľa článkov 26 a 27: používanie v súlade s návodom na použitie, kompetentný ľudský dohľad, monitorovanie prevádzky systému, hlásenie rizík a závažných incidentov a uchovávanie protokolov najmenej šesť mesiacov. Zamestnanci, ktorí budú so systémom pracovať, a osoby, na ktoré sa vzťahuje, musia byť vopred informovaní.
Niektorí prevádzkovatelia musia tiež vykonať posúdenie vplyvu na základné práva, posúdenie vplyvu na základné práva podľa článku 27. Toto sa v každom prípade vzťahuje na subjekty spravované verejným právom, na súkromných poskytovateľov verejných služieb a na prevádzkovateľov, ktorí používajú systémy na bodovanie úverov alebo na posudzovanie poistných rizík v životnom a zdravotnom poistení.
Časová os a aktuálny stav
Zákon o umelej inteligencii nadobudol účinnosť 1. augusta 2024 a uplatňuje sa postupne. V praxi je dôležité rozlišovať medzi povinnosťami, ktoré už platia, povinnosťami s budúcim dátumom uplatňovania a oznámenými zmenami, ktorých formálne nadobudnutie účinnosti ešte nebolo dokončené.
Zakázané praktiky (článok 5): Platné od 2. februára 2025
Gramotnosť v oblasti umelej inteligencie (článok 4): Platí od 2. februára 2025
Modely umelej inteligencie na všeobecné použitie: Platné od 2. augusta 2025
Povinnosti týkajúce sa transparentnosti (článok 50): Platné od 2. augusta 2026; neodložené
Vysokorizikové prostredníctvom prílohy III: Formálne stále 2. augusta 2026; po nadobudnutí účinnosti Omnibusu najneskôr 2. decembra 2027
Vysokorizikové prostredníctvom prílohy I: Formálne stále 2. augusta 2027; po nadobudnutí účinnosti Omnibusu najneskôr 2. augusta 2028
Európska komisia 19. novembra 2025 zverejnila balík digitálneho súhrnného predpisu, v ktorom navrhla odložiť uplatňovanie povinností pre vysoko rizikové systémy umelej inteligencie. Predbežná politická dohoda bola dosiahnutá 7. mája 2026. Európsky parlament udelil svoju podporu 16. júna 2026 a Rada udelila konečný súhlas 29. júna 2026.
K dátumu vydania tohto článku však uverejnenie v Úradnom vestníku Európskej únie ešte nebolo dokončené. Zmena nadobúda účinnosť tretím dňom po jej uverejnení. Dovtedy zostáva platným právom pôvodný harmonogram zákona o umelej inteligencii s 2. augustom 2026 ako dátumom uplatnenia povinností s vysokým rizikom podľa prílohy III. Zverejnenie pred týmto dátumom sa všeobecne očakáva, ale zatiaľ nie je potvrdené.
Odklad je navyše štruktúrovaný podmienečne. Uplatňovanie povinností pre vysoko rizikové systémy umelej inteligencie je viazané na rozhodnutie Komisie, ktorým sa stanoví, že sú k dispozícii potrebné harmonizované normy a podporné nástroje, po ktorom nasleduje prechodné obdobie. Dátumy 2. decembra 2027 a 2. augusta 2028 fungujú skôr ako dátumy zaistenia než ako jednoduché odloženie.
Samostatnú pozornosť si zaslúžia dva body. Po prvé, povinnosti týkajúce sa transparentnosti podľa článku 50 a povinnosť týkajúca sa gramotnosti v oblasti umelej inteligencie podľa článku 4 neboli odložené: zostávajú v pôvodnom časovom rámci. Po druhé, balík pridáva do článku 5 nový zákaz zameraný na aplikácie umelej inteligencie generujúce intímne snímky bez súhlasu a na materiál zobrazujúci sexuálne zneužívanie detí vytvorený umelou inteligenciou.
Pre organizácie to znamená, že plánovanie od decembra 2027 je rozumné, ale vedenie záznamov by sa malo zatiaľ udržiavať tak, akoby bol stále záväzný august 2026, kým Úradný vestník nestanoví inak.
Dohľad a sankcie
V Holandsku k dátumu vydania tohto článku stále chýbajú vykonávacie predpisy k zákonu o umelej inteligencii. Očakáva sa, že holandský Úrad pre digitálnu infraštruktúru a holandský Úrad pre ochranu údajov prevezmú ústrednú koordinačnú úlohu, pričom sektorové dozorné orgány zostanú zodpovedné v rámci svojich vlastných oblastí. Presné rozdelenie právomocí a jeho zákonný základ sa však musia určiť na základe konečného zloženia holandských vykonávacích predpisov.
Článok 99 zákona o umelej inteligencii stanovuje niekoľko maximálnych kategórií trestov. Výška závisí od povahy porušenia a prípadne od celosvetového ročného obratu podniku. Najvyššia maximálna sadzba sa vzťahuje na porušenie zakázaných praktík uvedených v článku 5; nižšia maximálna sadzba sa vzťahuje na porušenie ostatných povinností vrátane povinností poskytovateľov a nasadzovateľov vysokorizikových systémov umelej inteligencie; a najnižšia sa vzťahuje na poskytovanie nesprávnych, neúplných alebo zavádzajúcich informácií orgánom. Priaznivejší režim sa vzťahuje na malé a stredné podniky (MSP) vrátane začínajúcich podnikov. Skutočná výška trestu sa určuje s ohľadom na platné pravidlá o trestoch a okolnosti prípadu.
Praktický plán
- Zoznam všetkých systémov umelej inteligencie, ktoré vaša organizácia vyvíja, nakupuje alebo používa.
- Pre každý systém stanovte, ktorú úlohu plníte: poskytovateľ alebo nasadzovateľ.
- Určte kategóriu rizika pre každý systém a zdokumentujte toto posúdenie vrátane akéhokoľvek uplatnenia výnimky v článku 6(3).
- Zaviesť riadenie umelej inteligencie a vymenovať zodpovedného úradníka.
- Zabezpečiť gramotnosť v oblasti umelej inteligencie medzi zamestnancami pracujúcimi s týmito systémami; táto povinnosť už platí.
- Pripraviť opatrenia na zabezpečenie transparentnosti podľa článku 50 s výhľadom do 2. augusta 2026.
- Včas začať s technickou dokumentáciou a v prípade potreby aj s posúdením vplyvu na základné práva.
- Preskúmajte zmluvy s dodávateľmi týkajúce sa rozdelenia úloh, poskytovania informácií a práv na audit.
- Sledujte zverejnenie súhrnného balíka v Úradnom vestníku a podľa toho upravte svoje plánovanie.
Záver
Zákon o umelej inteligencii zásadne ovplyvňuje spôsob, akým organizácie vyvíjajú, nakupujú a používajú umelú inteligenciu. Oznámené odloženie povinností súvisiacich s vysokým rizikom poskytuje dodatočný čas, ale zatiaľ nie je uplatniteľným právnym predpisom a povinnosti, ktoré už platia alebo nadobúdajú účinnosť 2. augusta 2026, ním nie sú dotknuté. Obozretným prístupom je preto plánovať s ohľadom na nové dátumy a zároveň zostať pripravený na tie staré. Širší prehľad o nariadení nájdete v našom Kompletnom sprievodcovi zákonom EÚ o umelej inteligencii , ktorý dopĺňa zameranie tohto článku na systémy umelej inteligencie s vysokým rizikom.
Law & More pomáha organizáciám inventarizovať a klasifikovať ich systémy umelej inteligencie, určiť ich úlohu ako poskytovateľa alebo nasadzovateľa, skontrolovať a navrhnúť zmluvy s dodávateľmi umelej inteligencie a nastaviť riadenie umelej inteligencie. Chceli by ste vedieť, aké povinnosti sa v súčasnosti vzťahujú na vašu organizáciu a ktoré kroky by mali byť prioritné? Neváhajte nás kontaktovať a dohodneme si nezáväznú diskusiu.
Často kladené otázky
Nižšie odpovedáme na otázky, ktoré nám na túto tému kladú najčastejšie.
Čo je zákon o umelej inteligencii?
Európske nariadenie o umelej inteligencii (nariadenie (EÚ) 2024/1689). Nadobudlo účinnosť 1. augusta 2024 a uplatňuje sa postupne, pričom povinnosti sa sprísňujú s rastúcim rizikom, ktoré predstavuje systém umelej inteligencie.
Kedy je systém umelej inteligencie vysoko rizikový?
Dvoma spôsobmi: ako súčasť výrobku, na ktorý sa vzťahujú právne predpisy o výrobkoch uvedené v prílohe I, alebo prostredníctvom použitia v jednej z oblastí uvedených v prílohe III. V druhom prípade nie je rozhodujúca samotná oblasť; zohľadňuje sa aj špecifická funkcia a podmienky článku 6.
Môže systém podľa prílohy III napriek tomu nepatriť do kategórie vysokého rizika?
Áno, ak to nepredstavuje žiadne významné riziko a podstatne neovplyvňuje rozhodovanie, napríklad ak vykonáva úzku procedurálnu alebo čisto prípravnú úlohu. Toto posúdenie musí byť zdokumentované. Ak systém vykonáva profilovanie fyzických osôb, výnimka sa nikdy neuplatňuje.
Som poskytovateľ alebo implementátor?
Poskytovateľom ste, ak systém vyvíjate alebo ho uvádzate na trh pod vlastným menom alebo ochrannou známkou, a vo všeobecnosti ste nasadzovateľom, ak používate zakúpený systém. Ak zakúpený systém podstatne upravíte alebo ho ďalej dodávate pod vlastným menom, stále sa môžete stať poskytovateľom.
Aké povinnosti sa vzťahujú na poskytovateľov?
Okrem iného riadenie rizík, správa údajov, technická dokumentácia, protokolovanie, návod na použitie, ľudský dohľad, požiadavky na presnosť a kybernetickú bezpečnosť, systém riadenia kvality, posudzovanie zhody, označenie CE a registrácia v databáze EÚ.
Aké povinnosti sa vzťahujú na nasadzovateľov?
Používanie v súlade s pokynmi, kompetentný ľudský dohľad, monitorovanie, hlásenie rizík a závažných incidentov a uchovávanie záznamov po dobu najmenej šiestich mesiacov. Zainteresovaní zamestnanci a osoby, na ktoré sa systém vzťahuje, musia byť vopred informovaní.
Kedy sa musí vykonať posúdenie vplyvu na základné práva?
Článok 27 to vyžaduje okrem iného od subjektov spravovaných verejným právom, súkromných poskytovateľov verejných služieb a prevádzkovateľov využívajúcich systémy na bodovanie úverov alebo na posudzovanie poistných rizík v životnom a zdravotnom poistení.
Boli odložené záväzky s vysokým rizikom?
Prijatá zmena odkladá uplatňovanie najneskôr do 2. decembra 2027 pre prílohu III a do 2. augusta 2028 pre prílohu I. K referenčnému dátumu tohto článku táto zmena ešte nebola uverejnená v úradnom vestníku, takže pôvodný dátum 2. augusta 2026 formálne stále platí.
Čo už dnes platí?
Zakázané praktiky podľa článku 5 a povinnosť gramotnosti v oblasti umelej inteligencie od 2. februára 2025 a pravidlá pre modely umelej inteligencie na všeobecné použitie od 2. augusta 2025. Povinnosti týkajúce sa transparentnosti podľa článku 50 nadobúdajú účinnosť 2. augusta 2026 a neboli odložené.
Kto dohliada na zákon o umelej inteligencii v Holandsku?
Stále chýbajú implementačné právne predpisy. Očakáva sa, že holandský Úrad pre digitálnu infraštruktúru a holandský Úrad pre ochranu údajov prevezmú ústrednú koordinačnú úlohu spolu s sektorovými dozornými orgánmi. Konečné rozdelenie právomocí bude vyplývať z holandských implementačných právnych predpisov.
Čo by mala moja organizácia teraz urobiť?
Začnite s inventárom všetkých systémov umelej inteligencie, ktoré vyvíjate, kupujete alebo používate. Pre každý systém zaznamenajte, akú rolu máte, ktorá kategória rizika sa na vás vzťahuje a aké povinnosti z nej vyplývajú. Taktiež si nastavte riadenie umelej inteligencie, zabezpečte gramotnosť v oblasti umelej inteligencie a prehodnoťte zmluvy s dodávateľmi týkajúce sa rozdelenia rolí, poskytovania informácií a práv na audit.
