Nástroje umelej inteligencie vo vašom podnikaní: ako dodržiavať holandské a európske právne predpisy

Ak vaša firma v Holandsku používa nástroje umelej inteligencie, musíte dodržiavať zákon EÚ o umelej inteligencii (nariadenie (EÚ) 2024/1689) a vždy, keď ide o osobné údaje, aj nariadenie GDPR. Väčšina povinností závisí od vašej úlohy a rizika systému: chatbot spúšťa najmä povinnosti transparentnosti, zatiaľ čo umelá inteligencia používaná na náborové alebo úverové rozhodnutia je vysoko riziková a od 2. decembra 2027 platia prísnejšie pravidlá.

Niektoré povinnosti platia už dnes, ako napríklad zákazy určitých postupov v oblasti umelej inteligencie a povinnosť školiť zamestnancov. Tento článok vysvetľuje časový harmonogram, kategórie rizika, pravidlá GDPR a duševného vlastníctva a praktické kroky na dosiahnutie súladu so zákonom o umelej inteligencii.

Ktoré pravidlá platia pre umelú inteligenciu v Holandsku?

Zákon o umelej inteligencii je nariadenie EÚ a v Holandsku sa uplatňuje priamo bez holandských vykonávacích predpisov. Účinnosť nadobudol 1. augusta 2024 a uplatňuje sa postupne.

Vaše povinnosti závisia od vašej úlohy. Poskytovateľ vyvíja systém umelej inteligencie alebo ho uvádza na trh pod vlastným menom; nasadzovateľ používa systém umelej inteligencie vo svojom podnikaní. Väčšina holandských spoločností, ktoré nakupujú a používajú nástroje, ako sú chatboty alebo HR softvér, sú nasadzovatelia.

Zákon o umelej inteligencii funguje súbežne s GDPR, zákonom o údajoch, zákonom o kybernetickej odolnosti a holandskými právnymi predpismi, ako je holandský občiansky zákonník (BW) a zákon o zamestnaneckých radách (WOR). Používanie umelej inteligencie nemení povinnosti, ktoré už máte podľa týchto pravidiel.

Kto dohliada na umelú inteligenciu v Holandsku?

Holandsko používa distribuovaný model, v ktorom existujúci regulátori dohliadajú na umelú inteligenciu vo svojom vlastnom sektore. Holandský úrad pre ochranu údajov (Autoriteit Persoonsgegevens, AP) a holandský úrad pre digitálnu infraštruktúru (Rijksinspectie Digitale Infrastructuur, RDI) majú koordinačné úlohy.

V oblasti finančných služieb dohliadajú na správanie a spoľahlivosť Úrad pre finančné trhy (AFM) a Holandská banka (DNB) a Úrad pre spotrebiteľov a trhy (ACM) sa zaoberá ochranou spotrebiteľa. Holandský zákon, ktorý určuje orgány dohľadu a sankcie v rámci zákona o umelej inteligencii, ešte nenadobudol účinnosť 11. októbra 2026; samotný zákon o umelej inteligencii vás už zaväzuje.

Kedy sa uplatňujú povinnosti vyplývajúce zo zákona o umelej inteligencii?

Zákon o umelej inteligencii sa uplatňuje vo fázach a niekoľko termínov už uplynulo. Režim s vysokým rizikom bol odložený súhrnným nariadením o umelej inteligencii, nariadením (EÚ) 2026/1744, ktoré nadobudlo účinnosť 27. júla 2026.

Do ktorej rizikovej kategórie patrí váš systém umelej inteligencie?

Zákon o umelej inteligencii rozdeľuje umelú inteligenciu na zakázané, vysoko rizikové, systémy s obmedzeným rizikom a systémy s minimálnym rizikom. Vaša klasifikácia určuje vaše povinnosti, preto ju urobte pre každý nástroj, ktorý používate, a zaznamenajte si ju.

Ktoré praktiky umelej inteligencie sú zakázané?

Od 2. februára 2025 sú určité praktiky zakázané bez prechodného obdobia. Patria sem manipulácia prostredníctvom podprahových techník, zneužívanie zraniteľnosti spôsobenej vekom alebo zdravotným postihnutím, sociálne bodovanie a rozpoznávanie emócií na pracovisku a vo vzdelávaní, s malými výnimkami.

Holandské súdy už stanovili limity pred zákonom o umelej inteligencii. V prípade SyRI Okresný súd v Haagu 5. februára 2020 rozhodol, že legislatíva týkajúca sa vládneho systému profilovania rizík porušila právo na súkromie podľa článku 8 EDĽP (ECLI:NL:RBDHA:2020:865).

Kedy je systém umelej inteligencie vysoko rizikový?

Umelá inteligencia používaná na nábor, povyšovanie, prepúšťanie, riadenie pracovníkov, zhodnocovanie úverovej bonity, vzdelávanie alebo prístup k základným službám je vysoko riziková. Od 2. decembra 2027 si takéto systémy vyžadujú riadenie rizík, technickú dokumentáciu, protokolovanie, ľudský dohľad a v prípade poskytovateľov aj posúdenie zhody a registráciu v databáze EÚ.

Ako prevádzkovateľ musíte systém používať podľa pokynov, prideliť vyškolený personál, ktorý ho bude dohliadať, viesť záznamy a informovať dotknuté osoby. Niektorí prevádzkovatelia, ako napríklad verejné orgány, musia tiež vykonať posúdenie vplyvu na základné práva.

Čo vyžadujú systémy s obmedzeným rizikom?

Od 2. augusta 2026 musia byť ľudia informovaní o interakcii so systémom umelej inteligencie, ako je napríklad chatbot, pokiaľ to nie je zrejmé. Obrázky, zvuk a video generované alebo manipulované umelou inteligenciou (deepfakes) musia byť označené a poskytovatelia musia označiť syntetický obsah, aby ho bolo možné zistiť.

Povinnosť gramotnosti v oblasti umelej inteligencie sa vzťahuje na všetky kategórie: od 2. februára 2025 musíte zabezpečiť, aby zamestnanci pracujúci s umelou inteligenciou mali o nej dostatočné znalosti. Zaznamenajte si, aké školenie ste poskytli a komu.

Čo vyžaduje GDPR pri používaní umelej inteligencie?

Ak nástroj umelej inteligencie spracováva osobné údaje, pre každý účel potrebujete právny základ, napríklad zmluvu, právnu povinnosť alebo oprávnený záujem. Agentúra AP varovala, že údaje získané z internetu nie sú zákonným školiacim materiálom len preto, že boli verejne dostupné.

Pred použitím umelej inteligencie, ktorá pravdepodobne predstavuje vysoké riziko pre jednotlivcov, napríklad v oblasti ľudských zdrojov alebo profilovania zákazníkov, vykonajte posúdenie vplyvu na ochranu údajov (DPIA). Obmedzte údaje na to, čo potrebujete, a overte si, či dodávateľ umelej inteligencie spracováva údaje vo vašom mene. V takom prípade potrebujete zmluvu o spracovaní údajov. Pozrite si našu stránku o údajoch a ochrane osobných údajov.

Dokáže umelá inteligencia sama rozhodovať o ľuďoch?

Len v úzkych medziach. GDPR dáva jednotlivcom právo nebyť predmetom rozhodnutia založeného výlučne na automatizovanom spracovaní, ktoré má právne účinky alebo podobne významné účinky, ako napríklad zamietnutie žiadosti o zamestnanie alebo úveru.

Ak je takéto rozhodnutie povolené, ľudia musia dostať zmysluplné informácie o použitej logike a môžu požiadať o ľudský zásah, vyjadriť svoj názor a napadnúť rozhodnutie. Uistite sa, že ľudský posudzovateľ skutočne posúdi prípad a nielen potvrdí výstup.

A čo úniky údajov a bezpečnosť?

Podľa GDPR musíte nahlásiť porušenie ochrany osobných údajov úradu AP do 72 hodín od zistenia o ňom a informovať dotknuté osoby, ak je pre ne riziko vysoké. Patria sem aj porušenia prostredníctvom systémov umelej inteligencie, ako je napríklad únik údajov do verejného chatbota.

Zákon o kybernetickej odolnosti pridáva bezpečnostné požiadavky pre produkty s digitálnymi prvkami: oznamovacie povinnosti pre aktívne zneužívané zraniteľnosti platia od 11. septembra 2026 a ostatné povinnosti od 11. decembra 2027. Holandský zákon o kybernetickej bezpečnosti (Cyberbeveiligingswet), platný od 15. augusta 2026, sa vzťahuje na základné a dôležité subjekty.

Kto vlastní obsah generovaný AI?

Podľa holandského zákona o autorských právach (Auteurswet) je chránené iba dielo, ktoré odráža autorovu vlastnú duševnú tvorbu, ktorá si vyžaduje ľudské tvorivé rozhodnutia. Výstup vytvorený umelou inteligenciou bez zmysluplného ľudského zásahu v zásade nie je chránený autorským právom.

Ak výsledok formujete vlastnými kreatívnymi rozhodnutiami, napríklad výberom, úpravou a kombinovaním výstupu, ochrana je možná. Uchovávajte si záznamy o výzvach, úpravách a voľbách a v pracovných zmluvách a zmluvách na voľnej nohe sa dohodnite, kto je vlastníkom diela vytvoreného s pomocou umelej inteligencie. Pozrite si nášho sprievodcu právom duševného vlastníctva.

Dá sa umelá inteligencia trénovať na chránených dielach?

Podľa článku 15o zákona Auteurswet je povolená textová a dátová analýza diel, ku ktorým máte zákonný prístup, pokiaľ si držiteľ práv toto právo výslovne nevyhradil vhodným spôsobom, napríklad strojovo čitateľnými prostriedkami pre online diela. Článok 15n zákona Auteurswet umožňuje širšiu analýzu na vedecký výskum zo strany výskumných organizácií a inštitúcií kultúrneho dedičstva.

Databáza je chránená samostatne podľa zákona o databázach (Databankenwet), ak si jej vytvorenie vyžadovalo značnú investíciu; podľa článku 6 uvedeného zákona toto právo zaniká pätnásť rokov po 1. januári roka nasledujúceho po dokončení. Informujte sa u svojho dodávateľa umelej inteligencie, ako rieši výnimky a licencie.

Čo platí pri použití umelej inteligencie v oblasti ľudských zdrojov?

Umelá inteligencia na nábor, hodnotenie alebo riadenie pracovníkov je podľa zákona o umelej inteligencii z 2. decembra 2027 vysoko riziková a teraz podlieha GDPR. Podľa holandského zákona o rovnakom zaobchádzaní nesmie diskriminovať na základe pôvodu, pohlavia, veku alebo zdravotného postihnutia.

Systém, ktorý dokáže monitorovať dochádzku, správanie alebo výkon zamestnancov, si vyžaduje predchádzajúci súhlas zamestnaneckej rady (ondernemingsraad) podľa článku 27(1)(l) zákona o zamestnaneckých radách (WOR). Informujte zamestnancov a uchádzačov o zamestnanie o používaní umelej inteligencie pri rozhodovaní o nich. Pozrite si našu stránku o holandskom pracovnom práve.

Kto je zodpovedný, keď umelá inteligencia spôsobí škodu?

Za systémy umelej inteligencie, ktoré používate, zostávate zodpovední. Holandské právo o priestupkoch (článok 6:162 BW) a zmluvné právo sa uplatňujú ako obvykle a na chybné výrobky sa vzťahujú pravidlá zodpovednosti za výrobok podľa Knihy 6 BW.

Revidovaná smernica (EÚ) 2024/2853 o zodpovednosti za výrobok zaraďuje softvér vrátane umelej inteligencie do definície produktu; členské štáty ju musia transponovať do 9. decembra 2026. V zmluve s dodávateľom umelej inteligencie výslovne uveďte zodpovednosť za chyby, výpadky a porušenia a overte si, či vaše poistenie kryje škody súvisiace s umelou inteligenciou. Prečítajte si náš článok o zodpovednosti za chyby umelej inteligencie.

Čo by ste si mali skontrolovať ako nasadzovateľ nástrojov umelej inteligencie?

• Vytvorte zoznam všetkých používaných nástrojov umelej inteligencie a každý z nich klasifikujte podľa kategórie rizika podľa zákona o umelej inteligencii.
• Skontrolujte, či sa nepoužívajú žiadne zakázané praktiky, ako napríklad rozpoznávanie emócií v práci.
• Zaznamenajte školenia v oblasti umelej inteligencie, ktoré zamestnanci absolvovali od 2. februára 2025.
• Oznámte používateľom, kedy sa rozprávajú s chatbotom a označte deepfakes.
• Vykonajte posúdenie vplyvu na ochranu údajov a v prípade potreby uzavrite zmluvu o spracovaní údajov.
• Pred zavedením umelej inteligencie, ktorá monitoruje zamestnancov, získajte súhlas zamestnaneckej rady.

Čo by ste si mali overiť ako poskytovateľ systémov umelej inteligencie?

• Zistite, či je váš systém vysoko rizikový a pripravte sa na termín 2. decembra 2027 alebo 2. augusta 2028.
• Zahrňte do návrhu technickú dokumentáciu, protokolovanie a ľudský dohľad.
• Označte obsah generovaný umelou inteligenciou, aby ho bolo možné rozpoznať.
• Rešpektujte odhlásenia z dolovania textu a dát podľa článku 15o Auteurswet.
• Poskytnite nasadzovateľom jasné pokyny na použitie a obmedzte svoju zodpovednosť v zmluve.

Čo pre vás môžeme urobiť v oblasti dodržiavania predpisov pre umelú inteligenciu?

Naši IT právnici radia firmám v oblasti používania a vývoja umelej inteligencie podľa holandského a európskeho práva.

• Klasifikujeme vaše nástroje umelej inteligencie podľa zákona o umelej inteligencii a stanovujeme vaše povinnosti pre každý nástroj.
• Vypracujeme internú politiku v oblasti umelej inteligencie a záznamy o školeniach v oblasti umelej inteligencie.
• Vykonávame alebo kontrolujeme DPIA a zmluvy o spracovaní údajov.
• Preverujeme a vyjednávame zmluvy s dodávateľmi umelej inteligencie vrátane doložiek o zodpovednosti a duševnom vlastníctve.
• Poskytujeme poradenstvo v oblasti súhlasu zamestnaneckej rady s umelou inteligenciou v oblasti ľudských zdrojov.

zhrnutie

• Zákon o umelej inteligencii sa uplatňuje priamo; zákazy a gramotnosť v oblasti umelej inteligencie platia od 2. februára 2025.
• Povinnosti transparentnosti pre chatboty a deepfakey platia od 2. augusta 2026.
• Pravidlá pre vysoko rizikové produkty platia od 2. decembra 2027 (napr. ľudské zdroje, úvery) a 2. augusta 2028 (regulované produkty).
• GDPR sa uplatňuje v plnom rozsahu: právny základ, DPIA, obmedzenia automatizovaných rozhodnutí, oznámenie o porušení do 72 hodín.
• Výstup generovaný výlučne umelou inteligenciou v zásade nie je chránený autorským právom; dohodnite si duševné vlastníctvo a zodpovednosť vo svojich zmluvách.

Často kladené otázky