Európsky zákon o umelej inteligencii zaviedol 2. februára 2025 zásadné zmeny, ktoré v celej EÚ zakazujú určité praktiky umelej inteligencie . Holandské podniky musia teraz dodržiavať prísne pravidlá týkajúce sa toho, ktoré systémy umelej inteligencie môžu používať.
Spoločnosti, ktoré neodstránia zakázané nástroje umelej inteligencie, čelia vysokým pokutám a potenciálnym právnym krokom zo strany každého, kto utrpí ujmu.
Od februára 2025 sú v Holandsku zakázané systémy umelej inteligencie, ktoré manipulujú s ľuďmi, používajú sociálne bodovanie, kategorizujú jednotlivcov na základe biometrických údajov alebo využívajú rozpoznávanie tváre v reálnom čase vo verejných priestoroch. Tieto zákazy sa vzťahujú aj na technológiu rozpoznávania emócií na pracoviskách a v školách, ako aj na necielené zhromažďovanie obrázkov tváre z internetu na vytváranie databáz rozpoznávania.
Pravidlá platia okamžite a firmám neposkytujú žiadnu lehotu na postupné vyradenie týchto systémov. Pochopenie toho, ktoré postupy umelej inteligencie sú zakázané a aké kroky musí vaša organizácia podniknúť, je nevyhnutné, aby sa predišlo sankciám.
Táto príručka vysvetľuje konkrétne zákazy, načrtáva vaše povinnosti v oblasti dodržiavania predpisov ako holandskej firmy a zahŕňa požiadavky na školenie potrebné na to, aby vaše operácie boli legálne aj podľa nového zákona.
Prehľad zákazov z februára 2025
Nariadenie (EÚ) 2024/1689, známe ako zákon EÚ o umelej inteligencii , zaviedlo špecifické zákazy určitých postupov umelej inteligencie, ktoré nadobudli účinnosť 2. februára 2025. Tieto pravidlá sa vzťahujú na vašu holandskú firmu, ak vyvíjate, nasadzujete alebo používate systémy umelej inteligencie v Holandsku alebo širšej Európskej únii.
Rozsah zakázaných praktík umelej inteligencie
Zákon o umelej inteligencii zakazuje špecifické praktiky umelej inteligencie, ktoré predstavujú neprijateľné riziká pre základné práva a európske hodnoty. Článok 5 nariadenia (EÚ) 2024/1689 identifikuje tieto zakázané praktiky na základe ich potenciálnej škodlivosti, a nie samotnej technológie.
Medzi hlavné zakázané kategórie patria:
- Manipulatívne systémy umelej inteligencie ktoré zneužívajú zraniteľnosť konkrétnych skupín
- Systémy sociálneho bodovania verejnými orgánmi
- Vzdialková biometrická identifikácia v reálnom čase vo verejne prístupných priestoroch pre zákon presadzovanie práva (s obmedzenými výnimkami)
- Biometrické kategorizačné systémy ktoré odvodzujú citlivé atribúty
- Necielené zoškrabovanie obrázkov tváre z internetu alebo záznamov z bezpečnostných kamier
Vaše podnikanie spadá pod tieto zákazy bez ohľadu na to, či pôsobíte ako poskytovateľ, nasadzovateľ alebo distribútor umelej inteligencie v Holandsku. Holandský úrad pre ochranu údajov spolupracuje s ďalšími orgánmi Európskej únie na zabezpečení dodržiavania predpisov.
Nedodržanie predpisov sa môže udeliť pokuta až do výšky 7 % vášho celosvetového ročného obratu.
Dátumy účinnosti a prechodné obdobia
Zákazy podľa článku 5 nadobudli účinnosť 2. februára 2025. To znamená, že vaša spoločnosť musí okamžite dodržiavať tieto pravidlá, ak používa alebo vyvíja relevantné systémy umelej inteligencie.
Rámec presadzovania sa riadi postupným časovým harmonogramom. Úplné sankcie, štruktúry riadenia a ustanovenia o dôvernosti nadobúdajú účinnosť od 2. augusta 2025.
Vďaka tomu má vaša organizácia šesťmesačné obdobie, počas ktorého sa pravidlá uplatňujú, ale kompletné mechanizmy presadzovania sa stále zavádzajú. Európska komisia zverejnila 4. februára 2025 oficiálne usmernenia s cieľom objasniť, ako tieto zákazy fungujú v praxi.
Orgány dohľadu nad trhom vrátane holandského úradu na ochranu údajov získali od februára zodpovednosť za monitorovanie a presadzovanie týchto pravidiel.
Kľúčové definície: Systémy a postupy umelej inteligencie
Podľa zákona o umelej inteligencii (AI Act) systém umelej inteligencie znamená softvér, ktorý využíva strojové učenie, logické prístupy alebo štatistické metódy na generovanie výstupov, ako sú predpovede, odporúčania alebo rozhodnutia. Táto definícia je zámerne široká, aby zahŕňala súčasné aj vznikajúce technológie.
Zakázaná praktika umelej inteligencie sa vzťahuje na konkrétne spôsoby nasadenia alebo používania umelej inteligencie, ktoré Európska únia považuje za neprijateľné. Zákaz sa vzťahuje na samotnú praktiku, nie na základnú technológiu.
To znamená, že ten istý systém umelej inteligencie môžete používať na povolené účely, pričom vám bude zakázané používať určité aplikácie. Vaša firma musí rozlišovať medzi systémom umelej inteligencie (technológiou) a jeho praxou (spôsobom, akým ho používate).
Systém umelej inteligencie na rozpoznávanie tváre môže byť zákonný na účely kontroly prístupu do budov, ale zakázaný na účely sledovania verejných priestorov v reálnom čase. Zákonnosť podľa nariadenia (EÚ) 2024/1689 určuje kontext a aplikácia.
Podrobný zoznam zakázaných praktík umelej inteligencie
Zákon EÚ o umelej inteligencii zakazuje špecifické aplikácie umelej inteligencie, ktoré predstavujú neprijateľné riziká pre základné práva a bezpečnosť. Tieto zakázané praktiky spadajú do troch hlavných kategórií: systémy, ktoré manipulujú s ľudským správaním, systémy, ktoré zneužívajú zraniteľné skupiny , a mechanizmy, ktoré umožňujú hromadné sledovanie prostredníctvom sociálneho bodovania.
Manipulatívne a klamlivé systémy
Zákon o umelej inteligencii zakazuje akýkoľvek systém umelej inteligencie, ktorý využíva podprahové techniky na podstatné skreslenie ľudského správania spôsobmi, ktoré spôsobujú škodu. Ide o metódy, ktoré fungujú mimo vášho vedomia a ovplyvňujú vaše rozhodnutia alebo činy.
Medzi zakázané manipulatívne praktiky patria:
- Systémy umelej inteligencie, ktoré nasadzujú podprahové komponenty, ktoré nedokážete odhaliť
- Systémy určené na zneužívanie zraniteľností detí súvisiacich s vekom
- Technológie, ktoré manipulujú so správaním s cieľom spôsobiť fyzickú alebo psychickú ujmu
Umelú inteligenciu nemôžete použiť na úmyselné klamanie ľudí spôsobmi, ktoré vedú k značnej ujme . To znamená, že vaša firma nemôže nasadiť chatbotov ani virtuálnych asistentov, ktorí zavádzajú používateľov o ich povahe umelej inteligencie, ak by toto klamstvo mohlo viesť k škode.
Zákaz sa vzťahuje aj na systémy umelej inteligencie, ktoré používajú temné vzorce alebo psychologickú manipuláciu na to, aby nútili používateľov k škodlivým rozhodnutiam. Zákon chráni jednotlivcov pred praktikami umelej inteligencie, ktoré obchádzajú racionálne rozhodovanie.
Ak váš systém umelej inteligencie ovplyvňuje správanie prostredníctvom skrytej manipulácie namiesto transparentných informácií, porušuje zákon.
Vykorisťovanie zraniteľných osôb
Systémy umelej inteligencie, ktoré zneužívajú zraniteľnosti súvisiace s vekom, zdravotným postihnutím alebo sociálnymi či ekonomickými okolnosťami, sú prísne zakázané. Umelú inteligenciu nemôžete používať na zneužívanie ľudí, ktorí nemajú schopnosť porozumieť manipulácii alebo jej odolať.
Tento zákaz sa vzťahuje na umelú inteligenciu, ktorá sa zameriava na neskúsenosť detí alebo kognitívny pokles starších osôb. Vaša spoločnosť nemôže nasadiť systémy, ktoré zneužívajú fyzické alebo duševné postihnutia na manipuláciu so správaním.
Umelá inteligencia, ktorá ťaží z ekonomického zúfalstva alebo sociálnej izolácie, tiež spadá pod tento zákaz.
Medzi chránené zraniteľné skupiny patria:
- Deti a maloletí
- Staršie osoby s kognitívnymi poruchami
- Ľudia s telesným alebo mentálnym postihnutím
- Jednotlivci, ktorí čelia ekonomickým ťažkostiam
Zákaz sa uplatňuje, keď váš systém umelej inteligencie spôsobuje alebo pravdepodobne spôsobí značnú škodu zneužívaním. Musíte posúdiť, či by vaše aplikácie umelej inteligencie mohli nespravodlivo zacieliť na zraniteľné skupiny obyvateľstva.
Sociálne bodovanie a behaviorálne profilovanie
Zákon o umelej inteligencii zakazuje systémy umelej inteligencie, ktoré hodnotia alebo klasifikujú ľudí na základe ich sociálneho správania alebo osobných charakteristík. Nemôžete používať mechanizmy sociálneho bodovania, ktoré vedú k nespravodlivému zaobchádzaniu alebo ujme.
Sociálne bodovanie zahŕňa hodnotenie jednotlivcov na základe ich správania, vzťahov alebo predpokladaného správania. Vytvára profily, ktoré určujú prístup k službám, príležitostiam alebo právam.
Medzi zakázané aktivity sociálneho bodovania patria:
- Hodnotenie občanov na základe sociálneho alebo profesionálneho správania
- Vytváranie skóre dôveryhodnosti z osobných údajov
- Predpovedanie kriminálneho správania na základe profilovania
- Odmietnutie služieb na základe behaviorálnych posúdení
Nemôžete implementovať systémy umelej inteligencie, ktoré priraďujú skóre určujúce, či niekto dostáva zdravotnú starostlivosť, vzdelanie, zamestnanie alebo finančné služby. Zákaz platí bez ohľadu na to, či tieto systémy prevádzkujete ako verejný orgán alebo súkromný podnik.
Diaľková biometrická identifikácia v reálnom čase vo verejných priestoroch tiež podlieha prísnym zákazom s obmedzenými výnimkami pre orgány činné v trestnom konaní.
Zákazy biometrických údajov, rozpoznávania tváre a emócií umelej inteligencie
Zákon EÚ o umelej inteligencii zakazuje niekoľko typov biometrických systémov a systémov rozpoznávania tváre, ktoré predstavujú riziko pre základné práva . Tieto zákazy ovplyvňujú spôsob, akým môžu holandské podniky používať biometrické údaje , databázy rozpoznávania tváre, nástroje na rozpoznávanie emócií a systémy identifikácie v reálnom čase vo verejných priestoroch.
Biometrická kategorizácia a používanie údajov
Systémy umelej inteligencie, ktoré kategorizujú ľudí na základe ich biometrických údajov, nemôžete používať na odvodenie ich rasy, politických názorov, členstva v odboroch, náboženského presvedčenia alebo sexuálnej orientácie. Tento zákaz platí, keď tieto systémy uvediete na trh, do prevádzky alebo ich používate na tento konkrétny účel.
Zákaz sa zameriava na systémy, ktoré prostredníctvom biometrickej analýzy vyvodzujú citlivé závery o jednotlivcoch. Za nedodržanie tohto zákazu hrozí vašej firme pokuta až do výšky 7 % celosvetového ročného obratu.
Z tohto pravidla existuje jedna výnimka. V kontexte presadzovania práva môžete na základe biometrických údajov označiť alebo filtrovať zákonne získané biometrické súbory údajov, ako napríklad obrázky.
Mimo presadzovania práva sú tieto kategorizačné praktiky úplne zakázané.
Obmedzenia technológií rozpoznávania tváre
Databázy rozpoznávania tvárí nemôžete vytvárať ani rozširovať necieleným získavaním obrázkov tvárí z internetu alebo záznamov z bezpečnostných kamier. Tento zákaz nadobudol účinnosť 2. februára 2025.
Na uplatnenie tohto zákazu musia byť splnené štyri podmienky:
- Táto prax zahŕňa umiestnenie, servis alebo používanie systému umelej inteligencie
- Účelom je vytvoriť alebo rozšíriť databázy rozpoznávania tvárí
- Metóda využíva necielené zoškrabovanie obrázkov tváre
- Zdrojmi údajov sú internet alebo záznamy z bezpečnostných kamier.
Kľúčové slovo je „necielené“. Snímky tváre nemožno zhromažďovať široko a nerozlišujúcim spôsobom.
To znamená, že v supermarketoch alebo verejných priestoroch nemôžete nasadiť kamery, ktoré automaticky scrapingujú tváre na vytvorenie rozpoznávacích databáz bez špecifických kritérií zacielenia.
Rozpoznávanie emócií v zamestnaní a vzdelávaní
Systémy umelej inteligencie nemožno používať na odvodzovanie emócií ľudí na pracoviskách a vo vzdelávacích inštitúciách. Tento zákaz priamo ovplyvňuje personálne oddelenia, školy a školiace zariadenia, ktoré by mohli zvážiť nástroje na detekciu emócií.
Zákaz sa vzťahuje na akýkoľvek systém umelej inteligencie určený na čítanie alebo interpretáciu emocionálnych stavov v týchto špecifických prostrediach. Či už používate analýzu tváre, rozpoznávanie hlasových vzorcov alebo iné biometrické indikátory, nezáleží na tom, či používate.
Existuje jedna úzka výnimka. Umelú inteligenciu na rozpoznávanie emócií môžete použiť, ak slúži na lekárske alebo bezpečnostné účely.
Napríklad monitorovanie bdelosti vodiča z bezpečnostných dôvodov alebo zisťovanie utrpenia pacientov v zdravotníckych zariadeniach môže spadať pod túto výnimku.
Obmedzenia vzdialenej biometrickej identifikácie
Systémy diaľkovej biometrickej identifikácie v reálnom čase nemôžete používať vo verejne prístupných priestoroch na účely presadzovania práva, s výnimkou prísne vymedzených okolností. Medzi tieto výnimky patrí vyhľadávanie obetí únosu alebo obchodovania s ľuďmi, predchádzanie bezprostredným hrozbám pre život alebo teroristickým útokom a lokalizácia podozrivých zo závažných trestných činov, za ktoré hrozí trest odňatia slobody najmenej štyri roky.
Každé použitie si vyžaduje predchádzajúce povolenie od súdneho orgánu alebo nezávislého správneho orgánu. V naliehavých situáciách môžete začať používať bez povolenia, ale musíte požiadať o schválenie do 24 hodín.
Ak orgány zamietnu povolenie, musíte okamžite prestať systém používať a vymazať všetky údaje. Holandsko si môže v rámci vnútroštátneho práva stanoviť vlastné podrobné pravidlá pre tieto výnimky.
Vaša spoločnosť musí o každom použití informovať príslušný orgán dohľadu nad trhom a vnútroštátny orgán na ochranu údajov. Členské štáty predkladajú Európskej komisii výročné správy o používaní diaľkovej biometrickej identifikácie v reálnom čase.
Povinnosti dodržiavania predpisov pre holandské podniky
Holandské podniky musia podniknúť konkrétne kroky na dosiahnutie súladu s predpismi o umelej inteligencii identifikáciou zakázaných systémov, ich vyradením z prevádzky a vedením riadnej dokumentácie. Holandský úrad pre ochranu údajov a holandský úrad pre digitálnu infraštruktúru budú tieto požiadavky presadzovať s vysokými sankciami za porušenie.
Identifikácia zakázanej umelej inteligencie v rámci prevádzky
V celej organizácii musíte vykonať dôkladné posúdenie rizík, aby ste identifikovali systémy umelej inteligencie, ktoré by mohli porušovať nové pravidlá. To znamená preskúmať akúkoľvek technológiu, ktorá používa manipulačné techniky, zneužíva zraniteľnosti, implementuje sociálne bodovanie alebo vykonáva biometrickú identifikáciu v reálnom čase vo verejných priestoroch.
Začnite vytvorením zoznamu všetkých systémov umelej inteligencie, ktoré sa v súčasnosti používajú. Zdokumentujte, čo každý systém robí, ako spracováva údaje a koho ovplyvňuje.
Venujte osobitnú pozornosť systémom, ktoré interagujú so zákazníkmi, zamestnancami alebo verejnosťou. Vaše posúdenia rizík by mali vyhodnotiť, či by niektorý systém mohol poškodiť základné práva.
To zahŕňa kontrolu, či systémy umelej inteligencie rozhodujú o ľuďoch na základe správania, osobných charakteristík alebo sociálnych väzieb. Systémy, ktoré sledujú alebo profilujú jednotlivcov bez transparentnosti, si vyžadujú okamžitú kontrolu.
Spolupracujte so svojimi technickými tímami, aby ste pochopili, ako každý systém umelej inteligencie funguje. Nemôžete sa spoliehať len na popisy dodávateľov.
Holandský orgán na ochranu údajov jasne uviedol, že zodpovednosť za dodržiavanie predpisov nesiete vy bez ohľadu na to, či ste systém zostavili alebo zakúpili od tretej strany.
Postupné vyraďovanie alebo odstraňovanie zakázaných systémov umelej inteligencie
Musíte okamžite prestať používať zakázané postupy umelej inteligencie. Zákon nepovoľuje žiadnu ochrannú lehotu pre zakázané systémy.
Ak vaše posúdenie rizík identifikuje zakázanú praktiku, musíte ju okamžite deaktivovať. Vytvorte plán odstránenia, ktorý rieši technické aj prevádzkové dopady.
Niektoré systémy môžu byť zabudované do väčších platforiem alebo prepojené s viacerými procesmi. Budete musieť zabezpečiť, aby odstránenie zakázaných prvkov nenarušilo základné obchodné funkcie.
Pred vypnutím systému si ujasnite, ako budete zvládať úlohy, ktoré predtým vykonával. Môže to znamenať návrat k manuálnym procesom, implementáciu iných technológií alebo úplné prepracovanie pracovných postupov.
Zdokumentujte každý krok procesu odstraňovania. Zaznamenajte si, kedy ste objavili zakázanú praktiku, aké kroky ste podnikli a kedy bol systém úplne deaktivovaný.
Regulačné orgány budú očakávať jasné dôkazy o tom, že ste konali okamžite po zistení porušenia.
Vedenie záznamov a dokumentácia
Musíte uchovávať technickú dokumentáciu, ktorá preukazuje súlad s pravidlami zákazu. Patria sem záznamy o vašich posúdeniach rizík, rozhodnutiach o systémoch umelej inteligencie a všetkých zmenách, ktoré ste vykonali na dosiahnutie súladu.
Vaša dokumentácia by mala obsahovať:
- Systémové inventáre s popismi každej aplikácie umelej inteligencie
- Správy o hodnotení rizík uvedenie vašej analýzy potenciálnych porušení
- Záznamy o odstránení podrobný popis toho, kedy a ako ste deaktivovali zakázané systémy
- Posúdenia vplyvu na základné práva pre akékoľvek hraničné prípady
Tieto záznamy uchovávajte najmenej päť rokov. Holandský orgán na ochranu údajov si ich môže vyžiadať počas inšpekcií alebo vyšetrovaní.
Chýbajúca alebo neúplná dokumentácia môže mať za následok pokuty až do výšky 7 500 000 EUR alebo 1 % z ročného globálneho obratu. Vaša technická dokumentácia musí byť dostatočne podrobná, aby regulačné orgány pochopili, čo vaše systémy umelej inteligencie robia a prečo sú v súlade so zákonom.
Všeobecné popisy alebo marketingové materiály túto požiadavku nespĺňajú. Uveďte technické špecifikácie, toky údajov a rozhodovacie procesy.
Aktualizujte svoju dokumentáciu vždy, keď upravujete systémy umelej inteligencie alebo nasadzujete nové. Potrebujete priebežné procesy, aby ste zabezpečili, že budúce systémy nezavedú zakázané praktiky.
Požiadavky na gramotnosť v oblasti umelej inteligencie a školenie zamestnancov
Od 2. februára 2025 musia holandské podniky, ktoré poskytujú alebo nasadzujú systémy umelej inteligencie, zabezpečiť, aby ich zamestnanci mali primerané znalosti v oblasti umelej inteligencie. Táto povinnosť platí bez ohľadu na to, či používate systémy umelej inteligencie s vysokým alebo nízkym rizikom.
Zdokumentované školiace programy musia byť prispôsobené úlohám a technickým znalostiam vašich zamestnancov.
Vysvetlenie povinnosti gramotnosti v oblasti umelej inteligencie
Článok 4 zákona EÚ o umelej inteligencii ukladá všetkým poskytovateľom a nasadzovateľom umelej inteligencie zákonnú požiadavku zabezpečiť dostatočnú gramotnosť svojich zamestnancov v oblasti umelej inteligencie. Musíte prijať opatrenia, ktoré zaručia, že zamestnanci a dodávatelia, ktorí sa zaoberajú systémami umelej inteligencie, rozumejú technológii, s ktorou pracujú.
Povinnosť gramotnosti v oblasti umelej inteligencie sa vzťahuje na každého, kto prevádzkuje, používa alebo rozhoduje o systémoch umelej inteligencie vo vašom mene. Patria sem technický personál, ktorý vytvára alebo udržiava systémy umelej inteligencie, ako aj netechnickí zamestnanci, ktorí používajú nástroje umelej inteligencie vo svojej každodennej práci.
Školenie v oblasti umelej inteligencie musíte prispôsobiť úlohe každej osoby, jej technickým znalostiam, skúsenostiam, vzdelaniu a špecifickému kontextu, v ktorom používa systémy umelej inteligencie. Softvérový vývojár implementujúci modely umelej inteligencie potrebuje iné školenie ako zástupca zákazníckeho servisu používajúci chatboty s umelou inteligenciou.
Táto povinnosť od vás vyžaduje, aby ste vynaložili „maximálne úsilie“ na zabezpečenie primeranej úrovne gramotnosti. Nemôžete len tak ponúkať symbolické školenie a tvrdiť, že súlad s predpismi je správny.
Vypracovanie efektívnych vzdelávacích programov
Váš program gramotnosti v oblasti umelej inteligencie by sa mal zaoberať konkrétnymi systémami umelej inteligencie, ktoré vaša organizácia používa, a nie poskytovať všeobecné informácie. Zamestnanci musia rozumieť tomu, ako fungujú konkrétne nástroje umelej inteligencie, s ktorými pracujú, akým sú ich obmedzeniam a potenciálnym rizikám.
Obsah školenia by mal zahŕňať:
- Základné koncepty umelej inteligencie relevantné pre vaše systémy
- Ako správne používať nástroje umelej inteligencie
- Potenciálne skreslenia a chyby vo výstupoch umelej inteligencie
- Keď je potrebný ľudský dohľad
- Zásady a postupy vašej organizácie v oblasti umelej inteligencie
Musíte zvážiť počiatočnú úroveň znalostí každého zamestnanca. Technický personál môže potrebovať pokročilé školenie v oblasti vývoja a testovania modelov, zatiaľ čo bežní používatelia potrebujú praktické poradenstvo v oblasti interpretácie výstupov umelej inteligencie a rozpoznávania, kedy sa výsledky zdajú byť nesprávne.
Poskytovanie školení môže mať rôzne formy vrátane workshopov, online kurzov, koučingu na pracovisku alebo externých programov. Formát je menej dôležitý ako zabezpečenie toho, aby zamestnanci skutočne získali potrebné vedomosti a zručnosti.
Dokumentovanie aktivít v oblasti gramotnosti v oblasti umelej inteligencie
Musíte viesť záznamy o svojich aktivitách v oblasti školení v oblasti umelej inteligencie, aby ste preukázali súlad so zákonom EÚ o umelej inteligencii. Táto dokumentácia slúži ako dôkaz o tom, že ste si splnili svoje zákonné povinnosti.
Vaše záznamy by mali obsahovať:
- Obsah a materiály školiaceho programu
- Zoznamy zamestnancov, ktorí absolvovali školenie
- Termíny a trvanie školení
- Výsledky hodnotenia (ak je to relevantné)
- Ako ste určili vhodnú úroveň gramotnosti pre rôzne pozície
Zdokumentujte svoj proces identifikácie potrieb v oblasti gramotnosti v oblasti umelej inteligencie v celej organizácii. Patria sem aj spôsoby, akými ste posúdili, ktorí zamestnanci potrebujú školenie a aké špecifické znalosti potrebujú na základe ich interakcie so systémami umelej inteligencie.
Veďte si záznamy o tom, ako aktualizujete školenia pri zmene vašich systémov umelej inteligencie alebo pri príchode nových zamestnancov do vašej organizácie. Gramotnosť v oblasti umelej inteligencie nie je jednorazová požiadavka, ale priebežná povinnosť, ktorá sa musí prispôsobovať vášmu vyvíjajúcemu sa využívaniu technológií umelej inteligencie.
Dohľad, presadzovanie a sankcie
Zákon EÚ o umelej inteligencii zavádza viacvrstvovú štruktúru presadzovania práva s významnými finančnými sankciami za nedodržiavanie predpisov. Holandské podniky čelia dohľadu zo strany národných aj európskych orgánov, pričom pokuty za zakázané praktiky umelej inteligencie dosahujú až 7 % celosvetového ročného obratu.
Holandské a európske orgány dohľadu
Holandský úrad na ochranu údajov slúži ako hlavný národný orgán dohľadu nad presadzovaním zákona o umelej inteligencii v Holandsku. Tento orgán spolupracuje s ďalšími určenými holandskými orgánmi dohľadu nad trhom s cieľom monitorovať dodržiavanie nariadenia.
Na európskej úrovni dohliada Európska komisia na implementáciu zákona o umelej inteligencii vo všetkých členských štátoch. Európsky úrad pre umelú inteligenciu, zriadený v rámci Komisie, koordinuje činnosti v oblasti presadzovania práva a poskytuje technické znalosti.
Európsky výbor pre ochranu údajov podporuje konzistentné uplatňovanie zákona, najmä v prípadoch, keď systémy umelej inteligencie zahŕňajú spracovanie osobných údajov. Tieto orgány spolupracujú s cieľom zabezpečiť jednotné presadzovanie v celej Európskej únii.
Ak prevádzkujete systémy umelej inteligencie vo viacerých krajinách EÚ, môžete čeliť kontrole zo strany dozorných orgánov v každej jurisdikcii, kde sú vaše systémy nasadené alebo majú vplyv.
Sankcie a občianskoprávna zodpovednosť
Porušenie zakázaných praktík podľa článku 5 sa trestá pokutami až do výšky 35 miliónov EUR alebo 7 % z vášho celkového celosvetového ročného obratu, podľa toho, ktorá suma je vyššia. Tieto pokuty platia od 2. februára 2025.
Súdny dvor EÚ (SDEÚ) má konečnú právomoc vykladať ustanovenia zákona o umelej inteligencii. Vnútroštátne súdy sa môžu obrátiť na SDEÚ s otázkami, ak vzniknú spory o tom, čo predstavuje zakázanú prax.
Okrem administratívnych pokút môžete čeliť aj nárokom na občianskoprávnu zodpovednosť zo strany jednotlivcov alebo organizácií, ktoré boli poškodené systémami umelej inteligencie, ktoré nie sú v súlade s predpismi. Členské štáty môžu podľa svojich vnútroštátnych právnych predpisov stanoviť ďalšie sankcie.
Usmernenia od európskych a národných orgánov
Európska komisia zverejnila 4. februára 2025 usmernenia týkajúce sa zakázaných praktík umelej inteligencie. Tieto dokumenty vysvetľujú, ako budú orgány interpretovať zákazy uvedené v článku 5, a poskytujú praktické príklady dodržiavania predpisov.
Hoci tieto usmernenia nie sú záväzné, ponúkajú cenný prehľad o prioritách presadzovania práva. Iba Súdny dvor EÚ môže poskytnúť smerodajné právne výklady.
Holandské orgány dohľadu môžu vydať dodatočné národné usmernenia prispôsobené miestnym obchodným podmienkam. Mali by ste sledovať aktualizácie od európskych aj holandských orgánov, keďže sa vyvíjajú prístupy k presadzovaniu práva.
Tieto usmernenia sú k dispozícii vo všetkých jazykoch EÚ na podporu cezhraničného porozumenia.
Často kladené otázky
Európsky zákon o umelej inteligencii prináša špecifické požiadavky a obmedzenia, ktoré sa od februára 2025 dotknú holandských podnikov. Tieto nariadenia zakazujú určité postupy umelej inteligencie, vyžadujú opatrenia na dodržiavanie predpisov a stanovujú sankcie za porušenia.
Aké sú nové predpisy týkajúce sa používania umelej inteligencie v holandských spoločnostiach od februára 2025?
Európsky zákon o umelej inteligencii nadobudol účinnosť 1. augusta 2024, pričom prvá sada zákazov nadobudla účinnosť 2. februára 2025. Tieto nariadenia sa vzťahujú na všetky holandské podniky, ktoré vyvíjajú, nasadzujú alebo používajú systémy umelej inteligencie v rámci Európskej únie.
Zákon zakazuje manipulatívne systémy umelej inteligencie, ktoré využívajú podprahové techniky na ovplyvňovanie rozhodnutí, ktoré by ľudia za normálnych okolností neurobili. Zakázané sú aj systémy umelej inteligencie, ktoré zneužívajú zraniteľnosti na základe veku, zdravotného postihnutia alebo socioekonomického postavenia.
Systémy sociálneho hodnotenia, ktoré posudzujú jednotlivcov na základe ich sociálneho správania alebo osobných charakteristík, čelia úplnému zákazu. Nariadenia tiež zakazujú hodnotenia rizika založené na umelej inteligencii, ktoré predpovedajú trestné činy výlučne prostredníctvom profilovania alebo analýzy osobnostných čŕt, a nie faktov súvisiacich s trestnou činnosťou.
Biometrické kategorizačné systémy, ktoré z obrázkov tváre alebo odtlačkov prstov odvodzujú rasu, politické názory, členstvo v odboroch, náboženské presvedčenie alebo sexuálnu orientáciu, nie sú povolené. Diaľková biometrická identifikácia v reálnom čase vo verejných priestoroch je zakázaná, s výnimkou prísne vymedzených situácií s osobitným zákonným povolením.
Aký vplyv majú holandské smernice pre umelú inteligenciu z februára 2025 na ochranu súkromia a údajov spotrebiteľov?
Zákon o umelej inteligencii funguje súbežne s existujúcimi nariadeniami o ochrane údajov vrátane GDPR. Holandský úrad pre ochranu údajov poskytuje usmernenia o tom, ako musia systémy umelej inteligencie dodržiavať pravidlá ochrany údajov, najmä pokiaľ ide o automatizované rozhodovanie.
Necielené získavanie obrázkov tváre z internetu alebo záznamov z kamier na vytvorenie alebo rozširovanie databáz rozpoznávania tváre je zakázané. Toto obmedzenie chráni práva jednotlivcov na súkromie a zabraňuje neoprávnenému zhromažďovaniu biometrických údajov.
Systémy umelej inteligencie musia rešpektovať základné práva počas celého svojho životného cyklu. Verejné orgány a subjekty poskytujúce verejné služby musia pri používaní vysokorizikových systémov umelej inteligencie vykonať posúdenie vplyvu na základné práva.
Ktoré činnosti založené na umelej inteligencii už holandské podniky nesmú vykonávať z dôvodu nedávnych legislatívnych zmien?
Vaša firma nemôže používať systémy rozpoznávania emócií na pracovisku ani vo vzdelávacom prostredí. Tieto systémy sú zakázané bez ohľadu na deklarované výhody alebo prípady použitia.
Nemôžete nasadiť systémy umelej inteligencie, ktoré manipulujú s ľuďmi prostredníctvom podprahových techník alebo zneužívajú ich zraniteľnosti. Patria sem aj systémy, ktoré sa zameriavajú na jednotlivcov na základe ich postihnutia, sociálneho postavenia alebo veku s cieľom ovplyvniť ich správanie.
Biometrické kategorizačné systémy, ktoré klasifikujú ľudí na základe citlivých charakteristík, sú zakázané. Umelú inteligenciu nemožno použiť na odvodenie rasy, politických názorov, náboženského presvedčenia alebo sexuálnej orientácie osoby z jej biometrických údajov.
Systémy sociálneho hodnotenia sú úplne zakázané. Nemôžete implementovať umelú inteligenciu, ktorá hodnotí alebo klasifikuje ľudí na základe ich sociálneho správania alebo osobných charakteristík.
Diaľková biometrická identifikácia v reálnom čase vo verejne prístupných priestoroch je na komerčné účely zakázaná. Orgány činné v trestnom konaní môžu takéto systémy používať iba za úzko vymedzených okolností s riadnym zákonným povolením.
Aké kroky musia holandské spoločnosti podniknúť, aby zosúladili svoje systémy umelej inteligencie s normami dodržiavania predpisov stanovenými vo februári 2025?
Musíte identifikovať všetky systémy umelej inteligencie, ktoré vaša organizácia v súčasnosti používa alebo nasadzuje. Tento inventár by mal kategorizovať každý systém podľa klasifikácie rizík definovanej v zákone o umelej inteligencii.
Skontrolujte svoje systémy umelej inteligencie podľa zoznamu zakázaných praktík. Ak používate akékoľvek zakázané systémy, musíte ich okamžite vyradiť, aby ste sa vyhli regulačným sankciám.
Zdokumentujte účely, zdroje údajov a procesy rozhodovania vašich systémov umelej inteligencie. Táto dokumentácia pomáha preukázať súlad s predpismi a podporuje všetky požadované posúdenia vplyvu.
V prípade vysokorizikových systémov umelej inteligencie sú potrebné dodatočné opatrenia na zabezpečenie súladu s predpismi. Verejné orgány musia zaregistrovať vysokorizikové systémy v európskej databáze do 2. augusta 2026 a vykonať posúdenia vplyvu na základné práva.
Zaškoľte svojich zamestnancov v nových požiadavkách a zaveďte interné procesy pre priebežné monitorovanie súladu s predpismi. Váš program súladu s predpismi by mal zahŕňať pravidelné kontroly systémov umelej inteligencie, aby sa zabezpečilo, že zostanú v rámci regulačných hraníc.
Existujú nejaké sektorovo špecifické zákazy týkajúce sa umelej inteligencie, o ktorých by si mali byť holandské firmy vedomé v nadväznosti na nové nariadenia?
Organizácie v sektore vzdelávania čelia špecifickým obmedzeniam. Na monitorovanie študentov alebo hodnotenie ich emocionálnych stavov nemôžete používať systémy rozpoznávania emócií bez ohľadu na zamýšľaný vzdelávací prínos.
Pracovné prostredie má podobné obmedzenia. Zamestnávatelia nemôžu nasadiť umelú inteligenciu na rozpoznávanie emócií na monitorovanie emocionálnych stavov alebo reakcií zamestnancov počas pracovných činností.
Orgány činné v trestnom konaní majú obmedzené výnimky pre biometrické identifikačné systémy. Tieto výnimky vyžadujú prísne zákonné povolenie a vzťahujú sa len na špecifické situácie, ako je hľadanie obetí únosov, predchádzanie bezprostredným hrozbám alebo sledovanie podozrivých zo závažných trestných činov.
Verejné orgány poskytujúce verejné služby čelia ďalším požiadavkám nad rámec všeobecných zákazov. Pre všetky vysoko rizikové systémy umelej inteligencie musíte vykonať posúdenia vplyvu na základné práva a zaregistrovať tieto systémy v európskej databáze.
Aké sú sankcie za nedodržanie obmedzení týkajúcich sa umelej inteligencie zavedených v Holandsku vo februári 2025?
Regulačné orgány môžu uložiť značné pokuty za nedodržiavanie zákona o umelej inteligencii. Štruktúra sankcií sa riadi stupňovitým prístupom založeným na závažnosti porušenia.
Používanie zakázaných systémov umelej inteligencie predstavuje najzávažnejšiu kategóriu porušení. Vaša organizácia riskuje značné finančné pokuty, ak bude pokračovať v prevádzke zakázaných systémov aj po termíne vo februári 2025.
Presná výška pokút závisí od toho, či sa vaša organizácia kvalifikuje ako malý a stredný podnik alebo väčšia spoločnosť. Regulačné orgány zohľadňujú faktory, ako je povaha porušenia, jeho trvanie a akákoľvek spôsobená škoda.
Okrem finančných sankcií môže nedodržiavanie predpisov poškodiť reputáciu vašej organizácie. Jednotlivci poškodení zakázanými systémami umelej inteligencie sa môžu domáhať ďalších nápravných opatrení prostredníctvom občianskoprávneho konania.
Holandský úrad na ochranu údajov a ďalšie regulačné orgány majú právomoci v oblasti presadzovania práva. Môžu vyšetrovať sťažnosti, vykonávať audity a požadovať okamžité ukončenie zakázaných praktík.
