Európsky zákon o umelej inteligencii zaviedol 2. februára 2025 zásadné zmeny, ktoré v celej EÚ zakazujú určité praktiky umelej inteligencie . Holandské podniky musia teraz dodržiavať prísne pravidlá týkajúce sa toho, ktoré systémy umelej inteligencie môžu používať.
Spoločnosti, ktoré neodstránia zakázané nástroje umelej inteligencie, čelia vysokým pokutám a potenciálnym právnym krokom zo strany každého, kto utrpí ujmu.
Od februára 2025 sú v Holandsku zakázané systémy umelej inteligencie, ktoré manipulujú s ľuďmi, používajú sociálne bodovanie, kategorizujú jednotlivcov na základe biometrických údajov alebo využívajú rozpoznávanie tváre v reálnom čase vo verejných priestoroch. Tieto zákazy sa vzťahujú aj na technológiu rozpoznávania emócií na pracoviskách a v školách, ako aj na necielené zhromažďovanie obrázkov tváre z internetu na vytváranie databáz rozpoznávania.
Pravidlá platia okamžite a firmám neposkytujú žiadnu lehotu na postupné vyradenie týchto systémov. Pochopenie toho, ktoré postupy umelej inteligencie sú zakázané a aké kroky musí vaša organizácia podniknúť, je nevyhnutné, aby sa predišlo sankciám.
Táto príručka vysvetľuje konkrétne zákazy, načrtáva vaše povinnosti v oblasti dodržiavania predpisov ako holandskej firmy a zahŕňa požiadavky na školenie potrebné na to, aby vaše operácie boli legálne aj podľa nového zákona.
Na čo sa zákazy vzťahujú
Nariadenie (EÚ) 2024/1689, známe ako zákon EÚ o umelej inteligencii , zaviedlo špecifické zákazy určitých postupov umelej inteligencie, ktoré nadobudli účinnosť 2. februára 2025. Tieto pravidlá sa vzťahujú na vašu holandskú firmu, ak vyvíjate, nasadzujete alebo používate systémy umelej inteligencie v Holandsku alebo širšej Európskej únii.
Rozsah zakázaných praktík umelej inteligencie
Zákon o umelej inteligencii zakazuje špecifické praktiky umelej inteligencie, ktoré predstavujú neprijateľné riziká pre základné práva a európske hodnoty. Článok 5 nariadenia (EÚ) 2024/1689 identifikuje tieto zakázané praktiky na základe ich potenciálnej škodlivosti, a nie samotnej technológie.
Medzi hlavné zakázané kategórie patria:
- Manipulatívne systémy umelej inteligencie ktoré zneužívajú zraniteľnosť konkrétnych skupín
- Systémy sociálneho bodovania, či už ich prevádzkuje verejný orgán alebo súkromný podnik
- Vzdialková biometrická identifikácia v reálnom čase vo verejne prístupných priestoroch pre orgány činné v trestnom konaní (s obmedzenými výnimkami)
- Biometrické kategorizačné systémy ktoré odvodzujú citlivé atribúty
- Necielené zoškrabovanie obrázkov tváre z internetu alebo záznamov z bezpečnostných kamier
Vaše podnikanie spadá pod tieto zákazy bez ohľadu na to, či pôsobíte ako poskytovateľ, nasadzovateľ alebo distribútor umelej inteligencie v Holandsku. Holandský úrad pre ochranu údajov spolupracuje s ďalšími orgánmi Európskej únie na zabezpečení dodržiavania predpisov.
Nedodržanie zákazov sa trestá pokutami až do výšky tridsiatich piatich miliónov eur alebo siedmich percent celosvetového ročného obratu, podľa toho, ktorá suma je vyššia.
Dátumy účinnosti a prechodné obdobia
Zákazy podľa článku 5 nadobudli účinnosť 2. februára 2025. To znamená, že vaša spoločnosť musí okamžite dodržiavať tieto pravidlá, ak používa alebo vyvíja relevantné systémy umelej inteligencie.
Rámec presadzovania sa riadi postupným časovým harmonogramom. Úplné sankcie, štruktúry riadenia a ustanovenia o dôvernosti nadobúdajú účinnosť od 2. augusta 2025.
Vďaka tomu má vaša organizácia šesťmesačné obdobie, počas ktorého sa pravidlá uplatňujú, ale kompletné mechanizmy presadzovania sa stále zavádzajú. Európska komisia zverejnila 4. februára 2025 oficiálne usmernenia s cieľom objasniť, ako tieto zákazy fungujú v praxi.
Presadzovanie je organizované prostredníctvom národných orgánov dohľadu nad trhom, ktoré musí každý členský štát určiť. Holandsko ešte nedokončilo vykonávací akt, ktorý by ich formálne určil; v prípravnej fáze pôsobia ako koordinačné orgány holandský úrad pre ochranu údajov a holandský úrad pre digitálnu infraštruktúru a regulačné orgány v tomto odvetví dohliadajú na umelú inteligenciu v rámci svojich vlastných oblastí. Samotný zákaz platí bez ohľadu na to: skutočnosť, že štruktúra presadzovania sa stále dokončuje, neznamená, že zakázaná prax je zákonná, a systém, ktorý porušuje článok 5, vo väčšine prípadov porušuje aj GDPR, čo holandský úrad pre ochranu údajov môže presadzovať už dnes.
Kľúčové definície: Systémy a postupy umelej inteligencie
Článok 3 nariadenia definuje systém umelej inteligencie ako strojový systém, ktorý je navrhnutý tak, aby fungoval s rôznymi úrovňami autonómie, ktorý môže po nasadení preukázať adaptabilitu a ktorý zo vstupov, ktoré prijíma, usudzuje, ako generovať výstupy, ako sú predpovede, obsah, odporúčania alebo rozhodnutia, ktoré môžu ovplyvniť fyzické alebo virtuálne prostredia. Prvok, ktorý v tejto definícii vykonáva úlohu, je inferencia: systém, ktorý iba uplatňuje pravidlá, ktoré osoba napísala v plnom rozsahu, nie je systémom umelej inteligencie, zatiaľ čo model, ktorý odvodzuje svoje vlastné rozhodovacie pravidlo z údajov, ním áno.
Zakázaná praktika umelej inteligencie sa vzťahuje na konkrétne spôsoby nasadenia alebo používania umelej inteligencie, ktoré Európska únia považuje za neprijateľné. Zákaz sa vzťahuje na samotnú praktiku, nie na základnú technológiu.
To znamená, že ten istý systém umelej inteligencie môžete používať na povolené účely, pričom vám bude zakázané používať určité aplikácie. Vaša firma musí rozlišovať medzi systémom umelej inteligencie (technológiou) a jeho praxou (spôsobom, akým ho používate).
Systém umelej inteligencie na rozpoznávanie tváre môže byť zákonný na účely kontroly prístupu do budov, ale zakázaný na účely sledovania verejných priestorov v reálnom čase. Zákonnosť podľa nariadenia (EÚ) 2024/1689 určuje kontext a aplikácia.
Podrobný zoznam zakázaných praktík umelej inteligencie
Zákon EÚ o umelej inteligencii zakazuje špecifické aplikácie umelej inteligencie, ktoré predstavujú neprijateľné riziká pre základné práva a bezpečnosť. Tieto zakázané praktiky spadajú do troch hlavných kategórií: systémy, ktoré manipulujú s ľudským správaním, systémy, ktoré zneužívajú zraniteľné skupiny , a mechanizmy, ktoré umožňujú hromadné sledovanie prostredníctvom sociálneho bodovania.
Manipulatívne a klamlivé systémy
Zákon o umelej inteligencii zakazuje akýkoľvek systém umelej inteligencie, ktorý využíva podprahové techniky na podstatné skreslenie ľudského správania spôsobmi, ktoré spôsobujú škodu. Ide o metódy, ktoré fungujú mimo vášho vedomia a ovplyvňujú vaše rozhodnutia alebo činy.
Medzi zakázané manipulatívne praktiky patria:
- Systémy umelej inteligencie, ktoré nasadzujú podprahové komponenty, ktoré nedokážete odhaliť
- Systémy určené na zneužívanie zraniteľností detí súvisiacich s vekom
- Technológie, ktoré manipulujú so správaním s cieľom spôsobiť fyzickú alebo psychickú ujmu
Umelú inteligenciu nemôžete použiť na úmyselné klamanie ľudí spôsobmi, ktoré vedú k značnej ujme . To znamená, že vaša firma nemôže nasadiť chatbotov ani virtuálnych asistentov, ktorí zavádzajú používateľov o ich povahe umelej inteligencie, ak by toto klamstvo mohlo viesť k škode.
Zákaz sa vzťahuje aj na systémy umelej inteligencie, ktoré používajú temné vzorce alebo psychologickú manipuláciu na to, aby nútili používateľov k škodlivým rozhodnutiam. Zákon chráni jednotlivcov pred praktikami umelej inteligencie, ktoré obchádzajú racionálne rozhodovanie.
Ak váš systém umelej inteligencie ovplyvňuje správanie prostredníctvom skrytej manipulácie namiesto transparentných informácií, porušuje zákon.
Vykorisťovanie zraniteľných osôb
Systémy umelej inteligencie, ktoré zneužívajú zraniteľnosti súvisiace s vekom, zdravotným postihnutím alebo sociálnymi či ekonomickými okolnosťami, sú prísne zakázané. Umelú inteligenciu nemôžete používať na zneužívanie ľudí, ktorí nemajú schopnosť porozumieť manipulácii alebo jej odolať.
Tento zákaz sa vzťahuje na umelú inteligenciu, ktorá sa zameriava na neskúsenosť detí alebo kognitívny pokles starších osôb. Vaša spoločnosť nemôže nasadiť systémy, ktoré zneužívajú fyzické alebo duševné postihnutia na manipuláciu so správaním.
Umelá inteligencia, ktorá ťaží z ekonomického zúfalstva alebo sociálnej izolácie, tiež spadá pod tento zákaz.
Medzi chránené zraniteľné skupiny patria:
- Deti a maloletí
- Staršie osoby s kognitívnymi poruchami
- Ľudia s telesným alebo mentálnym postihnutím
- Jednotlivci, ktorí čelia ekonomickým ťažkostiam
Zákaz sa uplatňuje, keď váš systém umelej inteligencie spôsobuje alebo pravdepodobne spôsobí značnú škodu zneužívaním. Musíte posúdiť, či by vaše aplikácie umelej inteligencie mohli nespravodlivo zacieliť na zraniteľné skupiny obyvateľstva.
Sociálne bodovanie a behaviorálne profilovanie
Zákon o umelej inteligencii zakazuje systémy umelej inteligencie, ktoré hodnotia alebo klasifikujú ľudí na základe ich sociálneho správania alebo osobných charakteristík. Nemôžete používať mechanizmy sociálneho bodovania, ktoré vedú k nespravodlivému zaobchádzaniu alebo ujme.
Sociálne bodovanie zahŕňa hodnotenie jednotlivcov na základe ich správania, vzťahov alebo predpokladaného správania. Vytvára profily, ktoré určujú prístup k službám, príležitostiam alebo právam.
Medzi zakázané aktivity sociálneho bodovania patria:
- Hodnotenie občanov na základe sociálneho alebo profesionálneho správania
- Vytváranie skóre dôveryhodnosti z osobných údajov
- Predpovedanie kriminálneho správania na základe profilovania
- Odmietnutie služieb na základe behaviorálnych posúdení
Nemôžete implementovať systémy umelej inteligencie, ktoré priraďujú skóre určujúce, či niekto dostáva zdravotnú starostlivosť, vzdelanie, zamestnanie alebo finančné služby. Zákaz platí bez ohľadu na to, či tieto systémy prevádzkujete ako verejný orgán alebo súkromný podnik.
Diaľková biometrická identifikácia v reálnom čase vo verejných priestoroch tiež podlieha prísnym zákazom s obmedzenými výnimkami pre orgány činné v trestnom konaní.
Zákazy biometrických údajov, rozpoznávania tváre a umelej inteligencie zameranej na emócie
Zákon EÚ o umelej inteligencii zakazuje niekoľko typov biometrických systémov a systémov rozpoznávania tváre, ktoré predstavujú riziko pre základné práva . Tieto zákazy ovplyvňujú spôsob, akým môžu holandské podniky používať biometrické údaje , databázy rozpoznávania tváre, nástroje na rozpoznávanie emócií a systémy identifikácie v reálnom čase vo verejných priestoroch.
Biometrická kategorizácia
Systémy umelej inteligencie, ktoré kategorizujú ľudí na základe ich biometrických údajov, nemôžete používať na odvodenie ich rasy, politických názorov, členstva v odboroch, náboženského presvedčenia alebo sexuálnej orientácie. Tento zákaz platí, keď tieto systémy uvediete na trh, do prevádzky alebo ich používate na tento konkrétny účel.
Zákaz sa zameriava na systémy, ktoré prostredníctvom biometrickej analýzy vyvodzujú citlivé závery o jednotlivcoch. Za nedodržanie tohto zákazu hrozí vašej firme pokuta až do výšky 7 % celosvetového ročného obratu.
Z tohto pravidla existuje jedna výnimka. V kontexte presadzovania práva môžete na základe biometrických údajov označiť alebo filtrovať zákonne získané biometrické súbory údajov, ako napríklad obrázky.
Mimo presadzovania práva sú tieto kategorizačné praktiky úplne zakázané.
Obmedzenia technológií rozpoznávania tváre
Databázy rozpoznávania tvárí nemôžete vytvárať ani rozširovať necieleným získavaním obrázkov tvárí z internetu alebo záznamov z bezpečnostných kamier. Tento zákaz nadobudol účinnosť 2. februára 2025.
Na uplatnenie tohto zákazu musia byť splnené štyri podmienky:
- Táto prax zahŕňa umiestnenie, servis alebo používanie systému umelej inteligencie
- Účelom je vytvoriť alebo rozšíriť databázy rozpoznávania tvárí
- Metóda využíva necielené zoškrabovanie obrázkov tváre
- Zdrojmi údajov sú internet alebo záznamy z bezpečnostných kamier.
Kľúčové slovo je „necielené“. Snímky tváre nemožno zhromažďovať široko a nerozlišujúcim spôsobom.
To znamená, že v supermarketoch alebo verejných priestoroch nemôžete nasadiť kamery, ktoré automaticky scrapingujú tváre na vytvorenie rozpoznávacích databáz bez špecifických kritérií zacielenia.
Rozpoznávanie emócií v zamestnaní a vzdelávaní
Systémy umelej inteligencie nemožno používať na odvodzovanie emócií ľudí na pracoviskách a vo vzdelávacích inštitúciách. Tento zákaz priamo ovplyvňuje personálne oddelenia, školy a školiace zariadenia, ktoré by mohli zvážiť nástroje na detekciu emócií.
Zákaz sa vzťahuje na akýkoľvek systém umelej inteligencie určený na čítanie alebo interpretáciu emocionálnych stavov v týchto špecifických prostrediach. Či už používate analýzu tváre, rozpoznávanie hlasových vzorcov alebo iné biometrické indikátory, nezáleží na tom, či používate.
Existuje jedna úzka výnimka. Umelú inteligenciu na rozpoznávanie emócií môžete použiť, ak slúži na lekárske alebo bezpečnostné účely.
Napríklad monitorovanie bdelosti vodiča z bezpečnostných dôvodov alebo zisťovanie utrpenia pacientov v zdravotníckych zariadeniach môže spadať pod túto výnimku.
Obmedzenia diaľkovej biometrickej identifikácie
Systémy diaľkovej biometrickej identifikácie v reálnom čase nemôžete používať vo verejne prístupných priestoroch na účely presadzovania práva, s výnimkou prísne vymedzených okolností. Medzi tieto výnimky patrí vyhľadávanie obetí únosu alebo obchodovania s ľuďmi, predchádzanie bezprostredným hrozbám pre život alebo teroristickým útokom a lokalizácia podozrivých zo závažných trestných činov, za ktoré hrozí trest odňatia slobody najmenej štyri roky.
Každé použitie si vyžaduje predchádzajúce povolenie od súdneho orgánu alebo nezávislého správneho orgánu. V naliehavých situáciách môžete začať používať bez povolenia, ale musíte požiadať o schválenie do 24 hodín.
Ak orgány zamietnu povolenie, musíte okamžite prestať systém používať a vymazať všetky údaje. Holandsko si môže v rámci vnútroštátneho práva stanoviť vlastné podrobné pravidlá pre tieto výnimky.
Vaša spoločnosť musí o každom použití informovať príslušný orgán dohľadu nad trhom a vnútroštátny orgán na ochranu údajov. Členské štáty predkladajú Európskej komisii výročné správy o používaní diaľkovej biometrickej identifikácie v reálnom čase.
Povinnosti dodržiavania predpisov pre holandské podniky
Holandské podniky musia podniknúť konkrétne kroky na dosiahnutie súladu s predpismi o umelej inteligencii identifikáciou zakázaných systémov, ich vyradením z prevádzky a vedením riadnej dokumentácie. Holandský úrad pre ochranu údajov a holandský úrad pre digitálnu infraštruktúru budú tieto požiadavky presadzovať s vysokými sankciami za porušenie.
Identifikácia zakázanej umelej inteligencie v rámci operácií
V celej organizácii musíte vykonať dôkladné posúdenie rizík, aby ste identifikovali systémy umelej inteligencie, ktoré by mohli porušovať nové pravidlá. To znamená preskúmať akúkoľvek technológiu, ktorá používa manipulačné techniky, zneužíva zraniteľnosti, implementuje sociálne bodovanie alebo vykonáva biometrickú identifikáciu v reálnom čase vo verejných priestoroch.
Začnite vytvorením zoznamu všetkých systémov umelej inteligencie, ktoré sa v súčasnosti používajú. Zdokumentujte, čo každý systém robí, ako spracováva údaje a koho ovplyvňuje.
Venujte osobitnú pozornosť systémom, ktoré interagujú so zákazníkmi, zamestnancami alebo verejnosťou. Vaše posúdenia rizík by mali vyhodnotiť, či by niektorý systém mohol poškodiť základné práva.
To zahŕňa kontrolu, či systémy umelej inteligencie rozhodujú o ľuďoch na základe správania, osobných charakteristík alebo sociálnych väzieb. Systémy, ktoré sledujú alebo profilujú jednotlivcov bez transparentnosti, si vyžadujú okamžitú kontrolu.
Spolupracujte so svojimi technickými tímami, aby ste pochopili, ako každý systém umelej inteligencie funguje. Nemôžete sa spoliehať len na popisy dodávateľov.
Holandský orgán na ochranu údajov jasne uviedol, že zodpovednosť za dodržiavanie predpisov nesiete vy bez ohľadu na to, či ste systém zostavili alebo zakúpili od tretej strany.
Postupné vyraďovanie alebo odstraňovanie zakázaných systémov umelej inteligencie
Musíte okamžite prestať používať zakázané postupy umelej inteligencie. Zákon nepovoľuje žiadnu ochrannú lehotu pre zakázané systémy.
Ak vaše posúdenie rizík identifikuje zakázanú praktiku, musíte ju okamžite deaktivovať. Vytvorte plán odstránenia, ktorý rieši technické aj prevádzkové dopady.
Niektoré systémy môžu byť zabudované do väčších platforiem alebo prepojené s viacerými procesmi. Budete musieť zabezpečiť, aby odstránenie zakázaných prvkov nenarušilo základné obchodné funkcie.
Pred vypnutím systému si ujasnite, ako budete zvládať úlohy, ktoré predtým vykonával. Môže to znamenať návrat k manuálnym procesom, implementáciu iných technológií alebo úplné prepracovanie pracovných postupov.
Zdokumentujte každý krok procesu odstraňovania. Zaznamenajte si, kedy ste objavili zakázanú praktiku, aké kroky ste podnikli a kedy bol systém úplne deaktivovaný.
Regulačné orgány budú očakávať jasné dôkazy o tom, že ste konali okamžite po zistení porušenia.
Záznamy a dokumentácia
Musíte uchovávať technickú dokumentáciu, ktorá preukazuje súlad s pravidlami zákazu. Patria sem záznamy o vašich posúdeniach rizík, rozhodnutiach o systémoch umelej inteligencie a všetkých zmenách, ktoré ste vykonali na dosiahnutie súladu.
Vaša dokumentácia by mala obsahovať:
- Systémové inventáre s popismi každej aplikácie umelej inteligencie
- Správy o hodnotení rizík uvedenie vašej analýzy potenciálnych porušení
- Záznamy o odstránení podrobný popis toho, kedy a ako ste deaktivovali zakázané systémy
- Posúdenia vplyvu na základné práva pre akékoľvek hraničné prípady
Zákon o umelej inteligencii nestanovuje pre tento materiál pevnú lehotu uchovávania z dôvodu dodržiavania zakázaných praktík; lehoty uchovávania záznamov, ktoré predpisuje, ako napríklad desať rokov pre technickú dokumentáciu systému s vysokým rizikom a minimálna lehota pre automaticky generované protokoly, patria do kapitoly o vysokom riziku. Uchovávajte si svoje posúdenia tak dlho, ako je to ešte možné, čo v praxi znamená počas premlčacej doby akéhokoľvek nároku, ktorý by mohol zo systému vzniknúť, a buďte schopní ich na požiadanie predložiť. Poskytnutie nesprávnych, neúplných alebo zavádzajúcich informácií orgánu je samostatne trestné podľa článku 99 nariadenia.
Všeobecné popisy alebo marketingové materiály túto požiadavku nespĺňajú. Uveďte technické špecifikácie, toky údajov a rozhodovacie procesy.
Aktualizujte svoju dokumentáciu vždy, keď upravujete systémy umelej inteligencie alebo nasadzujete nové. Potrebujete priebežné procesy, aby ste zabezpečili, že budúce systémy nezavedú zakázané praktiky.
Požiadavky na gramotnosť v oblasti umelej inteligencie a školenie zamestnancov
Od 2. februára 2025 musia holandské podniky, ktoré poskytujú alebo nasadzujú systémy umelej inteligencie, zabezpečiť, aby ich zamestnanci mali primerané znalosti v oblasti umelej inteligencie. Táto povinnosť platí bez ohľadu na to, či používate systémy umelej inteligencie s vysokým alebo nízkym rizikom.
Zdokumentované školiace programy musia byť prispôsobené úlohám a technickým znalostiam vašich zamestnancov.
Vysvetlenie povinnosti gramotnosti v oblasti umelej inteligencie
Článok 4 zákona EÚ o umelej inteligencii ukladá všetkým poskytovateľom a nasadzovateľom umelej inteligencie zákonnú požiadavku zabezpečiť dostatočnú gramotnosť svojich zamestnancov v oblasti umelej inteligencie. Musíte prijať opatrenia, ktoré zaručia, že zamestnanci a dodávatelia, ktorí sa zaoberajú systémami umelej inteligencie, rozumejú technológii, s ktorou pracujú.
Povinnosť gramotnosti v oblasti umelej inteligencie sa vzťahuje na každého, kto prevádzkuje, používa alebo rozhoduje o systémoch umelej inteligencie vo vašom mene. Patria sem technický personál, ktorý vytvára alebo udržiava systémy umelej inteligencie, ako aj netechnickí zamestnanci, ktorí používajú nástroje umelej inteligencie vo svojej každodennej práci.
Školenie v oblasti umelej inteligencie musíte prispôsobiť úlohe každej osoby, jej technickým znalostiam, skúsenostiam, vzdelaniu a špecifickému kontextu, v ktorom používa systémy umelej inteligencie. Softvérový vývojár implementujúci modely umelej inteligencie potrebuje iné školenie ako zástupca zákazníckeho servisu používajúci chatboty s umelou inteligenciou.
Táto povinnosť od vás vyžaduje, aby ste vynaložili „maximálne úsilie“ na zabezpečenie primeranej úrovne gramotnosti. Nemôžete len tak ponúkať symbolické školenie a tvrdiť, že súlad s predpismi je správny.
Vypracovanie efektívnych vzdelávacích programov
Váš program gramotnosti v oblasti umelej inteligencie by sa mal zaoberať konkrétnymi systémami umelej inteligencie, ktoré vaša organizácia používa, a nie poskytovať všeobecné informácie. Zamestnanci musia rozumieť tomu, ako fungujú konkrétne nástroje umelej inteligencie, s ktorými pracujú, akým sú ich obmedzeniam a potenciálnym rizikám.
Obsah školenia by mal zahŕňať:
- Základné koncepty umelej inteligencie relevantné pre vaše systémy
- Ako správne používať nástroje umelej inteligencie
- Potenciálne skreslenia a chyby vo výstupoch umelej inteligencie
- Keď je potrebný ľudský dohľad
- Zásady a postupy vašej organizácie v oblasti umelej inteligencie
Musíte zvážiť počiatočnú úroveň znalostí každého zamestnanca. Technický personál môže potrebovať pokročilé školenie v oblasti vývoja a testovania modelov, zatiaľ čo bežní používatelia potrebujú praktické poradenstvo v oblasti interpretácie výstupov umelej inteligencie a rozpoznávania, kedy sa výsledky zdajú byť nesprávne.
Poskytovanie školení môže mať rôzne formy vrátane workshopov, online kurzov, koučingu na pracovisku alebo externých programov. Formát je menej dôležitý ako zabezpečenie toho, aby zamestnanci skutočne získali potrebné vedomosti a zručnosti.
Dokumentovanie aktivít v oblasti gramotnosti v oblasti umelej inteligencie
Musíte viesť záznamy o svojich aktivitách v oblasti školení v oblasti umelej inteligencie, aby ste preukázali súlad so zákonom EÚ o umelej inteligencii. Táto dokumentácia slúži ako dôkaz o tom, že ste si splnili svoje zákonné povinnosti.
Vaše záznamy by mali obsahovať:
- Obsah a materiály školiaceho programu
- Zoznamy zamestnancov, ktorí absolvovali školenie
- Termíny a trvanie školení
- Výsledky hodnotenia (ak je to relevantné)
- Ako ste určili vhodnú úroveň gramotnosti pre rôzne pozície
Zdokumentujte svoj proces identifikácie potrieb v oblasti gramotnosti v oblasti umelej inteligencie v celej organizácii. Patria sem aj spôsoby, akými ste posúdili, ktorí zamestnanci potrebujú školenie a aké špecifické znalosti potrebujú na základe ich interakcie so systémami umelej inteligencie.
Veďte si záznamy o tom, ako aktualizujete školenia pri zmene vašich systémov umelej inteligencie alebo pri príchode nových zamestnancov do vašej organizácie. Gramotnosť v oblasti umelej inteligencie nie je jednorazová požiadavka, ale priebežná povinnosť, ktorá sa musí prispôsobovať vášmu vyvíjajúcemu sa využívaniu technológií umelej inteligencie.
Dohľad, presadzovanie a sankcie
Zákon EÚ o umelej inteligencii zavádza viacvrstvovú štruktúru presadzovania práva s významnými finančnými sankciami za nedodržiavanie predpisov. Holandské podniky čelia dohľadu zo strany národných aj európskych orgánov, pričom pokuty za zakázané praktiky umelej inteligencie dosahujú až 7 % celosvetového ročného obratu.
Holandské a európske dozorné orgány
V Holandsku sa architektúra dohľadu stále zavádza. Holandský úrad pre ochranu údajov má koordinačnú úlohu a spolu s holandským úradom pre digitálnu infraštruktúru pripravil rámec pre dohľad nad trhom, ale zákon, ktorý určuje príslušné orgány a udeľuje im právomoci podľa nariadenia, ešte nebol dokončený. Dovtedy existujúce regulačné orgány presadzujú svoje právomoci v rámci svojich vlastných mandátov a holandský úrad pre ochranu údajov zostáva autoritou, s ktorou treba počítať všade, kde systém umelej inteligencie spracováva osobné údaje.
Na európskej úrovni dohliada Európska komisia na implementáciu zákona o umelej inteligencii vo všetkých členských štátoch. Európsky úrad pre umelú inteligenciu, zriadený v rámci Komisie, koordinuje činnosti v oblasti presadzovania práva a poskytuje technické znalosti.
Európska rada pre umelú inteligenciu, zložená zo zástupcov členských štátov, podporuje konzistentné uplatňovanie nariadenia a radí Komisii a spolupracuje s orgánmi na ochranu údajov v prípadoch, keď systémy umelej inteligencie spracúvajú osobné údaje.
Ak prevádzkujete systémy umelej inteligencie vo viacerých krajinách EÚ, môžete čeliť kontrole zo strany dozorných orgánov v každej jurisdikcii, kde sú vaše systémy nasadené alebo majú vplyv.
Sankcie a občianskoprávna zodpovednosť
Porušenie zakázaných praktík podľa článku 5 sa trestá pokutou až do výšky 35 miliónov eur alebo 7 % z vášho celkového celosvetového ročného obratu, podľa toho, ktorá suma je vyššia. Samotný zákaz platí od 2. februára 2025, ale ustanovenia o pokutách podľa nariadenia sa uplatňujú od 2. augusta 2025, takže pokutu možno uložiť za konanie od tohto dátumu. Porušenie ostatných povinností má nižšie stropy: pätnásť miliónov eur alebo tri percentá za nedodržanie požiadaviek na vysoké riziko a sedem a pol milióna eur alebo jedno percento za poskytnutie nesprávnych alebo zavádzajúcich informácií orgánu.
Súdny dvor EÚ (SDEÚ) má konečnú právomoc vykladať ustanovenia zákona o umelej inteligencii. Vnútroštátne súdy sa môžu obrátiť na SDEÚ s otázkami, ak vzniknú spory o tom, čo predstavuje zakázanú prax.
Okrem administratívnych pokút môže osoba poškodená zakázaným systémom podať občianskoprávnu žalobu. Na to neexistuje harmonizovaný európsky režim: navrhovaná smernica o zodpovednosti za umelú inteligenciu bola stiahnutá, takže žaloba v Holandsku sa podáva podľa holandského práva, zvyčajne ako protiprávny čin podľa článku 6:162 Občianskeho zákonníka, a porušenie článku 5 slúži ako dôkaz o porušení zákonnej povinnosti. Členské štáty môžu tiež stanoviť ďalšie sankcie vo vnútroštátnom práve.
Usmernenia od európskych a národných orgánov
Európska komisia zverejnila 4. februára 2025 usmernenia týkajúce sa zakázaných praktík umelej inteligencie. Tieto dokumenty vysvetľujú, ako budú orgány interpretovať zákazy uvedené v článku 5, a poskytujú praktické príklady dodržiavania predpisov.
Hoci tieto usmernenia nie sú záväzné, ponúkajú cenný prehľad o prioritách presadzovania práva. Iba Súdny dvor EÚ môže poskytnúť smerodajné právne výklady.
Holandské orgány dohľadu môžu vydať dodatočné národné usmernenia prispôsobené miestnym obchodným podmienkam. Mali by ste sledovať aktualizácie od európskych aj holandských orgánov, keďže sa vyvíjajú prístupy k presadzovaniu práva.
Tieto usmernenia sú k dispozícii vo všetkých jazykoch EÚ na podporu cezhraničného porozumenia.
Často kladené otázky
Európsky zákon o umelej inteligencii prináša špecifické požiadavky a obmedzenia, ktoré sa od februára 2025 dotknú holandských podnikov. Tieto nariadenia zakazujú určité postupy umelej inteligencie, vyžadujú opatrenia na dodržiavanie predpisov a stanovujú sankcie za porušenia.
Aké sú nové predpisy týkajúce sa používania umelej inteligencie v holandských spoločnostiach od februára?
Európsky zákon o umelej inteligencii nadobudol účinnosť 1. augusta 2024, pričom prvá sada zákazov nadobudla účinnosť 2. februára 2025. Tieto nariadenia sa vzťahujú na všetky holandské podniky, ktoré vyvíjajú, nasadzujú alebo používajú systémy umelej inteligencie v rámci Európskej únie.
Zákon zakazuje manipulatívne systémy umelej inteligencie, ktoré využívajú podprahové techniky na ovplyvňovanie rozhodnutí, ktoré by ľudia za normálnych okolností neurobili. Zakázané sú aj systémy umelej inteligencie, ktoré zneužívajú zraniteľnosti na základe veku, zdravotného postihnutia alebo socioekonomického postavenia.
Systémy sociálneho hodnotenia, ktoré posudzujú jednotlivcov na základe ich sociálneho správania alebo osobných charakteristík, čelia úplnému zákazu. Nariadenia tiež zakazujú hodnotenia rizika založené na umelej inteligencii, ktoré predpovedajú trestné činy výlučne prostredníctvom profilovania alebo analýzy osobnostných čŕt, a nie faktov súvisiacich s trestnou činnosťou.
Biometrické kategorizačné systémy, ktoré z obrázkov tváre alebo odtlačkov prstov odvodzujú rasu, politické názory, členstvo v odboroch, náboženské presvedčenie alebo sexuálnu orientáciu, nie sú povolené. Diaľková biometrická identifikácia v reálnom čase vo verejných priestoroch je zakázaná, s výnimkou prísne vymedzených situácií s osobitným zákonným povolením.
Aký vplyv majú holandské smernice pre umelú inteligenciu z februára 2025 na ochranu súkromia a údajov spotrebiteľov?
Zákon o umelej inteligencii funguje súbežne s existujúcimi nariadeniami o ochrane údajov vrátane GDPR. Holandský úrad pre ochranu údajov poskytuje usmernenia o tom, ako musia systémy umelej inteligencie dodržiavať pravidlá ochrany údajov, najmä pokiaľ ide o automatizované rozhodovanie.
Necielené získavanie obrázkov tváre z internetu alebo záznamov z kamier na vytvorenie alebo rozširovanie databáz rozpoznávania tváre je zakázané. Toto obmedzenie chráni práva jednotlivcov na súkromie a zabraňuje neoprávnenému zhromažďovaniu biometrických údajov.
Systémy umelej inteligencie musia rešpektovať základné práva počas celého svojho životného cyklu. Verejné orgány a subjekty poskytujúce verejné služby musia pri používaní vysokorizikových systémov umelej inteligencie vykonať posúdenie vplyvu na základné práva.
Ktoré činnosti založené na umelej inteligencii už holandské podniky nesmú vykonávať z dôvodu nedávnych legislatívnych zmien?
Vaša firma nemôže používať systémy rozpoznávania emócií na pracovisku ani vo vzdelávacom prostredí. Tieto systémy sú zakázané bez ohľadu na deklarované výhody alebo prípady použitia.
Nemôžete nasadiť systémy umelej inteligencie, ktoré manipulujú s ľuďmi prostredníctvom podprahových techník alebo zneužívajú ich zraniteľnosti. Patria sem aj systémy, ktoré sa zameriavajú na jednotlivcov na základe ich postihnutia, sociálneho postavenia alebo veku s cieľom ovplyvniť ich správanie.
Biometrické kategorizačné systémy, ktoré klasifikujú ľudí na základe citlivých charakteristík, sú zakázané. Umelú inteligenciu nemožno použiť na odvodenie rasy, politických názorov, náboženského presvedčenia alebo sexuálnej orientácie osoby z jej biometrických údajov.
Systémy sociálneho hodnotenia sú úplne zakázané. Nemôžete implementovať umelú inteligenciu, ktorá hodnotí alebo klasifikuje ľudí na základe ich sociálneho správania alebo osobných charakteristík.
Diaľková biometrická identifikácia v reálnom čase vo verejne prístupných priestoroch je na komerčné účely zakázaná . Orgány činné v trestnom konaní môžu takéto systémy používať iba za úzko vymedzených okolností s riadnym zákonným povolením.
Aké kroky musia holandské spoločnosti podniknúť, aby zosúladili svoje systémy umelej inteligencie s normami dodržiavania predpisov stanovenými vo februári?
Musíte identifikovať všetky systémy umelej inteligencie, ktoré vaša organizácia v súčasnosti používa alebo nasadzuje. Tento inventár by mal kategorizovať každý systém podľa klasifikácie rizík definovanej v zákone o umelej inteligencii.
Skontrolujte svoje systémy umelej inteligencie podľa zoznamu zakázaných praktík. Ak používate akékoľvek zakázané systémy, musíte ich okamžite vyradiť, aby ste sa vyhli regulačným sankciám.
Zdokumentujte účely, zdroje údajov a procesy rozhodovania vašich systémov umelej inteligencie. Táto dokumentácia pomáha preukázať súlad s predpismi a podporuje všetky požadované posúdenia vplyvu.
Vysokorizikové systémy majú svoj vlastný súbor povinností vrátane registrácie v európskej databáze a v prípade verejných orgánov a poskytovateľov verejných služieb aj posúdenia vplyvu na základné práva. Tento režim bol odložený: pre systémy uvedené v prílohe III, ako sú nástroje na nábor, bodovanie úverov a riadenie zamestnanosti, sa začína 2. decembra 2027 a pre vysokorizikové systémy, ktoré sú bezpečnostnými komponentmi regulovaných produktov, 2. augusta 2028.
Zaškoľte svojich zamestnancov v nových požiadavkách a zaveďte interné procesy pre priebežné monitorovanie súladu s predpismi. Váš program súladu s predpismi by mal zahŕňať pravidelné kontroly systémov umelej inteligencie, aby sa zabezpečilo, že zostanú v rámci regulačných hraníc.
Existujú nejaké sektorovo špecifické zákazy týkajúce sa umelej inteligencie, o ktorých by si mali byť holandské firmy vedomé v nadväznosti na nové nariadenia?
Organizácie v sektore vzdelávania čelia špecifickým obmedzeniam. Na monitorovanie študentov alebo hodnotenie ich emocionálnych stavov nemôžete používať systémy rozpoznávania emócií bez ohľadu na zamýšľaný vzdelávací prínos.
Pracovné prostredie má podobné obmedzenia. Zamestnávatelia nemôžu nasadiť umelú inteligenciu na rozpoznávanie emócií na monitorovanie emocionálnych stavov alebo reakcií zamestnancov počas pracovných činností.
Orgány činné v trestnom konaní majú obmedzené výnimky pre biometrické identifikačné systémy. Tieto výnimky vyžadujú prísne zákonné povolenie a vzťahujú sa len na špecifické situácie, ako je hľadanie obetí únosov, predchádzanie bezprostredným hrozbám alebo sledovanie podozrivých zo závažných trestných činov.
Verejné orgány poskytujúce verejné služby čelia ďalším požiadavkám nad rámec všeobecných zákazov. Pre všetky vysoko rizikové systémy umelej inteligencie musíte vykonať posúdenia vplyvu na základné práva a zaregistrovať tieto systémy v európskej databáze.
Aké sú sankcie za nedodržanie obmedzení týkajúcich sa umelej inteligencie zavedených v Holandsku vo februári 2025?
Regulačné orgány môžu uložiť značné pokuty za nedodržiavanie zákona o umelej inteligencii. Štruktúra sankcií sa riadi stupňovitým prístupom založeným na závažnosti porušenia.
Používanie zakázaných systémov umelej inteligencie predstavuje najzávažnejšiu kategóriu porušení. Vaša organizácia riskuje značné finančné pokuty, ak bude pokračovať v prevádzke zakázaných systémov aj po termíne vo februári 2025.
Presná výška pokút závisí od toho, či sa vaša organizácia kvalifikuje ako malý a stredný podnik alebo väčšia spoločnosť. Regulačné orgány zohľadňujú faktory, ako je povaha porušenia, jeho trvanie a akákoľvek spôsobená škoda.
Okrem finančných sankcií môže nedodržiavanie predpisov poškodiť reputáciu vašej organizácie. Jednotlivci poškodení zakázanými systémami umelej inteligencie sa môžu domáhať ďalších nápravných opatrení prostredníctvom občianskoprávneho konania.
Holandský úrad na ochranu údajov a ďalšie regulačné orgány majú právomoci v oblasti presadzovania práva. Môžu vyšetrovať sťažnosti, vykonávať audity a požadovať okamžité ukončenie zakázaných praktík.
Law & More poskytuje poradenstvo podnikom v oblasti zákona o umelej inteligencii v praxi: kontroluje už používané systémy oproti zákazom podľa článku 5, posudzuje, kde sa prípad použitia nachádza blízko hranice medzi povolenou a zakázanou praxou, zavádza opatrenia v oblasti gramotnosti v oblasti umelej inteligencie podľa článku 4 a pripravuje sa na záväzky s vysokým rizikom, ktoré nasledujú v decembri 2027. V prípadoch, keď systém umelej inteligencie spracováva aj osobné údaje, zároveň posudzujeme aj pozíciu GDPR, pretože práve tam je dnes k dispozícii presadzovanie práva.
