Nástroje umelej inteligencie ako ChatGPT a DALL-E dokážu vytvoriť text, obrázky a iný obsah v priebehu niekoľkých sekúnd. Keď však dielo vygenerované umelou inteligenciou obsahuje chyby, porušuje niečie autorské práva alebo spôsobuje škodu, otázka, kto je za to zodpovedný, sa skomplikuje.
Holandské a európske právo zatiaľ nemajú jasné pravidlá určené špeciálne pre zodpovednosť umelej inteligencie. To necháva používateľov, vývojárov a podniky v neistote ohľadom ich právneho rizika.
Podľa súčasného holandského a európskeho práva, zodpovednosť za obsah vytvorený umelou inteligenciou zvyčajne znáša osoba alebo spoločnosť, ktorá systém umelej inteligencie nasadila. Vývojári môžu tiež čeliť zodpovednosti v závislosti od okolností a typu chyby.
Zákon EÚ o AI zavádza nové povinnosti na základe úrovní rizika. Existujúce autorské práva zákon, pravidlá zodpovednosti za výrobok a zmluvné právo zohrávajú úlohu pri určovaní toho, kto musí zodpovedať za chyby umelej inteligencie.
Právna situácia sa rýchlo vyvíja, keďže súdy a regulačné orgány pracujú na aplikácii tradičných rámcov na túto novú technológiu.
Obsah a zodpovednosť generovaný umelou inteligenciou: Kľúčové otázky podľa holandského a európskeho práva
Systémy umelej inteligencie teraz vytvárajú text, obrázky, videá a iný materiál bez priameho ľudského autorstva. To vyvoláva otázky o tom, kto nesie zodpovednosť, keď tieto výstupy obsahujú chyby.
holandské právo a Predpisy EÚ pristupujú k zodpovednosti prostredníctvom zavedených rámcov, ktoré nie sú určené pre autonómne systémy umelej inteligencie. To vytvára medzery v právnej ochrane a zodpovednosti.
Definícia a typy obsahu generovaného umelou inteligenciou
Obsah generovaný umelou inteligenciou označuje materiál vytvorený systémami umelej inteligencie trénovanými na rozsiahlych súboroch údajov. Tieto systémy produkujú výstupy na základe používateľských pokynov alebo inštrukcií.
Na generovanie odpovedí bez ľudského zásahu do samotného procesu tvorby využívajú strojové učenie. Obsah má niekoľko podôb.
Generovanie textu zahŕňa články, správy a písomnú komunikáciu vytvorenú pomocou rozsiahlych jazykových modelov. Vizuálny obsah zahŕňa obrázky, grafiku a videá vytvorené pomocou generatívnych nástrojov umelej inteligencie.
Audio výstupy zahŕňajú syntetickú reč, hudbu a zvukové efekty. Vaša interakcia so systémami umelej inteligencie zvyčajne zahŕňa poskytnutie výzvy alebo inštrukcie, po ktorej umelá inteligencia automaticky generuje obsah.
Systém umelej inteligencie spracováva vzory naučené z tréningových dát a vytvára nový materiál, ktorý predtým neexistoval. To sa líši od tradičného softvéru, ktorý sa riadi explicitnými programovacími inštrukciami.
Tradičné nástroje vykonávajú vaše špecifické príkazy, zatiaľ čo systémy umelej inteligencie robia nezávislé rozhodnutia na základe pravdepodobnostných modelov. Môžete požiadať o „právne zhrnutie zmluvného práva“ a dostať obsah, ktorý sa javí ako smerodajný, ale obsahuje chyby, ktoré systém umelej inteligencie vygeneroval bez vášho vedomia alebo priameho vstupu.
Základné princípy holandskej a európskej zodpovednosti
Holandské právo zakladá zodpovednosť na niekoľkých základných princípoch, keď systémy umelej inteligencie spôsobia škodu. Objektívna zodpovednosť vás zodpovedá za škody spôsobené chybnými výrobkami alebo nebezpečnými činnosťami bez ohľadu na zavinenie.
Zodpovednosť za delikt vyžaduje preukázanie protiprávneho konania, škody a príčinnej súvislosti medzi týmito dvoma faktormi. EÚ vyvíja harmonizované pravidlá prostredníctvom navrhovaných právnych predpisov.
Smernica o zodpovednosti za umelú inteligenciu sa zameriava na riešenie medzier v existujúcich rámcoch zmiernením dôkazného bremena pre žalobcov. Ako nasadzovateľ by ste čelili zodpovednosti, ak by systém umelej inteligencie pri nasadení nebol vhodný na zamýšľaný účel.
Zodpovednosť za produkt podľa práva EÚ sa uplatňuje, keď sa systémy umelej inteligencie uvádzajú na trh ako produkty. Výrobcovia znášajú objektívna zodpovednosť za chyby, ktoré spôsobujú poškodenie.
Ak profesionálne nasadíte systém umelej inteligencie, môžete byť považovaní za profesionálneho používateľa so zvýšenou zodpovednosťou. Holandské právo uznáva výnimku založenú na neprimeranosti.
Objektívnej zodpovednosti sa môžete vyhnúť, ak by bolo branie vás na zodpovednosť vzhľadom na okolnosti neprimerané. Táto výnimka vyžaduje posúdenie faktorov vrátane vášho vzťahu k systému umelej inteligencie, vašej schopnosti predchádzať škodám a rozloženia rizika.
Rozsah a kontext chýb vo výstupoch umelej inteligencie
Chyby vo výstupoch umelej inteligencie majú rôzne formy s rôznymi právnymi dôsledkami. Faktické nepresnosti dochádza, keď systémy umelej inteligencie generujú nepravdivé informácie prezentované ako pravda.
porušenie autorských práv stane sa to, keď výstupy reprodukujú chránené diela bez povolenia. Porušovanie súkromia vznikajú, keď systémy umelej inteligencie neoprávnene zverejňujú osobné údaje.
Predvídateľnosť systémov umelej inteligencie ovplyvňuje posúdenie zodpovednostiNie vždy je možné predvídať, aký obsah systém umelej inteligencie vygeneruje, pretože tieto systémy fungujú prostredníctvom zložitých neurónových sietí a nie transparentných pravidiel.
Táto nepredvídateľnosť komplikuje tradičné rámce zodpovednosti, ktoré predpokladajú, že môžete kontrolovať alebo predpovedať výsledky. Profesionálne kontexty výrazne zvýšiť stávky.
Ak používate obsah generovaný umelou inteligenciou v právnom poradenstve, lekárskych informáciách alebo finančnom poradenstve, chyby môžu spôsobiť značnú škodu príjemcom, ktorí sa spoliehajú na presnosť. Vaša povinnosť starostlivosti sa zvyšuje, keď nasadzujete systémy umelej inteligencie v profesionálnom prostredí.
Načasovanie chýb je podľa holandského práva a práva EÚ dôležité. Testovanie pred nasadením môže preukázať primeranú starostlivosť, zatiaľ čo monitorovanie po nasadení preukazuje pretrvávajúcu zodpovednosť.
Nesiete väčšie riziko zodpovednosti, ak nasadíte systém umelej inteligencie s vedomím, že v určitých kontextoch spôsobuje chyby, ale neupozorníte používateľov alebo neimplementujete ochranné opatrenia.
Právny rámec pre obsah generovaný umelou inteligenciou
Holandské právo kombinuje vnútroštátne ustanovenia s nariadeniami EÚ s cieľom riešiť obsah generovaný umelou inteligenciou. Zákon EÚ o umelej inteligencii stanovuje požiadavky založené na riziku pre systémy AI.
Oba rámce sa prelínajú s ochranou základných práv, ktoré formujú zodpovednosť a správu obsahu.
Relevantné holandské právne ustanovenia
Holandský občiansky zákonník tvorí základ pre nároky z titulu zodpovednosti súvisiace s chybami obsahu vytvorenými umelou inteligenciou. Článok 6:162 stanovuje zodpovednosť za delikty za nezákonné činy, ktoré sa uplatňuje, keď obsah umelej inteligencie spôsobuje škodu prostredníctvom ohovárania, porušovania súkromia alebo zavádzajúcich informácií.
Môžete sa domáhať náhrady škody, ak niečia nedbanlivosť pri nasadzovaní systémov umelej inteligencie vedie k škodlivému obsahu. Holandský zákon o autorských právach (Auteurswet) sa riadi tradičnými princípmi autorských práv.
Na ochranu autorských práv si vyžaduje ľudské autorstvo, čo znamená, že obsah vytvorený výlučne umelou inteligenciou bez podstatného ľudského tvorivého vstupu nemôže byť v Holandsku chránený autorským právom. Autorské práva však môžete vlastniť, ak významne kreatívne prispejete k usporiadaniu alebo úprave výstupov umelej inteligencie.
Holandské súdy uplatňujú článok 6:173 Občianskeho zákonníka v prípade zodpovednosti za výrobok. Toto ustanovenie sa môže vzťahovať na systémy umelej inteligencie, ktoré produkujú chybné výstupy.
Holandský úrad na ochranu údajov (Autoriteit Persoonsgegevens) presadzuje Súlad s GDPR pre systémy umelej inteligencie spracúvajúce osobné údaje. To ovplyvňuje, ako môžete legálne používať a vytvárať obsah.
Legislatíva EÚ upravujúca umelú inteligenciu a obsah
Zákon EÚ o AI, ktorá nadobúda účinnosť postupne v rokoch 2026 – 2027, klasifikuje systémy umelej inteligencie podľa úrovne rizika. Vysoko rizikové aplikácie umelej inteligencie čelia prísnym požiadavkám vrátane transparentnosti, ľudského dohľadu a štandardov presnosti.
Musíte zabezpečiť, aby vaše systémy obsahu s umelou inteligenciou spĺňali tieto povinnosti, ak patria do kategórií s vysokým rizikom, ako sú tie, ktoré ovplyvňujú základné práva. Smernica 2009 / 24 / ES chráni počítačové programy vrátane samotného softvéru umelej inteligencie.
Smernica udeľuje autorské práva ľudským vývojárom a zároveň stanovuje pravidlá pre zákonné používanie softvéru. Jednotný digitálny trh Stratégia harmonizuje pravidlá pre obsah v členských štátoch, čo ovplyvňuje spôsob distribúcie materiálov vytvorených umelou inteligenciou cez hranice.
Smernice EÚ o autorských právach vyžadujú, aby členské štáty chránili originálne diela ľudského autorstva Súdny dvor Európskej únie (Súdny dvor EÚ) vykladá tieto zákony a vytvára precedensy, ktorými sa riadia vnútroštátne súdy.
Nedávne rozhodnutia Súdneho dvora EÚ zdôrazňujú, že ľudské tvorivé rozhodnutia sú nevyhnutné pre ochranu autorských práv.
Dôsledky pre ľudské práva a základné slobody
Charta základných práv Európskej únie Článok 11 chráni vaše sloboda prejavu, ktoré sa vzťahuje aj na obsah generovaný umelou inteligenciou. Toto právo však vyvažuje iné ochrany, ako je ochrana súkromia (článok 7) a ochrana údajov (článok 8).
Slobodu prejavu nemôžete použiť na ospravedlnenie škodlivého obsahu umelej inteligencie, ktorý porušuje základné práva iných. Článok 1 chráni ľudskú dôstojnosť a obmedzuje spôsob, akým nasadzujete systémy umelej inteligencie, ktoré vytvárajú obsah ovplyvňujúci jednotlivcov.
Súdny dvor EÚ rozhodol, že automatizované rozhodovanie musí rešpektovať ľudskú dôstojnosť a autonómiu. Musíte zaviesť záruky, keď obsah umelej inteligencie ovplyvňuje významné rozhodnutia týkajúce sa ľudí.
Článok 47 zaručuje účinné prostriedky nápravy a spravodlivé súdne procesy. To znamená, že osoby poškodené chybami v obsahu vytvoreným umelou inteligenciou musia mať prístup k spravodlivosti.
Mali by ste zaviesť jasné mechanizmy zodpovednosti, aby dotknuté strany mohli identifikovať zodpovedné strany a domáhať sa nápravy prostredníctvom holandských alebo európskych súdov.
Uvedenie autora a vlastníctvo diel vytvorených umelou inteligenciou
Podľa holandského a EÚ zákon o duševnom vlastníctve, ochrana autorských práv vyžaduje ľudské autorstvo a originalitu. To vytvára značné výzvy, keď systémy umelej inteligencie generujú obsah s minimálnym ľudským zásahom.
Vaše vlastnícke práva závisia od preukázateľnej duševnej tvorby a úrovne tvorivého vkladu, ktorým prispejete k výslednému dielu.
Kritériá pre ochranu autorských práv
Autorské právo EÚ, tak ako je implementované v holandskej legislatíve, stanovuje prísne požiadavky na ochranu. Vaše dielo musí pochádzať od ľudského autora, ktorý vykonáva kreatívne rozhodnutia.
Súdny dvor Európskej únie vo viacerých rozhodnutiach potvrdil, že diela chránené autorským právom vyžadujú ľudského tvorcu, ktorý vtisne materiálu svoj „osobný dotyk“. Diela vytvorené umelou inteligenciou predstavujú v tomto rámci jedinečné ťažkosti.
Ak jednoducho zadáte výzvu do systému umelej inteligencie a použijete výstup bez úprav, pravdepodobne nemáte žiadnu ochranu autorských práv. Samotná umelá inteligencia nemôže obsahovať Práva duševného vlastníctva keďže nemá právnu subjektivitu.
Kľúčové požiadavky, ktoré musíte splniť:
- Ľudské autorstvo musí byť preukázateľné
- Práca musí odrážať vaše kreatívne rozhodnutia
- Musíte prispieť originálnym intelektuálnym vkladom
- Výstup nemôže byť čisto mechanický alebo automatizovaný
Holandské súdy sa riadia zásadami smernice o informačnej spoločnosti (Infosociate Directive), ktoré priamo viažu autorstvo na fyzické osoby. To znamená, že vaše nároky na vlastníctvo závisia výlučne od preukázania vášho tvorivého príspevku k dielu.
Požiadavky na originalitu a intelektuálnu tvorbu
Aby vaše dielo získalo autorskoprávnu ochranu podľa holandského práva a práva EÚ, musí predstavovať „intelektuálny výtvor“ odrážajúci vašu osobnosť. Táto hranica presahuje rámec obyčajnej novosti.
Musíte preukázať, že kreatívne rozhodnutia formovali konečný výstup. Pri použití nástrojov umelej inteligencie je ťažké preukázať originalitu.
Systém vytvára štatistické predpovede na základe tréningových údajov, a nie kreatívnych úsudkov. Vaša úloha pri výbere výziev, kurátorovaní výstupov alebo úprave výsledkov určuje, či spĺňate štandard duševnej tvorby.
Svoju vlastnícku pozíciu môžete posilniť:
- Dokumentovanie vášho kreatívneho procesu a rozhodnutí
- Vykonávanie podstatných úprav výstupov umelej inteligencie
- Kombinácia prvkov generovaných umelou inteligenciou s originálnym obsahom vytvoreným človekom
- Zmysluplná kontrola nad kreatívnym smerovaním
Holandský zákon o autorských právach vyžaduje, aby sa na diele nachádzala vaša osobná pečiatka. Všeobecné alebo minimálne pokyny zvyčajne tomuto testu neprejdú.
Výzvy týkajúce sa autorstva a ľudského vstupu
Pri nárokovaní autorstva diel vytvorených s pomocou umelej inteligencie čelíte značným problémom s dokazovaním. Holandské právo duševného vlastníctva predpokladá, že osoba, ktorá dielo vytvorila, je držiteľom práv, ale dokazovanie vytvorenia sa stáva zložitým so zapojením umelej inteligencie.
Úroveň vášho ľudského vstupu priamo ovplyvňuje vaše nároky na autorstvo. Ak rozsiahlo upravujete, usporiadate alebo transformujete výstupy umelej inteligencie prostredníctvom kreatívnych rozhodnutí, posilňujete si svoju pozíciu autora.
Súdy posudzujú, či vaše intelektuálne úsilie predstavuje dominantnú tvorivú silu. Bežné scenáre a ich dôsledky:
| Tvoja roľa | Pravdepodobný výsledok |
|---|---|
| Iba minimálny výzva na zadanie | Žiadna ochrana autorských práv |
| Rýchle spresnenie plus výber výstupu | Neistá ochrana |
| Významné úpravy a aranžmány | Možná ochrana |
| UI ako nástroj s ľudskou tvorivou kontrolou | Silné tvrdenie o ochrane |
Mali by ste si viesť podrobné záznamy o svojich kreatívnych príspevkoch. Zdokumentujte svoje výberové kritériá, rozhodnutia o úpravách a zdôvodnenie kompozičných rozhodnutí.
Tieto dôkazy sú kľúčové, ak potrebujete v sporoch obhajovať svoje práva duševného vlastníctva. Ľudská kreativita zostáva základným kameňom ochrany autorských práv.
Vaše vlastníctvo závisí od preukázania, že vy, nie systém umelej inteligencie, ste urobili kreatívne rozhodnutia, ktoré definujú pôvodný charakter diela.
Zodpovednosť za chyby a porušenia v obsahu vytvorenom umelou inteligenciou
Keď systémy umelej inteligencie vytvárajú chyby alebo obsah porušujúci autorské práva, zodpovednosť zvyčajne padá na používateľov, vývojárov alebo obe strany v závislosti od ich úloh a povinností. Zákon EÚ o umelej inteligencii a navrhované smernice o zodpovednosti stanovujú rôzne štandardy pre vysoko rizikové systémy umelej inteligencie a modely umelej inteligencie na všeobecné použitie, pričom v určitých scenároch presúvajú dôkazné bremeno.
Zodpovednosť používateľov a nasadzovateľov
Ty znášaš primárna zodpovednosť keď nasadzujete systémy umelej inteligencie na obchodné účely alebo ich integrujete do svojich služieb. Ak používate ChatGPT alebo podobné nástroje na generovanie obsahu pre webovú stránku vašej spoločnosti a tento obsah obsahuje nepravdivé informácie, môžete čeliť zodpovednosti za nedbanlivosť.
Vaša zodpovednosť sa vzťahuje aj na situácie, keď pred zverejnením neoveríte výstupy umelej inteligencie. Súdy rozhodli, že spoločnosti používajúce chatboty na interakciu so zákazníkmi zostávajú zodpovedné za všetky poskytnuté informácie, a to aj v prípade, že umelá inteligencia generuje odpovede samostatne.
Medzi kľúčové povinnosti používateľa patria:
- Overenie faktickej presnosti pred publikovaním obsahu generovaného umelou inteligenciou
- Implementácia ľudského dohľadu nad vysoko rizikovými aplikáciami
- Jasné vyhlásenia o vylúčení zodpovednosti za informácie generované umelou inteligenciou
- Pravidelné monitorovanie výstupov, či neobsahujú chyby alebo škodlivý obsah
V prípade vysokorizikových systémov umelej inteligencie musíte vykonávať posúdenia zhody a viesť podrobnú dokumentáciu o tom, ako technológiu nasadzujete. Zákon EÚ o umelej inteligencii vyžaduje zvýšenú náležitú starostlivosť pri používaní umelej inteligencie v odvetviach, ako je zdravotníctvo, zamestnanosť alebo presadzovanie práva.
Povinnosti vývojárov a poskytovateľov
Vývojári umelej inteligencie čelia zodpovednosti, ak ich systémy obsahujú zásadné konštrukčné chyby alebo im chýbajú primerané bezpečnostné opatrenia. Spoločnosti ako OpenAI musia zabezpečiť, aby ich modely spĺňali technické štandardy a poskytovali jasné upozornenia na obmedzenia.
Nemôžete sa úplne chrániť len podmienkami služby. Hoci tvrdenie, že výstupy „nemusia byť vždy presné“, ponúka určitú ochranu, súdy skúmajú, či ste podnikli primerané kroky na zabránenie predvídateľnej škody.
Ak vyviniete chatbota na poskytovanie lekárskych rád bez riadneho testovania, vyhlásenia o odmietnutí zodpovednosti vás nemusia ochrániť pred zodpovednosťou.
Povinnosti vývojárov podľa pravidiel EÚ:
| typ systému | Základné požiadavky |
|---|---|
| Vysoko rizikové systémy AI | Posudzovanie zhody, riadenie rizík, správa údajov, dokumentácia transparentnosti |
| Modely umelej inteligencie na všeobecné účely | Technická dokumentácia, dodržiavanie autorských práv, zverejňovanie informácií o energetickej účinnosti |
| Všetky systémy | Normy presnosti, testovacie protokoly, návod na použitie |
V prípade univerzálnych modelov umelej inteligencie musíte zverejniť zdroje trénovacích údajov a preukázať súlad s autorským právom. Navrhované pravidlá EÚ vyžadujú, aby ste identifikovali a zmiernili systémové riziká, najmä v prípade modelov s rozsiahlym nasadením.
Scenáre spoločnej a nerozdielnej zodpovednosti
Zodpovednosť môžete zdieľať s inými stranami, keď viacerí aktéri prispievajú k škode spôsobenej obsahom generovaným umelou inteligenciou. Ak nasadíte systém umelej inteligencie vyvinutý inou spoločnosťou a tento systém produkuje hanlivý obsah, môžete čeliť nárokom vy aj vývojár.
Spoločná zodpovednosť zvyčajne vzniká, keď zmluvné strany nedokážu objasniť svoje zodpovednosti. Môžete byť spoločne zodpovední so svojím poskytovateľom umelej inteligencie, ak upravíte jeho systém spôsobom, ktorý zvyšuje riziko, alebo ak ignorujete známe obmedzenia pri nasadení.
Prípad spoločnosti Air Canada demonštruje túto zásadu. Letecká spoločnosť sa nemohla vyhnúť zodpovednosti tvrdením, že jej chatbot fungoval nezávisle, hoci základnú technológiu vyvinula samostatná spoločnosť.
Bežné scenáre spoločnej zodpovednosti:
- Prispôsobovanie systémov umelej inteligencie bez adekvátneho testovania
- Nasadenie systémov mimo ich zamýšľaného použitia
- Nedodržanie odporúčaných bezpečnostných opatrení
- Zdieľanie kontroly nad generovaním a publikovaním obsahu
Rozdelenie dôkazného bremena a povinností starostlivosti
Navrhovaná smernica EÚ o zodpovednosti za umelú inteligenciu presúva dôkazné bremeno vo váš prospech, keď utrpíte škodu spôsobenú systémami umelej inteligencie. Vývojári musia preukázať, že splnili svoje povinnosti starostlivosti, a nie vy, aby ste dokazovali, že došlo k nedbanlivosti.
Toto zvrátenie sa vzťahuje najmä na vysoko rizikové systémy umelej inteligencie a situácie, v ktorých nemáte primeraný prístup k informáciám o tom, ako umelá inteligencia funguje. Stále však musíte preukázať, že skutočne došlo k ujme a preukážte vierohodné prepojenie medzi výstupom umelej inteligencie a vašimi škodami.
Vaše povinnosti starostlivosti závisia od vašej úlohy. Ak nasadíte umelú inteligenciu, musíte:
- Udržiavajte systémy podľa pokynov poskytovateľa
- Monitorovanie výkonu a identifikácia zhoršenia
- Obmedziť prístup len na oprávnený personál
- Dokumentácia incidentov a nezvyčajných výstupov
Pre vývojárov povinnosti starostlivosti zahŕňajú priebežné monitorovanie po nasadení, poskytovanie včasných aktualizácií pri objavení sa chýb a udržiavanie technickej dokumentácie, ktorú môžu preskúmať súdy. Tieto povinnosti sa sprísňujú pre vysoko rizikové aplikácie, kde by chyby mohli spôsobiť značné škody.
Deepfakes predstavujú jedinečné výzvy, pretože na konečnom výstupe prispieva viacero strán. Za vytvorenie, distribúciu alebo nesprávne označenie syntetických médií môžete čeliť zodpovednosti, a to aj pri použití nástrojov vyvinutých inými.
Porušenie autorských práv a školiace údaje: Právne riziká
Trénovanie generatívnych modelov umelej inteligencie materiály chránené autorskými právami vytvára odlišné expozícia zodpovednosti podľa autorského práva EÚ, najmä prostredníctvom rámcov smernice o informačnej spoločnosti a smernice o jednotnom digitálním a digitálnom trhu (DSM). Reprodukcia diel chránených autorským právom počas odbornej prípravy zahŕňa výlučné práva, zatiaľ čo výnimky týkajúce sa dolovania textu a dát poskytujú obmedzené bezpečné útočiská za určitých podmienok.
Porušenie počas fázy školenia a výstupu
Trénovacia fáza generatívnych modelov umelej inteligencie zvyčajne zahŕňa kopírovanie celých diel chránených autorskými právami do súborov údajov, čo predstavuje reprodukciu podľa článku 2 smernice o informačnej spoločnosti. Toto platí bez ohľadu na to, či kópie pretrvávajú aj po ukončení trénovania, alebo či počas predspracovania existujú iba ako dočasné súbory.
Vaša zodpovednosť presahuje rámec priameho kopírovania. Ak používate súbory údajov tretích strán zostavené neoprávneným scrapingom, môžete čeliť sekundárnej zodpovednosti za porušenie, ku ktorému došlo počas vytvárania súboru údajov.
Výstupná fáza vytvára ďalšie riziká, keď generatívna umelá inteligencia vytvára obsah, ktorý je v podstate podobný tréningovým dátam. Vlastníci autorských práv môžu nárok na porušenie ak váš model generuje diela, ktoré reprodukujú alebo veľmi blízko napodobňujú chránený prejav.
Súdy posudzujú porušenie na základe skúmania kopírovania aj podstatnej podobnosti. Vaše použitie školiacimi údajmi chránenými autorskými právami preukazuje prvok kopírovania, zatiaľ čo podobnosť výstupu s konkrétnymi chránenými dielami dopĺňa analýzu porušenia.
Výnimky dolovania textu a dát (TDM)
Smernica o jednotnom a digitálnom spotrebiteľskom trhu (DSM) zaviedla dve výnimky pre TDM, ktoré môžu za určitých podmienok povoliť školenie o materiáloch chránených autorskými právami. Článok 3 umožňuje výskumným organizáciám a inštitúciám kultúrneho dedičstva vykonávať TDM na účely vedeckého výskumu.
Článok 4 poskytuje širšiu výnimku pre akýkoľvek subjekt vykonávajúci TDM vrátane komerčných vývojárov umelej inteligencie. Článok 4 však obsahuje kritické obmedzenia.
Držitelia práv sa môžu odhlásiť tak, že si svoje práva rezervujú „vhodným spôsobom, napríklad strojovo čitateľnými prostriedkami“. Tento mechanizmus odhlásenia výrazne obmedzuje praktický rozsah výnimky, keďže veľkí vydavatelia a platformy obsahu čoraz častejšie zavádzajú technické opatrenia blokujúce školenia umelej inteligencie.
Na výnimky TDM sa nemôžete spoliehať, ak:
- Držitelia práv si výslovne vyhradili svoje práva technickými alebo zmluvnými prostriedkami
- Získali ste prístup k dielam neoprávnenými prostriedkami alebo v rozpore s podmienkami používania
- Vaše použitie presahuje rámec nevyhnutného na účely TDM, napríklad uchovávanie úplných kópií nad rámec požiadaviek na školenie.
Výnimka tiež vyžaduje zákonný prístup k dielam. Zbieranie obsahu z webových stránok, ktoré zakazujú automatizovaný prístup, pravdepodobne nespadá pod túto výnimku, a to aj bez výslovných výhrad autorských práv.
Záruky podľa smerníc DSM a InfoSoc
Smernica o jednotnom digitálním trhu (DSM) vyžaduje, aby členské štáty zaviedli záruky chrániace držiteľov práv a zároveň umožňovali legitímne činnosti v oblasti dočasného obchodovania (TDM). Tieto záruky vyvažujú inovačné záujmy s ochranou autorských práv prostredníctvom špecifických požiadaviek na dodržiavanie predpisov.
Musíte zabezpečiť, aby vaše aktivity TDM spĺňali požiadavky proporcionality. To znamená uchovávať kópie len tak dlho, ako je to potrebné na účely školenia, a implementovať bezpečnostné opatrenia, ktoré zabraňujú neoprávnenému prístupu k materiálom chráneným autorskými právami vo vašich súboroch údajov.
Trvalé uchovávanie kompletných diel chránených autorským právom môže presiahnuť rámec povolený výnimkou. Práva k databázam podľa smernice 96/9/ES vytvárajú dodatočné riziko zodpovednosti.
Školenie na podstatných častiach chránených databáz môže porušovať sui generis právo k databáze, ktoré funguje nezávisle od ochrany autorských práv. Právo k databáze bráni extrakcii a opätovnému použitiu obsahu databázy, čo môže zahŕňať aj zostavovanie rozsiahlych súborov údajov na účely školenia umelej inteligencie.
Implementácie v členských štátoch sa líšia v spôsobe, akým interpretujú a uplatňujú tieto záruky. Niektoré jurisdikcie uplatňujú prísnejšie požiadavky na komerčné činnosti TDM v porovnaní s nekomerčným výskumom, zatiaľ čo iné poskytujú jednotnejšie zaobchádzanie v rôznych prípadoch použitia.
Klasifikácia rizík a súlad s predpismi podľa zákona EÚ o umelej inteligencii
Zákon EÚ o umelej inteligencii používa štvorúrovňový systém rizík na reguláciu systémov umelej inteligencie na základe ich potenciálnej škodlivosti. Rôzne úrovne rizika spúšťajú rôzne požiadavky na súlad, od úplných zákazov až po ľahšie povinnosti transparentnosti.
Kategórie rizika pre systémy umelej inteligencie
Zákon EÚ o umelej inteligencii rozdeľuje systémy umelej inteligencie do štyroch odlišných kategórií rizika. Každá kategória určuje, aké pravidlá musíte dodržiavať pri vývoji alebo nasadení umelej inteligencie.
Neprijateľné riziko systémy sú podľa zákona úplne zakázané. Patria sem systémy umelej inteligencie, ktoré manipulujú s ľudským správaním, zneužívajú zraniteľnosti alebo umožňujú vládam sociálne bodovanie.
Tieto systémy nemôžete za žiadnych okolností nasadiť v EÚ. Vysoko rizikové systémy AI čelia najprísnejším požiadavkám.
Zákon ich definuje ako umelú inteligenciu používanú ako bezpečnostné komponenty v regulovaných produktoch alebo systémoch umelej inteligencie uvedených v špecifických oblastiach, ako je zamestnanosť, vzdelávanie, presadzovanie práva a kontrola hraníc. Ak váš systém umelej inteligencie patrí do kategórií podľa prílohy III, ako sú náborové nástroje alebo systémy kreditného hodnotenia, musíte spĺňať rozsiahle povinnosti.
Obmedzené riziko systémy musia spĺňať požiadavky na transparentnosť. Medzi tieto systémy patria chatboty a generátory deepfake.
Musíte informovať používateľov, že interagujú s umelou inteligenciou. Minimálne riziko systémy nečelia žiadnym špecifickým povinnostiam nad rámec všeobecných právnych predpisov.
Väčšina aplikácií s umelou inteligenciou patrí do tejto kategórie, vrátane spamových filtrov a videohier s umelou inteligenciou.
Povinnosti a požiadavky na transparentnosť
Vysokorizikové systémy umelej inteligencie nesú so sebou významné povinnosti v oblasti dodržiavania predpisov. Musíte zaviesť systémy riadenia rizík, udržiavať technickú dokumentáciu a zabezpečiť ľudský dohľad.
Požiadavky na riadenie údajov nariaďujú používanie vysokokvalitných tréningových údajov a uchovávanie podrobných záznamov o operáciách systému. Poskytovatelia generatívnych systémov umelej inteligencie čelia špecifickým povinnostiam týkajúcim sa transparentnosti podľa článku 50.
Obsah generovaný umelou inteligenciou musíte označiť v strojovo čitateľných formátoch a zabezpečiť, aby výstupy boli detekovateľné ako umelo generované. Toto platí pre zvukový, obrazový, video a textový obsah.
Nasadzovatelia musíte zverejniť deepfaky, ktoré pripomínajú skutočné osoby alebo udalosti. Ak publikujete text vygenerovaný umelou inteligenciou o záležitostiach verejného záujmu, musíte o tom informovať čitateľov, pokiaľ obsah neprešiel ľudskou kontrolou a redakčným dohľadom.
Technické riešenia, ktoré implementujete, musia byť účinné, interoperabilné a robustné. Európsky úrad pre umelú inteligenciu zaviedol kódexy postupov, ktoré vám pomôžu preukázať súlad s týmito požiadavkami na označovanie a označovanie.
Úloha národných a európskych orgánov dohľadu
Európsky úrad pre umelú inteligenciu dohliada na implementáciu zákona o umelej inteligencii na úrovni EÚ. Tento úrad vypracováva usmernenia, koordinuje vnútroštátne orgány a sprostredkúva kódexy postupov pre vznikajúce technológie umelej inteligencie.
Národné dozorné orgány v každom členskom štáte presadzujú požiadavky zákona. Tieto orgány môžu vyšetrovať sťažnosti, vykonávať audity a ukladať sankcie za nedodržiavanie predpisov.
V Holandsku budú určené orgány riešiť presadzovanie predpisov v súvislosti so systémami umelej inteligencie nasadenými alebo používanými v rámci holandskej jurisdikcie. Nedodržiavanie predpisov sa stretáva s prísnymi sankciami.
Mohli by vám byť udelené pokuty až do výšky 35 miliónov eur alebo 7 % vášho globálneho ročného obratu, podľa toho, ktorá suma je vyššia. Výška pokuty závisí od typu porušenia a veľkosti vašej organizácie.
Úrady posúdia, či je vaša klasifikácia systému umelej inteligencie správna a či ste splnili príslušné povinnosti. Môžu od vás vyžadovať úpravu systémov, pozastavenie nasadzovania alebo stiahnutie produktov z trhu.
Zmluvné a občianskoprávne dôsledky v Holandsku
Holandské právo uplatňuje existujúce rámce na prípady zodpovednosti za umelú inteligenciu, pričom stanovuje objektívnu zodpovednosť za zlyhania pri nasadení, pričom v iných scenároch zachováva nároky založené na zavinení. Používatelia nesú primárnu zodpovednosť, keď sa systémy umelej inteligencie ukážu ako nevhodné na zamýšľaný účel, hoci za určitých okolností sa môže uplatniť obrana založená na neprimeranosti.
Objektívna zodpovednosť a nároky založené na zavinení
Podľa holandského práva čelíte objektívnej zodpovednosti, ak nasadíte systém umelej inteligencie, ktorý nebol v čase nasadenia vhodný na zamýšľaný účel. Táto zodpovednosť sa uplatňuje bez ohľadu na to, či ste o nevhodnosti vedeli.
Jedinou možnou výnimkou je prípad, ak by bolo vaše považovanie za zodpovedné vzhľadom na konkrétne okolnosti neprimerané. V prípade nárokov založených na zavinení sa uplatňujú tradičné zásady zmluvného práva.
Musíte preukázať, že iná strana porušila svoje zmluvné povinnosti alebo konala nedbalo. Toto sa stáva relevantným, keď dodávatelia poskytujú chybné systémy umelej inteligencie alebo nespĺňajú dohodnuté špecifikácie.
Holandské súdy skúmajú, či sa počas obstarávania a implementácie umelej inteligencie vykonala riadna due diligence. Musíte zdokumentovať svoj proces výberu, posúdenia rizík a monitorovacie postupy.
Bez takejto dokumentácie je preukázanie vášho prípadu alebo obhajoba proti nárokom výrazne ťažšia. Toto rozlíšenie je dôležité, pretože objektívna zodpovednosť presúva bremeno inak ako nároky založené na vine.
V prípadoch objektívnej zodpovednosti sa nemôžete vyhnúť zodpovednosti len tým, že preukážete, že ste konali opatrne alebo ste dodržiavali osvedčené postupy.
Obmedzenia, obrana a výnimky
Obhajoba z dôvodu neprimeranosti predstavuje hlavnú cestu k napadnutiu nárokov z objektívnej zodpovednosti. Súdy posudzujú faktory vrátane zložitosti systému umelej inteligencie, dostupných alternatív, nákladových aspektov a priemyselných štandardov v čase nasadenia.
Na vyššiu moc sa môžete odvolať aj v prípade, že zlyhanie systému umelej inteligencie spôsobili vonkajšie okolnosti, ktoré ste nemohli ovplyvniť. Táto obrana vyžaduje preukázanie, že udalosť bola nepredvídateľná a nevyhnutná, čo v prípadoch nasadenia umelej inteligencie zriedkakedy uspeje.
Zmluvné doložky môžu obmedziť vašu zodpovednosť, hoci holandské právo takéto obmedzenia obmedzuje, ak sú v rozpore s pravidlami ochrany spotrebiteľa. Zmluvy medzi podnikmi ponúkajú väčšiu flexibilitu pri vyjednávaní stropov zodpovednosti a dohôd o odškodnení.
Interakcia so zákonom o ochrane údajov a súkromia
Súlad s GDPR sa podľa holandského práva priamo prelína so zodpovednosťou umelej inteligencie. Ak obsah vytvorený umelou inteligenciou zahŕňa osobné údaje, musíte zabezpečiť existenciu zákonných dôvodov na spracovanie a práva dotknutých osôb zostať chránení.
Holandský úrad na ochranu údajov presadzuje Požiadavky GDPR popri problémoch špecifických pre umelú inteligenciu. Za porušenia predpisov týkajúcich sa spracovania údajov vám hrozia pokuty, a to aj v prípade, že systém umelej inteligencie z technického hľadiska funguje správne.
Porušenia zákona o ochrane osobných údajov môžu tiež posilniť nároky na občianskoprávnu zodpovednosť voči vám. Musíte implementovať ochrana dát zámerne a štandardne pri nasadzovaní systémov umelej inteligencie.
To zahŕňa vykonávanie posúdení vplyvu na ochranu údajov pri vysokorizikových činnostiach spracovania. Nedodržanie týchto povinností vytvára ďalšie dôvody zodpovednosti nad rámec zmluvných alebo občianskoprávnych nárokov.
Zásady IT práva vyžadujú, aby ste dodržiavali vhodné technické a organizačné opatrenia. Tieto opatrenia sa prekrývajú so zmluvnými záväzkami aj bezpečnostnými požiadavkami GDPR, čím sa vytvára viacero potenciálnych ciest zodpovednosti, keď systémy umelej inteligencie nesprávne nakladajú s údajmi.
Často kladené otázky
Holandský a európsky rámec zodpovednosti sa zaoberá obsahom vytvoreným umelou inteligenciou prostredníctvom existujúce právo v oblasti občianskoprávnych deliktov, pravidlá zodpovednosti za výrobok a vznikajúce predpisy špecifické pre umelú inteligenciu. Tieto rámce rozlišujú medzi vývojármi, nasadzovateľmi a používateľmi systémov umelej inteligencie.
Ochrana duševného vlastníctva zostáva obmedzená pre výstupy generované výlučne umelou inteligenciou. Existujú rôzne právne mechanizmy na vymáhanie náhrady škody.
Aké sú dôsledky zodpovednosti za chyby spôsobené umelou inteligenciou v Holandsku podľa súčasnej legislatívy?
Podľa holandského práva zodpovednosť za chyby spôsobené umelou inteligenciou spadá predovšetkým pod článok 6:162 holandského Občianskeho zákonníka, ktorý upravuje protiprávne činy. Musíte preukázať, že chyba umelej inteligencie spôsobila škodu, že čin bol protiprávny a že škodu možno pripísať strane zodpovednej za systém umelej inteligencie.
Holandský právny systém zatiaľ nemá špecifickú legislatívu týkajúcu sa výlučne zodpovednosti za umelú inteligenciu. Namiesto toho sa na incidenty súvisiace s umelou inteligenciou vzťahujú existujúce rámce.
To znamená, že pri uplatňovaní nároku musíte preukázať zavinenie alebo nedbanlivosť. Pravidlá zodpovednosti za škodu spôsobenú výrobkom sa uplatňujú aj vtedy, keď sa systémy umelej inteligencie kvalifikujú ako chybné výrobky podľa smernice o zodpovednosti za výrobok.
Výrobca môže niesť objektívnu zodpovednosť, ak preukážete, že výrobok bol chybný pri uvedení na trh. Toto platí aj bez preukázania chyby.
pre zmluvných vzťahov, vaša zodpovednosť závisí od konkrétnych podmienok dohodnutých medzi stranami. Poskytovatelia služieb a nasadzovatelia umelej inteligencie často zahŕňajú obmedzenia zodpovednosti v ich zmluvách.
Tieto ustanovenia do značnej miery určujú, kto nesie zodpovednosť za chyby.
Ako smernice EÚ upravujú zodpovednosť za chyby spôsobené systémami umelej inteligencie?
Smernica EÚ o zodpovednosti za výrobky z roku 1985 poskytuje základ pre zodpovednosť výrobcov za chybné výrobky vrátane systémov umelej inteligencie. Môžete si nárokovať odškodnenie bez preukázania zavinenia, ak preukážete, že výrobok bol chybný a spôsobil škodu.
Európska komisia v roku 2022 navrhla smernicu o zodpovednosti za umelú inteligenciu s cieľom riešiť medzery v existujúcej legislatíve. Cieľom tejto smernice je zmierniť dôkazné bremeno zavedením prezumpcií kauzality za určitých okolností.
Členské štáty pracujú na harmonizácii týchto pravidiel v celej EÚ. Zákon EÚ o umelej inteligencii, ktorý nadobudol účinnosť v roku 2024, stanovuje povinnosti v oblasti bezpečnosti a transparentnosti pre vysoko rizikové systémy umelej inteligencie.
Porušenie týchto požiadaviek môže posilniť vaše nároky na zodpovednosť. Zákon klasifikuje systémy umelej inteligencie podľa úrovne rizika s prísnejšími pravidlami pre vysoko rizikové aplikácie.
Medzi vysoko rizikové systémy umelej inteligencie patria tie, ktoré sa používajú v zdravotníctve, doprave a kritickej infraštruktúre. Poskytovatelia týchto systémov musia viesť podrobnú dokumentáciu a implementovať procesy riadenia rizík.
Vaša schopnosť uplatňovať si nároky sa zlepšuje, keď sa tieto povinnosti porušia.
Existuje v práve EÚ rozdiel medzi zodpovednosťou tvorcu a používateľa za poruchy obsahu vytvoreného umelou inteligenciou?
Právo EÚ rozlišuje medzi poskytovateľmi (tvorcami), nasadzovateľmi (používateľmi) a dovozcami systémov umelej inteligencie. Každá strana má podľa zákona o umelej inteligencii špecifické povinnosti.
Vaša zodpovednosť závisí od vašej úlohy v dodávateľskom reťazci umelej inteligencie. Poskytovatelia musia zabezpečiť, aby systémy umelej inteligencie spĺňali bezpečnostné požiadavky pred ich uvedením na trh.
Nesú primárnu zodpovednosť za konštrukčné chyby a nedostatky v súlade s bezpečnostnými normami. Sťažnosti voči poskytovateľom môžete zvyčajne uplatniť, keď základné systémové chyby spôsobia škodu.
Implementátori, ktorí implementujú systémy umelej inteligencie vo svojich prevádzkach, majú samostatné povinnosti. Musíte používať systémy umelej inteligencie podľa pokynov a monitorovať ich výkon.
Implementátori môžu byť zodpovední, ak zneužijú systémy alebo neposkytnú primeraný ľudský dohľad. Toto rozlíšenie je dôležité pri určovaní zodpovednosti.
Zmluvné dohody medzi poskytovateľmi a implementátormi často rozdeľujú zodpovednosti. Tieto dohody je potrebné preskúmať, aby ste pochopili, kto nesie zodpovednosť za konkrétne typy chýb.
Aké precedensy existujú v holandskej judikatúre týkajúce sa zodpovednosti za generovanie obsahu umelou inteligenciou?
Holandské súdy majú obmedzenú judikatúru, ktorá sa konkrétne zaoberá zodpovednosťou za obsah vytvorený umelou inteligenciou. Väčšina sporov sa rieši prostredníctvom existujúceho práva v oblasti občianskoprávnych deliktov a zásad zodpovednosti za škodu spôsobenú výrobkom.
V Holandsku sa zatiaľ nemôžete spoliehať na rozsiahle precedensy týkajúce sa umelej inteligencie. Prípady týkajúce sa automatizovaných systémov a softvéru poskytujú určité usmernenie.
Holandské súdy uplatnili tradičné zásady nedbanlivosti k chybám súvisiacim s technológiou. Kľúčovou otázkou zostáva, či zodpovedná strana postupovala s primeranou starostlivosťou.
Prípady zodpovednosti lekárov týkajúce sa diagnostických nástrojov umelej inteligencie ilustrujú, ako holandské súdy pristupujú k týmto záležitostiam. Nemocnice a poskytovatelia zdravotnej starostlivosti boli braní na zodpovednosť, keď nedokázali zabezpečiť ľudský dohľad nad odporúčaniami umelej inteligencie.
Musíte preukázať, že neboli dodržané správne postupy. Holandský právny systém zdôrazňuje dôležitosť ľudskej zodpovednosti za kritické rozhodnutia.
Súdy sa zdráhajú pripísať zodpovednosť výlučne systémom umelej inteligencie. Je potrebné identifikovať ľudských aktérov, ktorí umelú inteligenciu nasadili alebo na ňu dohliadali.
Ako sa práva duševného vlastníctva viažu k materiálom vytvoreným umelou inteligenciou v rámci EÚ?
Autorské právo EÚ vyžaduje na ochranu ľudský tvorivý vklad. Obsah vytvorený výlučne umelou inteligenciou bez zmysluplného ľudského príspevku nespĺňa podmienky na ochranu autorských práv podľa súčasných rámcov.
Nemôžete si nárokovať autorské práva na výstupy vytvorené výlučne systémami umelej inteligencie. Európsky úrad pre autorské práva uviedol, že diela musia byť výsledkom ľudského duševného úsilia.
Ak poskytnete podstatné kreatívne usmernenie alebo vykonáte významné úpravy výstupov umelej inteligencie, môžete si zabezpečiť ochranu autorských práv. Ľudský príspevok musí byť originálny a badateľný.
Keď používate systémy umelej inteligencie trénované na materiáloch chránených autorskými právami, vznikajú otázky zodpovednosti týkajúce sa porušenia autorských práv. Držitelia práv môžu potenciálne tvrdiť, že trénovanie umelej inteligencie predstavuje neoprávnené kopírovanie.
Táto oblasť zostáva v členských štátoch EÚ nevyriešená. Pri registrácii kreatívnych diel musíte zverejniť časti vytvorené umelou inteligenciou.
Ochrana autorských práv sa vzťahuje iba na vaše pôvodné ľudské príspevky. Neposkytnutie riadnych informácií môže viesť k zamietnutiu registrácie alebo neskorším námietkam.
Aké sú právne aspekty nápravy škôd spôsobených nesprávnym obsahom vygenerovaným umelou inteligenciou v Európe?
Musíte preukázať kauzalitu medzi chybou umelej inteligencie a vašimi škodami. To môže byť náročné pri zložitých systémoch umelej inteligencie, ktoré fungujú ako „čierne skrinky“.
Navrhovaná smernica o zodpovednosti za umelú inteligenciu sa snažila zmierniť túto záťaž prostredníctvom prezumpcií kauzality.
Dokumentácia zohráva kľúčovú úlohu pri nárokoch na náhradu škody. Musíte uchovávať dôkazy o obsahu vytvorenom umelou inteligenciou, okolnostiach jeho vytvorenia a výslednej škode.
Záznamy, dokumentácia algoritmov a tréningové údaje sa stávajú nevyhnutnými dôkazmi.
Za chyby spôsobené umelou inteligenciou môže niesť zodpovednosť viacero strán. V závislosti od okolností môžete uplatniť nároky voči vývojárom, poskytovateľom služieb a nasadzovateľom.
Váš zmluvný vzťah s týmito stranami ovplyvňuje dostupné opravné prostriedky.
Poistné krytie škôd súvisiacich s umelou inteligenciou sa výrazne líši. Mali by ste si overiť, či vaše poistné zmluvy kryjú chyby obsahu generované umelou inteligenciou.
Mnohé štandardné zásady obsahujú výnimky pre určité nároky súvisiace s technológiami.
Na uplatnenie nárokov podľa práva občianskoprávnych deliktov aj podľa pravidiel zodpovednosti za škodu spôsobenú výrobkom sa vzťahujú časové obmedzenia. Od zistenia škody na začatie súdneho konania máte zvyčajne obmedzený čas.
Na zachovanie vašich práv je nevyhnutné urýchlené konanie.
