Zodpovednosť za systémy umelej inteligencie v Holandsku vždy pripadá osobe alebo spoločnosti, nikdy nie softvéru. V praxi sú dôležité dve pozície: používateľ, teda jednotlivec alebo organizácia, ktorá systém nasadzuje a prijíma s ním rozhodnutia, a výrobca, teda strana, ktorá systém vyvinula, uviedla na trh alebo ho dodala. Ktorá z týchto dvoch pozícií nesie stratu, závisí od toho, kde došlo k zlyhaniu, čo každý z nich vedel a čo hovorí zmluva medzi nimi. Tento článok sa zaoberá oboma pozíciami; samotný rámec trestného práva, od funkčného páchania až po zodpovednosť právnických osôb podľa článku 51 Trestného zákona, je uvedený v našom sprievodnom článku o tom, či algoritmus môže byť čiastočne zodpovedný.
Prečo systém nikdy nie je obžalovaný
Holandské právo rozlišuje dva druhy osôb: fyzické osoby a právnické osoby. Systém umelej inteligencie nie je ani jedným z nich. Nemôže mať práva, nemôže byť predvolaný, nemôže byť pokutovaný a nemôže byť povinný zaplatiť škodu, pretože nič nevlastní a nemá žiadnu právnu existenciu oddelenú od spoločnosti, ktorá ho prevádzkuje. Návrhy na vytvorenie tretej kategórie, niekedy nazývanej elektronická osoba, boli prerokované na európskej úrovni a nikam neviedli z dôvodu, ktorý je skôr praktický ako filozofický: vozidlo zodpovednosti bez majetku a bez schopnosti zmeniť svoje správanie by presunulo riziko od strán, ktoré môžu skutočne zabrániť škode.
Otázkou teda nikdy nie je, či je zodpovedný stroj. Otázkou je, ktorý ľudský alebo firemný aktér v reťazci si nesplnil svoju povinnosť, a tento reťazec má predvídateľný tvar: strana, ktorá model vytvorila, strana, ktorá ho premenila na produkt, strana, ktorá ho dodala alebo integrovala, organizácia, ktorá ho nasadila, a jednotlivec, ktorý stlačil tlačidlo. Zodpovednosť za systémy umelej inteligencie spočíva v lokalizácii zlyhania v tomto reťazci a jeho priradení k právnemu základu.
Dva z týchto právnych základov dominujú. Pre používateľa všeobecné právo v oblasti občianskoprávnych deliktov a povinnosť starostlivosti, ktorá vyplýva z používania mocného nástroja v prospech niekoho iného. Pre výrobcu zodpovednosť za výrobok, ktorá vôbec nevyžaduje zavinenie. Všetko ostatné vrátane trestného stíhania sa pridáva k týmto základom.
Pozícia používateľa
Používatelia podceňujú svoju expozíciu, pretože systém vnímajú ako čiernu skrinku, ktorú postavil niekto iný. Z právneho hľadiska osoba, ktorá sa rozhodne nasadiť nástroj, nakonfiguruje ho, poskytne mu údaje a koná na základe jeho výstupov, niečo robí a táto činnosť sa posudzuje samostatne.
Keď je systém iba nástrojom trestného činu
Najjednoduchšie prípady sú tie, v ktorých sa systém umelej inteligencie používa zámerne. Vytvorenie presvedčivej faktúry s cieľom podviesť spoločnosť je podvodom podľa článku 326 Trestného zákonníka, či už list vypracovala osoba alebo model, a falšovanie dokumentu zostáva falšovaním podľa článku 225 bez ohľadu na použitý nástroj. Použitie modelu na napísanie kódu, ktorý sa naláka do systému, je stále počítačovým vniknutím podľa článku 138ab. Vytvorenie a distribúcia manipulovaných obrázkov skutočnej osoby môže predstavovať ohováranie a ak má materiál sexuálnu povahu, spadá pod trestné činy podľa zákona o sexuálnych trestných činoch, ktorý platí od 1. júla 2024. Pretrvávajúce obťažovanie jednotlivca pomocou umelej inteligencie môže predstavovať stalking podľa článku 285b, ktorý sa stíha len na základe oznámenia obete.
Nič z toho nie je nový zákon. Technológia mení rozsah a vierohodnosť podvodu, nie prvky trestného činu. Mení však dôkazy: výzvy, záznamy o účtoch, výstupy modelov a načasovanie vytvorenia súborov sú materiálom, ktorý spája trestný čin s osobou, a používatelia, ktorí predpokladajú, že obsah generovaný umelou inteligenciou je nevysledovateľný, sa zvyčajne mýlia.
Nedbalé používanie: častejšie riziko
Oveľa viac organizácií sa do problémov dostáva z nedbanlivosti ako úmyselne. Tento vzorec je známy. Systém sa kúpi na jeden účel a používa sa na iný. Jeho výstup sa považuje za rozhodnutie, a nie za signál. Nikto nekontroluje prípady, keď je chybný, pretože ľuďom, ktorí ho prevádzkujú, nikdy nepovedali, aká je jeho chybovosť alebo kde zlyháva. Keď sa škoda prejaví, organizácia zistí, že nemá žiadny záznam o tom, ako sa k rozhodnutiu dospelo.
Z občianskoprávneho hľadiska ide o priestupok: článok 6:162 Občianskeho zákonníka robí osobu zodpovednou za protiprávny čin, ktorý jej možno pripísať a ktorý spôsobí škodu. Porušenie povinnosti starostlivosti v spoločnosti je jednou z kategórií protiprávnosti a obsah tejto povinnosti je určený tým, čo by urobil opatrný prevádzkovateľ v danej pozícii. Zamestnávateľ je okrem toho zodpovedný za chyby svojich zamestnancov podľa článku 6:170 a strana, ktorá využíva pomocnú organizáciu na plnenie zmluvnej povinnosti, zodpovedá za túto pomocnú organizáciu podľa článku 6:76, čo je ustanovenie, ktoré sa vzťahuje na organizáciu používajúcu model dodávateľa na poskytovanie vlastnej služby.
Povinnosť starostlivosti už nie je úplne ponechaná na vymýšľanie súdov. Zákon EÚ o umelej inteligencii udeľuje nasadzovateľom vysoko rizikových systémov konkrétne povinnosti: používať systém v súlade s pokynmi, prideliť ľudský dohľad osobám s kompetenciami a oprávneniami na jeho vykonávanie, zabezpečiť, aby vstupné údaje, ktoré majú pod kontrolou, boli relevantné, monitorovať prevádzku a pozastaviť používanie, ak sa objaví riziko, uchovávať záznamy a informovať pracovníkov a ich zástupcov pred nasadením takéhoto systému v práci. Tieto povinnosti sú regulačné, ale súd posudzujúci nedbanlivosť ich bude interpretovať ako opis toho, ako vyzerá opatrné konanie. Organizácia, ktorá ignorovala návod na použitie, nielenže nedodržiava pokyny; odovzdala žalobu žalobcovi.
Samostatnú zmienku si zaslúži automatizačná skreslenosť, pretože práve tu dohľad potichu zlyháva. Recenzent, ktorý schvaľuje takmer všetko, čo systém navrhuje, nevykonáva dohľad a organizácia, ktorá meria svojich zamestnancov na základe priepustnosti, tento výsledok v podstate navrhla. Právna otázka znie, či bolo ľudské rozhodnutie skutočne prijaté, a pečiatka sa na to nevzťahuje.
Ak používateľ nemôže preniesť riziko na
Organizácie, ktoré predpokladali, že riziko nesie dodávateľ, pravidelne prekvapujú tri body.
Po prvé, voči poškodenej tretej strane je používateľ viditeľnou stranou. Zákazník, ktorému bol odmietnutý úver, zamestnanec, ktorého odmietol skríningový nástroj, pacient, ktorému bola poskytnutá nesprávna trieda: uzatvoria zmluvu s prevádzkovateľom alebo s ním bude jednať a prevádzkovateľa zažalujú. Či prevádzkovateľ môže od svojho dodávateľa získať náhradu škody, je samostatná otázka, ktorá sa odvíja od zmluvy a neodkladá uplatnenie nároku voči nemu.
Po druhé, všeobecné pravidlá ochrany údajov sa uplatňujú nezávisle od všetkého ostatného. Ak systém spracúva osobné údaje, prevádzkovateľom je zvyčajne prevádzkovateľ, ktorý je zodpovedný za právny základ, transparentnosť, posúdenie vplyvu a bezpečnosť. Rozhodnutie prijaté výlučne automatizovanými prostriedkami, ktoré má právne účinky alebo podobne významne ovplyvňuje osobu, je upravené samostatne a dáva tejto osobe právo na ľudský zásah a napadnúť výsledok. Náš prehľad všeobecného nariadenia o ochrane údajov stanovuje tento režim.
Po tretie, modifikácia mení vašu úlohu. Nasadzovateľ, ktorý pridá k systému vlastné meno, zmení jeho zamýšľaný účel alebo ho podstatne upraví, sa podľa zákona o umelej inteligencii stáva poskytovateľom a zdedí povinnosti poskytovateľa. Doladenie modelu na všeobecné použitie na skríningový nástroj pre regulované rozhodnutie je presne ten druh kroku, ktorý túto hranicu prekračuje. Organizácie, ktoré stavajú na modeli niekoho iného, by si mali pred spustením systému, nie po incidente, určiť, na ktorej strane sa nachádzajú.
Postavenie producenta
Zodpovednosť výrobcu má iný rozmer a je prísnejšia. Zodpovednosť za výrobok podľa článkov 6:185 a nasl. Občianskeho zákonníka robí výrobcom zodpovednosť za škodu spôsobenú chybou jeho výrobku bez toho, aby poškodená strana musela preukázať zavinenie. Výrobok je chybný, ak neponúka bezpečnosť, ktorú má osoba právo očakávať, berúc do úvahy jeho prezentáciu, použitie, ktoré sa od neho dá rozumne očakávať, a čas jeho uvedenia do obehu. Žalobca musí preukázať škodu, chybu a príčinnú súvislosť medzi nimi, čo je v prípade umelej inteligencie skutočný bod sporu.
Režim má pevne stanovené limity. Nároky musia byť podané do troch rokov odo dňa, keď sa poškodená strana dozvedela alebo mala dozvedieť o škode, chybe a totožnosti výrobcu, a právo zaniká desať rokov po uvedení konkrétneho výrobku do obehu. Zodpovednosť podľa tohto režimu nemožno vylúčiť ani obmedziť zmluvou a vzťahuje sa na smrť, ujmu na zdraví a škodu na inom majetku používanom na súkromné účely, s výhradou nižšej hranice. Výrobca má obmedzený súbor obhajob vrátane obhajoby rizika vývoja, ktorá sa uplatňuje v prípade, keď stav vedeckých a technických poznatkov v čase uvedenia výrobku do obehu nemohol odhaliť chybu.
Reforma, ktorá mení pozíciu softvéru
Podľa súčasného holandského režimu je výrobok hnuteľnou vecou a otázka, či sa na ňu vzťahuje aj samostatný softvér, je predmetom sporov už roky. Tento argument sa teraz uzatvára. Revidovaná smernica o zodpovednosti za výrobky, smernica (EÚ) 2024/2853, nadobudla účinnosť 8. decembra 2024 a musí byť transponovaná do vnútroštátneho práva do 9. decembra 2026; vzťahuje sa na výrobky uvedené na trh alebo do prevádzky po tomto dátume, takže výrobky, ktoré boli uvedené do obehu pred ňou, sa naďalej riadia súčasnými ustanoveniami Občianskeho zákonníka. Pre zodpovednosť za systémy umelej inteligencie sú dôležité štyri zmeny.
Softvér vrátane systémov umelej inteligencie a digitálnych výrobných súborov je výslovne produkt. Okruh zodpovedných strán sa rozširuje nad rámec výrobcu a zahŕňa stranu, ktorá podstatne upraví produkt mimo kontroly výrobcu, splnomocneného zástupcu, dovozcu a za definovaných okolností aj poskytovateľa služieb plnenia objednávok a online platformu. Nahraditeľná škoda sa rozširuje aj na zničenie alebo poškodenie údajov, ktoré sa nepoužívajú profesionálne, čo je skutočná kategória strát pri zlyhaní softvéru. A produkt môže byť chybný z dôvodu toho, čo sa stane po jeho uvedení na trh: chyba v požadovanej aktualizácii softvéru, nedodanie bezpečnostných aktualizácií alebo účinky neustáleho učenia sa, ak si výrobca ponechal nad ním kontrolu.
Reforma sa priamo zaoberá aj problémom dokazovania. Súd môže nariadiť žalovanému, aby na žiadosť žalobcu predložil relevantné dôkazy, a ak žalovaný nevyhovie, predpokladá sa ich chybnosť. Vyvrátiteľné domnienky chybnosti a príčinnej súvislosti sa uplatňujú, ak žalobca čelí nadmerným ťažkostiam s ich dokazovaním z dôvodu technickej alebo vedeckej zložitosti, za predpokladu, že žalobca urobí pravdepodobnosť vierohodnou. Pre žalobcu, ktorý čelí modelu, ktorý nikto nevie plne vysvetliť, je to rozdiel medzi hádateľným a nemožným prípadom.
Zmluva, súlad a obmedzenia vylúčenia
Medzi podnikmi je prvým bojiskom zvyčajne zmluva, a nie zákon. Dodávateľ systému umelej inteligencie dlhuje to, čo sa dohodol: dodaný systém musí zodpovedať zmluve a mať vlastnosti, ktoré mal kupujúci právo očakávať. Ak dodávateľ sľúbil úroveň presnosti, úroveň dostupnosti alebo súlad so zákonom o umelej inteligencii, nedodanie systému je porušením zmluvy a po riadnom oznámení o neplnení nasledujú bežné opravné prostriedky v podobe plnenia, náhrady škody a zrušenia zmluvy.
Dodávatelia reagujú obmedzujúcimi a vylučujúcimi doložkami a tieto doložky sú zvyčajne účinné medzi obchodnými stranami. Nie sú neobmedzené. Doložku možno zrušiť, ak by sa na ňu spoliehanie bolo neprijateľné podľa štandardov primeranosti a spravodlivosti, čo je postup, ktorý súdy zvolia v prípadoch úmyselnej bezohľadnosti alebo závažného zavinenia na strane dodávateľa, a ak je doložka všeobecná, môže byť neúčinná, ak druhej strane nebola nikdy poskytnutá skutočná príležitosť vziať si ju na vedomie. Zodpovednosť v rámci režimu zodpovednosti za škodu spôsobenú výrobkom nemožno voči poškodenej strane vôbec zrušiť. V praxi sa rokovania týkajú stropov, výnimiek pre porušenia údajov a porušenia duševného vlastníctva, odškodnenia za regulačné pokuty a povinnosti dodávateľa poskytnúť dokumentáciu a protokoly, ktoré zákazník potrebuje na svoju obhajobu. Naša stránka o nárokoch na náhradu škody uvádza, ako sa tieto nároky vytvárajú.
Čo zákon o umelej inteligencii robí a čo nerobí
Zákon o umelej inteligencii je regulačný nástroj. Poskytovateľom a prevádzkovateľom hovorí, čo majú robiť, a dáva orgánom dohľadu právomoci na jeho presadzovanie; nevytvára právo na odškodnenie osoby poškodenej systémom umelej inteligencie. Navrhovaná smernica o zodpovednosti za škodu spôsobenú umelou inteligenciou, ktorá by harmonizovala občianskoprávne nároky a zaviedla zverejňovanie informácií a domnienky vo všetkých oblastiach, bola stiahnutá. Zostáva len vyššie opísaná kombinácia: vnútroštátne právo v oblasti občianskoprávnych deliktov a zmluvné právo plus reformovaný režim zodpovednosti za škodu spôsobenú výrobkom.
To neznamená, že zákon o umelej inteligencii je irelevantný pre zodpovednosť. Je dôležitý v troch ohľadoch. Stanovuje štandard starostlivosti, takže nedodržiavanie predpisov je dôkazom nedbanlivosti. Vytvára dokumenty, pretože technická dokumentácia, návod na použitie, protokoly a súbor monitorovania po uvedení na trh existujú zo zákona a možno ich vyžiadať v konaní. A prideľuje úlohy, takže otázka, kto je poskytovateľ a kto je nasadzovateľ, ktorá bola predtým predmetom sporu, má teraz právnu odpoveď. Naša prax v oblasti IT práva sa zaoberá týmito otázkami klasifikácie skôr, ako sa stanú spormi.
Miesto, kde sa stretáva používateľ a výrobca
Väčšinu skutočných incidentov nespôsobuje jediné zlyhanie na jednom konci reťazca. Sú spôsobené modelom vycvičeným na údajoch, ktoré nereprezentovali populáciu, na ktorú bol aplikovaný, integrovaným dodávateľom, ktorý ho v danom kontexte netestoval, nasadeným organizáciou, ktorá ho použila na účel, ktorý pokyny nepokrývali, a prevádzkovaným zamestnancami, ktorým nebolo nikdy povedané, aké sú jeho obmedzenia. Holandské právo s tým nemá problém: za tú istú škodu môže byť zodpovedných viacero strán, každá z nich je zodpovedná za celú škodu voči poškodenej strane a následne si medzi sebou vyrovnajú vnútorné rozdelenie podľa svojich príslušných príspevkov.
V nasledujúcej tabuľke je uvedené, kto zvyčajne nesie zodpovednosť a na akom základe.
| večierok | Typický základ zodpovednosti | Čo rozhoduje o výsledku |
|---|---|---|
| Poskytovateľ alebo výrobca | Zodpovednosť za výrobok bez zavinenia; zmluvná zodpovednosť voči zákazníkovi. | Či systém ponúkal očakávanú bezpečnosť a čo skutočne uvádzala dokumentácia a pokyny. |
| Strana, ktorá podstatne mení | V prípade upraveného produktu zaujme pozíciu výrobcu. | Či zmena presiahla zamýšľaný účel alebo bola vykonaná mimo kontroly pôvodného výrobcu. |
| Nasadzujúca organizácia | Občianskoprávne delikty, porušenie vlastnej povinnosti starostlivosti, zodpovednosť za zamestnancov a pomocné osoby. | Používanie v rámci pokynov, kvalita ľudského dohľadu, vstupné údaje, protokolovanie a monitorovanie. |
| Individuálny prevádzkovateľ | Osobná zodpovednosť je zriedkavá; trestné stíhanie sa vyskytuje vtedy, keď sa systém používa úmyselne. | Úmysel alebo závažné zavinenie a či je namiesto toho zodpovedný zamestnávateľ. |
Holandská aféra s dávkami v starostlivosti o deti je referenčným bodom, ku ktorému sa vracia každá holandská diskusia, a ilustruje skôr vzorec než právny predpis: nepriehľadný systém klasifikácie rizík, rozhodnutia prijaté na základe jeho výsledkov bez skutočného individuálneho posúdenia a dôsledky, ktoré úplne niesli ľudia na prijímajúcej strane. Jej právne následky boli skôr administratívne a politické než trestnoprávne a v našom článku o umelej inteligencii a trestnom práve rozoberáme, čo ukazuje a čo neukazuje o trestnej zodpovednosti.
Problém s dôkazmi a ako sa mení
Ktokoľvek podá žalobu, ju musí dokázať a v prípadoch umelej inteligencie je dokazovanie tou najťažšou časťou. Žalobca musí preukázať, čo systém urobil, prečo to bolo nesprávne a že táto chyba spôsobila stratu. Informácie potrebné na to má žalovaný a v zložitom modeli môže byť skutočne ťažké ich rekonštruovať aj interne.
Túto rovnováhu menia tri udalosti. Zaznamenávanie je teraz zákonnou požiadavkou pre systémy s vysokým rizikom, takže záznam, ktorý bol predtým dobrovoľný, musí existovať. Zverejnenie dôkazov v rámci nárokov na náhradu škody spôsobenej škodou spôsobenou výrobkom je v rámci reformovaného režimu k dispozícii, pričom sa opiera o prezumpciu vady, ak žalovaný nedodrží podmienky. A holandské občianskoprávne konanie už umožňuje strane požadovať predloženie konkrétnych identifikovaných dokumentov, na ktorých má oprávnený záujem, čo sa pravidelne používa na získanie testovacích protokolov, záznamov o incidentoch a interných posúdení rizík.
Pre obžalovaného je praktický záver nepríjemný, ale jasný: dokumentácia, ktorú si uchovávate, je dokumentáciou, ktorá bude prečítaná proti vám, a dokumentácia, ktorú ste si neuchovali, bude tiež použitá proti vám. Úplné, datované a pravdivé záznamy o testovaní, známych obmedzeniach, incidentoch a ich riešení sú najsilnejšou dostupnou obhajobou, pretože ukazujú, že organizácia uplatnila svoj úsudok, a nie dúfala v to najlepšie. Ak má incident aj trestnoprávny rozmer, napríklad neoprávnený prístup k systémom alebo manipulácia s údajmi, uplatňuje sa trestnoprávny rámec pre počítačovú kriminalitu a kybernetickú kriminalitu v Holandsku popri občianskoprávnej žalobe a trestné vyšetrovanie zaistí presne ten istý materiál.
Autonómne systémy vo fyzickom svete
Ak systém umelej inteligencie riadi vozidlo, pilotuje dron alebo pohybuje robotickým ramenom, uplatňuje sa ďalšia vrstva zodpovednosti a tá je vo všeobecnosti prísnejšia ako čokoľvek, čo sa doteraz diskutovalo. Fyzická ujma so sebou prináša zodpovednosť za riziko, ktorá sa nepýta, či niekto konal neopatrne.
V prípade motorových vozidiel článok 185 zákona o cestnej premávke z roku 1994 stanovuje zodpovednosť vlastníka alebo držiteľa motorového vozidla za škodu spôsobenú chodcom a cyklistom, pokiaľ nešlo o vyššiu moc, čo je štandard, ktorý je veľmi ťažké splniť. Toto pravidlo je ľahostajné k tomu, či riadil človek alebo asistenčný systém vodiča: ako prvý zodpovedá držiteľ a akákoľvek reklamácia voči výrobcovi softvéru nasleduje až potom. Testovanie skutočne autonómnych vozidiel na verejných komunikáciách si vyžaduje povolenie podľa holandskej legislatívy o experimentovaní a podmienky spojené s týmto povolením, vrátane prítomnosti a úlohy dozorujúceho orgánu, sa stávajú súčasťou štandardu starostlivosti.
Bezpilotné lietadlá sa riadia európskymi predpismi o dronoch, pričom registráciu prevádzkovateľov a požiadavky závislé od kategórie v Holandsku spravuje Rijksinspectie Digitale Infrastructuur. Prevádzkovateľ, ktorý lieta mimo svojej kategórie alebo bez požadovanej spôsobilosti, nielenže porušuje pravidlá letectva, ale prekročil aj rámec správania, ktoré by súd označil za opatrné, čo rieši otázku nedbanlivosti ešte predtým, ako sa vôbec začne technická debata o autopilote.
Popri týchto režimoch existuje všeobecné pravidlo o chybných veciach. Vlastník hnuteľnej veci, ktorá nespĺňa normy, ktoré pre ňu môžu byť stanovené, a tým vytvára konkrétne nebezpečenstvo, je zodpovedný za škodu, ktorú toto nebezpečenstvo spôsobí. Toto pravidlo sa vzťahuje na fyzický stroj, aj keď je základná chyba v jeho softvéri, čo je jeden z dôvodov, prečo vlastník priemyselného robota alebo automatizovaného skladového systému nemôže jednoducho poukázať na predajcu. Ak sa uplatňuje režim zodpovednosti za výrobok, tieto dva systémy interagujú a poškodená strana zvyčajne zvolí tú cestu, ktorú je najľahšie preukázať.
Praktickým dôsledkom pre organizácie prevádzkujúce stroje s autonómnymi funkciami je, že poistenie a zmluva musia byť dohodnuté na základe objektívnej zodpovednosti, nie na základe analýzy zavinenia. Oplatí sa obrátiť sa na dodávateľa, ale nezabráni to tomu, aby sa reklamácia dostala najprv k vám.
Zníženie expozície na oboch stranách
Opatrenia, ktoré znižujú zodpovednosť za systémy umelej inteligencie, sú tie isté opatrenia, ktoré zabezpečujú správne fungovanie systémov, a preto sa oplatí ich prijať bez ohľadu na regulačný kalendár.
V prípade nasadzujúcej organizácie začnite s inventárom: ktoré systémy sa používajú, kto ich dodal, o čom rozhodujú alebo čo ovplyvňujú a kto ich prevádzkuje. Stanovte si svoju úlohu pre každý z nich, pretože povinnosti poskytovateľa a nasadzovateľa sa líšia. Potom si zapíšte zamýšľaný účel a zostaňte v ňom; najčastejšou príčinou zbytočnej zodpovednosti je použitie nástroja na niečo, na čo nebol overený. Dajte ľuďom prevádzkujúcim systém skutočnú právomoc ho prepísať a merajte ich podľa úsudku, a nie podľa objemu. Uchovávajte si záznamy a uchovávajte ich dostatočne dlho, aby boli užitočné v prípade sporu. Zaznamenávajte incidenty vrátane takmer nehôd a zaznamenávajte, čo sa s nimi urobilo.
Pre výrobcu alebo dodávateľa platí ekvivalentný zoznam, ktorý prechádza celým životným cyklom: zdokumentované riadenie rizík, správa údajov, ktorú je možné vysvetliť regulačnému orgánu, testovanie na populácii, na ktorej sa systém bude skutočne používať, návod na použitie, ktorý je úprimný o obmedzeniach a miere chybovosti, a nie upokojujúci, kanál pre zákazníkov na hlásenie problémov a politika aktualizácií, ktorá uvádza, kto je zodpovedný za bezpečnostné záplaty a na ako dlho. Reformovaný režim zodpovednosti za výrobok zdôrazňuje tento posledný bod ešte viac: neposkytnutie aktualizácií, ktoré ste sa zaviazali dodať, môže samo o sebe spôsobiť, že výrobok bude chybný.
Obe strany by mali zmluvu považovať skôr za proces rozdelenia rizika než za formalitu. Dôležité sú nasledujúce ustanovenia: opis zamýšľaného účelu, záruky týkajúce sa súladu a výkonu, povinnosť odovzdať dokumentáciu a protokoly, povinnosti hlásenia incidentov v oboch smeroch, limit zodpovednosti a jeho výnimky, odškodnenie za nároky tretích strán a regulačné pokuty a dohody o ukončení zmluvy, ktoré určujú, čo sa stane s modelom a údajmi v prípade ukončenia vzťahu. Limit, ktorý je dohodnutý abstraktne, bez odkazu na to, čo systém v skutočnosti rozhodne, nechráni nikoho.
Nakoniec, majte na pamäti trestnú zodpovednosť, aj keď bezprostredné riziko predstavuje občianskoprávne konanie. Trestné stíhanie spoločnosti za zlyhanie umelej inteligencie je stále nezvyčajné, ale ide o bežné prvky: povinnosť, porušenie, predvídateľná škoda a organizácia, u ktorej možno preukázať, že riziko akceptovala. Ak sa systém používa na niečo zjavne nezákonné alebo ak spoločnosť naďalej prevádzkuje systém, o ktorom vie, že spôsobuje škodu, trestná cesta je otvorená a analýza je v plnom rozsahu uvedená v našom článku o holandskom trestnom práve a v sprievodnom článku o algoritmoch a trestnej zodpovednosti.
Často kladené otázky
Môže umelá inteligencia slúžiť ako svedok na súde?
Stručná odpoveď znie nie, aspoň nie v súčasnej právnej krajine. Pojem svedka je v podstate ľudský. Aby bola osoba svedkom, musí byť schopná zložiť prísahu a sľúbiť, že bude hovoriť pravdu. Musí mať tiež osobné znalosti o daných udalostiach a musí byť schopná obstáť pri krížovom výsluchu, pri ktorom sa skúma jej pamäť, vnímanie a dôveryhodnosť.
Umelá inteligencia tieto kritériá jednoducho nespĺňa. Nemá vedomie, nemôže zložiť prísahu a nemá osobné spomienky v ľudskom zmysle. V najlepšom prípade dokáže prezentovať údaje, ktoré spracovala. Vďaka tomu sa oveľa viac podobá dôkazu, ako je záznam z bezpečnostných kamier, než skutočnému svedkovi. Výstup umelej inteligencie sa určite dá predložiť na súde, ale v skutočnosti by ako svedok slúžil ľudský expert, ktorý by tieto údaje vysvetľoval.
Aký je rozdiel medzi občianskoprávnou a trestnoprávnou zodpovednosťou za umelú inteligenciu?
Toto rozlíšenie je kľúčové vždy, keď umelá inteligencia spôsobí škodu. Hoci občianskoprávne aj trestné konania zahŕňajú právnu zodpovednosť, ich účel, dôkazné bremeno a tresty sú úplne odlišné.
Tu je jednoduchý spôsob, ako o tom premýšľať:
- Občianska zodpovednosť: Ide o to, aby sa obeť opäť dostala do poriadku. Dôraz sa kladie na kompenzáciu škôd, ako sú finančné straty spôsobené chybným algoritmom alebo zranenia spôsobené autonómnym vozidlom. Štandard dôkazu je nižší – často ide o „vyváženie pravdepodobností“.
- Trestná zodpovednosť: Ide o trestanie priestupku voči samotnej spoločnosti. Vyžaduje si to preukázanie viny „mimo rozumnej pochybnosti“ – čo je oveľa vyššia prekážka – a môže to viesť k prísnym trestom, ako je odňatie slobody alebo vysoké pokuty.
Ak je zapojená umelá inteligencia, spoločnosť môže čeliť občianskoprávnej žalobe na náhradu škody spôsobenej jej produktom. Aby však trestné obvinenie bolo obhájené, prokurátor musí preukázať, že ľudský konateľ mal „vinnú myseľ“ ( mens rea ). Práve preto sa zodpovednosť pripisuje osobe, nie stroju.
Ako sa môže moja organizácia pripraviť na zákon EÚ o umelej inteligencii?
Keďže nariadenia, ako je zákon EÚ o umelej inteligencii, už platia a uplatňujú sa postupne, čakanie na nadobudnutie účinnosti posledných povinností je riskantnou stratégiou. Proaktívne dodržiavanie predpisov je jediný spôsob, ako účinne zmierniť právne riziká.
Tu je niekoľko kľúčových krokov, ako začať:
- Klasifikujte svoje systémy umelej inteligencie: Najprv musíte určiť, do ktorej kategórie rizika patria vaše aplikácie umelej inteligencie – neprijateľné, vysoké, obmedzené alebo minimálne. Táto klasifikácia bude určovať vaše konkrétne povinnosti v oblasti dodržiavania predpisov.
- Vykonávať hodnotenia rizika: V prípade akýchkoľvek vysoko rizikových systémov musíte vykonať dôkladné posúdenia s cieľom identifikovať a riešiť potenciálne porušenia základných práv. Nejde len o odškrtávanie políčok; ide o hĺbkový pohľad na vplyv vášho systému.
- Zabezpečenie transparentnosti a dokumentácie: Uchovávajte si dôkladné záznamy o návrhu vašej umelej inteligencie, súboroch údajov použitých na školenie a jej rozhodovacích procesoch. Táto dokumentácia je nevyhnutná na preukázanie súladu s predpismi a zodpovednosti v prípade incidentu.
Law & More poskytuje poradenstvo organizáciám, ktoré vytvárajú systémy umelej inteligencie, a organizáciám, ktoré ich používajú, v otázkach rozdelenia rizika v zmluvách, klasifikácie a povinností podľa zákona o umelej inteligencii a v otázkach obhajoby alebo uplatňovania nárokov, keď systém spôsobil stratu. Ak systém umelej inteligencie vo vašej organizácii viedol k rozhodnutiu, ktoré je teraz napadnuté, kontaktujte nás, aby sme mohli situáciu rýchlo posúdiť.
