Roboty a umělá inteligence: Evropský parlament žádá společná pravidla odpovědnosti za škodu

Usnesení vyzývá Evropskou komisi (EK), aby předložila návrh legislativních pravidel pro odvětví robotiky a umělé inteligence, které by umožnily plně rozvinout jejich ekonomický potenciál a zároveň zajistily přiměřenou úroveň bezpečnosti. Podle Mezinárodní federace pro robotiku (IFR) činil průměrný nárůst prodeje robotů v období let 2010 až 2014 přibližně 17 % ročně, přičemž jen v roce 2014 se zvýšil o 29 %. Nad možností vypracování právních norem regulujících tyto sektory již uvažují některé členské státy i země za hranicemi EU, upozorňuje usnesení. EU proto podle poslanců musí být v této oblasti aktivní, aby nebyla v budoucnu nucena následovat pravidla nastavena třetími zeměmi.
Poslanci konkrétně požadují stanovit soubor pravidel, která budou upravovat zejména otázky odpovědnosti a transparentnosti a budou v souladu s bytostně evropskými a univerzálními humanistickými hodnotami, jimiž se vyznačuje příspěvek Evropy ke společnosti; vzhledem k tomu, že tato pravidla nesmí ovlivňovat proces výzkumu, inovací a rozvoje v oblasti robotiky.
Evropská unie by mohla podle usnesení sehrát zásadní úlohu rovněž při vytváření základních etických zásad, jimiž by se měl řídit vývoj, programování a používání robotů a umělé inteligence, a při začleňování těchto zásad do evropských právních předpisů a kodexů chování s cílem utvářet technickou revoluci tak, aby sloužila lidstvu, aby užitek z pokročilých robotických systémů a umělé inteligence byl co nejšířeji sdílen a aby se v nejvyšší možné míře zamezilo potenciálním rizikům.
Přílohu obsáhlého legislativního usnesení tvoří také Charta robotiky, která byla vypracována za pomoci oddělení vědeckých prognóz (STOA) Generálního ředitelství Výzkumné služby Evropského parlamentu a která předkládá etický kodex inženýrů robotiky, kodex pro komise pro etiku výzkumu, „licenci“ konstruktérů a „licenci“ uživatelů.

Pravidla odpovědnosti za škodu
Parlament v usnesení zdůraznil nutnost a naléhavost legislativní úpravy, která by mj. definovala pravidla odpovědnosti za škody - např. při nehodách způsobených automobily bez řidiče. Poslanci v této souvislosti požadují zavedení systému povinného pojištění a vytvoření doplňkového fondu, z něhož by byly vypláceny kompenzace obětem nehod autonomních vozidel.
Plénum také vyzvalo Komisi, aby v dlouhodobém horizontu zvážila vytvoření zvláštního právního statusu pro roboty s cílem jasně definovat, kdo je odpovědný za případnou škodu. Exekutiva EU by také podle poslanců měla sledovat trendy vývoje zaměstnanosti, zejména vytváření, přesuny a úbytek pracovních míst v důsledku zvýšeného využívání robotů.

Konkrétně usnesení v oblasti odpovědnosti za škodu usnesení stanoví:
- autonomii robota lze definovat jako schopnost činit rozhodnutí a uplatňovat je vůči okolnímu světu nezávisle na kontrole či vlivu zvnějšku; tato autonomie je čistě technické povahy a její stupeň závisí na tom, jak byl robot konstruován, pokud jde o komplexitu jeho interakce s prostředím;
- čím je robot autonomnější, tím méně jej lze považovat za pouhý nástroj v rukou jiných subjektů (výrobců, provozovatelů, vlastníků, uživatelů atd.); s tím je spojena otázka, zda jsou dostačující obvyklá pravidla pro odpovědnost, nebo zda je zapotřebí stanovit nové zásady a pravidla, které vyjasní právní odpovědnost různých subjektů, pokud jde o jejich odpovědnost za jednání a opomenutí ze strany robotů, jejichž příčinu nelze vysledovat zpět k určitému lidskému činiteli, a zda takovému jednání či opomenutí ze strany robotů, jímž byla způsobena určitá újma, bylo možné zamezit;
- autonomie robotů nás v konečném důsledku staví před otázku jejich povahy s ohledem na stávající právní kategorie, tj. zda by měla být vytvořena nová kategorie s vlastními specifickými rysy a důsledky;
- současný právní rámec neumožňuje, aby robot nesl sám o sobě odpovědnost za jednání nebo opomenutí, jimiž způsobí škodu třetí straně; platná pravidla pro odpovědnost se vztahují na případy, kdy za jednání nebo opomenutí robota lze činit odpovědným konkrétního lidského činitele, např. výrobce, provozovatele, vlastníka nebo uživatele, pokud tato osoba mohla předvídat škodlivé jednání robota a zabránit mu; vzhledem k tomu, že výrobci, provozovatelé, vlastníci nebo uživatelé by také mohli nést absolutní odpovědnost za jednání či opomenutí robota;
- podle současného právního rámce se na škody, které způsobí robot nebo umělá inteligence, vztahuje jednak odpovědnost za výrobky (kdy za nesprávné fungování určitého výrobku nese odpovědnost jeho výrobce) a jednak pravidla, jimiž se řídí odpovědnost za způsobenou újmu (kdy za chování, jehož následkem byla způsobena újma, zodpovídá uživatel výrobku);
- pokud by robot byl schopen činit samostatná rozhodnutí, tradiční pravidla by již nestačila k určení odpovědnosti za škodu způsobenou robotem, protože by nebylo možné určit stranu, která má poskytnout odškodnění a napravit škodu, kterou robot způsobil;
- v oblasti smluvní odpovědnosti se jasně projevují nedostatky současné právní úpravy, neboť pokud budou stroje konstruovány tak, aby si vybíraly své smluvní partnery, vyjednávaly smluvní podmínky, uzavíraly smlouvy a rozhodovaly o tom, zda a jak je budou uplatňovat, nebude již možné se řídit tradičními pravidly; bude nutné vytvořit pravidla nová, účinná a aktuální, která by odpovídala technologickému vývoji a nejnovějším inovacím, které našly uplatnění na trhu;
- pokud jde o mimosmluvní odpovědnost, směrnice 85/374/EHS se vztahuje pouze na škodu způsobenou výrobními vadami robota, a to navíc pod podmínkou, že poškozená osoba prokáže škodu, vadu a příčinnou souvislost mezi vadou a škodou, takže je možné, že právní rámec absolutní odpovědnosti či odpovědnosti bez zavinění nebude dostačující;
- bez ohledu na oblast působnosti směrnice 85/374/EHS není platná právní úprava dostačující k tomu, aby zajistila odpovědnost za škodu způsobenou roboty nové generace, pokud by tito roboti měli schopnost adaptace a učení, která by způsobila, že by jejich jednání bylo do určité míry nepředvídatelné, neboť tito roboti by se samostatně učili na základě vlastních variabilních zkušeností a interagovali by s prostředím jedinečným, nepředvídatelným způsobem.

Obecné principy rozvoje robotiky a umělé inteligence pro civilní účely
Evropský parlament vyzval Komisi, aby navrhla jednotné unijní definice kyberneticko-fyzikálních systémů, autonomních systémů, inteligentních autonomních robotů a jejich podkategorií, přičemž by vzala v úvahu následující vlastnosti, jimiž se vyznačuje inteligentní robot:
- je autonomní díky senzorům nebo výměně dat s okolním prostředím (propojenost) a je schopen tato data předávat a analyzovat;
- má schopnost samostatného učení na základě zkušeností a interakce (volitelné kritérium);
- má alespoň menší fyzickou strukturu;
- má schopnost přizpůsobit své jednání a svou činnost okolnímu prostředí;
- není v biologickém smyslu živý.

Evropský parlament se přitom domnívá, že pro určité konkrétní podkategorie robotů by měl být ve vhodných a nezbytných případech na vnitřním trhu Unie zaveden všeobecný unijní systém registrace pokročilých robotů, a vyzval Komisi, aby stanovila kritéria pro klasifikaci robotů s cílem určit, kteří roboti by měli být registrováni. V této souvislosti vyzval Komisi, aby posoudila, zda je žádoucí, aby takový registrační systém a registr spravovala zvláštní agentura EU pro robotiku a umělou inteligenci.

Usnesení současně zdůraznilo, že rozvoj robotických technologií by se měl zaměřit na to, aby doplňoval, a nikoli nahrazoval schopnosti člověka. Vývoj robotiky a umělé inteligence je podle usnesení zcela zásadní, aby bylo zaručeno, že lidé budou mít nad inteligentními stroji neustálou kontrolu. Poslanci se domnívají, že je třeba věnovat zvláštní pozornost tomu, že mezi člověkem a robotem může vzniknout emoční vazba - zejména v případě zranitelných skupin (děti, starší osoby a osoby se zdravotním postižením), a poukazuje na problémy spojené s vážnými emočními či fyzickými dopady, které by toto emoční pouto mohlo mít na člověka.

Etický kodex a agentura EU pro robotiku
V souvislosti se stále intenzivnějším využíváním robotů bude podle usnesení do budoucna třeba věnovat se i etickým otázkám. Parlament proto navrhuje dobrovolný etický kodex pro výzkumné pracovníky a designéry v oblasti robotiky, který by měl zajistit, že budou jednat v souladu s právními a etickými standardy a že design robotů a jejich využití bude respektovat lidskou důstojnost.

V souvislosti s etickými zásadami usnesení mj. konstatuje:
- emancipační potenciál robotiky je třeba vnímat na pozadí různých napětí a rizik a je třeba ho důsledně posoudit z hlediska bezpečnosti osob, zdraví a bezpečnosti, svobody, soukromí, integrity a důstojnosti, sebeurčení a nediskriminace a ochrany osobních údajů;
- současný právní rámec Unie je třeba modernizovat a ve vhodných případech doplnit o etické zásady, jež by odrážely složitost robotické problematiky a její dopady v sociální, zdravotní a bioetické oblasti;
- je zapotřebí jasný, přísný a efektivní etický rámec pro vývoj, výrobu, používání a úpravy robotů, který by doplnil právní doporučení obsažená v této zprávě a ve vnitrostátním acquis a acquis Unie;
- základní je zásada transparentnosti, podle níž by mělo být vždy možné podat odůvodnění každého rozhodnutí učiněného s pomocí umělé inteligence, které může mít významný dopad na život jedné nebo více osob; domnívá se, že výpočetní činnost systémů umělé inteligence by mělo být vždy možné převést do formy pochopitelné pro člověka; pokročilí roboti by měli být vybaveni „černou skříňkou“, kde budou zaznamenávány údaje o každé operaci, kterou daný stroj provede, včetně logiky, na níž se jeho rozhodnutí zakládají;
- etický rámec by měl vycházet ze zásad prospěšnosti, neškodlivosti, autonomie a spravedlnosti, z principů a hodnot zakotvených v článku 2 Smlouvy o EU a v Listině základních práv, jimiž jsou lidská důstojnost, rovnost, spravedlnost a rovnoprávnost, nediskriminace, informovaný souhlas, soukromý a rodinný život a ochrana dat, jakož i z dalších základních principů a hodnot práva Unie, jako jsou zákaz stigmatizace, transparentnost, autonomie, osobní a sociální odpovědnost, a ze stávajících etických postupů a norem;
- zvláštní pozornost je třeba věnovat robotům, kteří fungují v tradičně chráněných a soukromých oblastech, a představují tak významnou hrozbu pro zachování důvěrnosti, protože jsou schopni získávat a odesílat osobní a citlivé údaje;
Usnesení také vybídlo Komisi, aby zvážila vytvoření Evropské agentury pro robotiku a umělou inteligenci, která by veřejným orgánům poskytovala odborné zázemí a odborné znalosti v oblasti technických, etických a regulačních otázek.
Součástí usnesení je návrh rámce v podobě charty spočívající v etickém kodexu pro inženýry v oblasti robotiky, kodexu pro komise pro etiku výzkumu, které přezkoumávají robotické protokoly, a vzorových licencích pro konstruktéry a uživatele.

Další postup
K textu legislativního usnesení se nyní musí vyjádřit Evropská komise. Pokud navzdory doporučení Evropského parlamentu nepředloží legislativní návrh, opomenutí bude muset veřejně zdůvodnit.

Publikováno: 4. 7. 2017 | Počet zobrazení: 2851 481