www.epravo.cz I EPRAVO.CZ Magazine I 4/2016 I 157

epravo.cz

Vývoj v oblasti umělé inteligence zažívá v posledních letech výrazný rozvoj a výrobky s určitým stupněm nezávislosti na člověku stále častěji vstupují do každodenního života.

Tento článek hodnotí, jak jsou sou-časná právní pravidla na „roboty“ připravena, a jaké právní otázky je nutno před masivnějším rozšíře-ním autonomních zařízení vyřešit.

Článek se zaměřuje především na osobní auto-mobily, které budou zřejmě jedním z prvních masově rozšířených výrobků s prvky autono-mie.

Autonomně řízená vozidla

Pro technologický trh bylo překvapivé, že právě automobilový průmysl začal jako jeden z prv-ních sektorů v masovější míře využívat umělou inteligenci. Jedná se o sektor s vysokou mírou regulace a značným potenciálem pro vznik škody, kde by testování umělé inteligence před pár lety málokdo předvídal. Nicméně dnes už je zjevné, že automobilový průmysl bude v této oblasti průkopníkem.

Otázka právní regulace vyžaduje v této oblasti pohled ze dvou perspektiv. Tou první je otáz-ka samotné zákonnosti využívání bezpilotních automobilů, tj. zda se vůbec mohou bezpilotní automobily pohybovat po veřejných komuni-kacích. Tou druhou je pak hledisko odpověd-nosti za škodu, kterou takové vozidlo případně způsobí. Samostatnou kategorii potom tvoří otázka bezpečnostních standardů s důrazem na kybernetickou bezpečnost.

Regulace dopravy

Jedním z klíčových dokumentů v oblasti regu-lace dopravy, je Vídeňská úmluva o silničním

provozu z roku 1968, která stanoví hlavní pra-vidla provozu na pozemních komunikacích. Úmluvu ratifikovalo 74 zemí včetně všech členských států EU s výjimkou Velké Británie a Španělska. Spojené Státy Americké rovněž nejsou signatářskou zemí této úmluvy. Tato úmluva historicky požadovala, aby každé vo-zidlo v pohybu mělo řidiče, který vozidlo neu-stále ovládá.[1]

Na neočekávaně rychlý vývoj technologií v této oblasti zareagovaly signatářské země novelou úmluvy z roku 2014, která umožňuje, aby se vozidlo „řídilo samo“ za podmínky, že systémy samořízení budou moci být řidičem vypnuty a řidič bude moci kdykoli převzít kon-trolu nad vozidlem.[2]

Novela z roku 2014 tedy v Evropě umožnila vy-užití asistenčních systémů řízení, včetně umě-lé inteligence. Vozidla mohou být i autonom-ní, ale musí být stále vybavena všemi prvky umožňujícími manuální řízení. Zcela bezpilotní auta bez místa po řidiče, tak jak je známe např. z Kalifornie, jsou tím však ve většině Evropy stále postavena mimo zákon, a není možné je na veřejných komunikacích ani testovat.

Komplexní regulace na úrovni Evropské unie zatím chybí. Z řad odborníků si za tento svůj přístup vysloužila Evropská unie i jednotlivé členské státy velkou míru kritiky. Ozývají se hlasy, že Evropa svou neflexibilní regulací po-skytuje Spojeným státům náskok v technolo-gickém vývoji. Ve Spojených státech si pravidla určují jednotlivé státy a řada z nich je k použití zcela bezpilotních vozidel, či alespoň jejich tes-tování, velmi otevřená.

Pod tlakem domácích automobilek již například Německo připravuje nezávisle na EU vlastní pravidla pro provoz bezpilotních automobilů. Automobilky BMW, Renault a telekomunikač-ní společnosti Orange, Deutsche Telekom či Ericsson již také požádaly Evropskou komisi, aby zastřešila prvotní čtyřletý přeshraniční projekt testování bezpilotních automobilů. Nic-méně zatímco v Kalifornii již můžete auta bez místa pro řidiče potkat na ulici, v EU se stále pohybujeme jen na úrovni legislativních dis-kusí.

Evropská spolupráce v této oblasti je však více než nutná, neboť se nejedná pouze o nastavení

pravidel silničního provozu, ale na dnešní úrov-ni technologického rozvoje se tato problemati-ka dotýká rovněž regulace telekomunikací, ochrany dat, kybernetické bezpečnosti a dal-ších oblastí.

Odpovědnost za škodu způsobenou autonomně řízeným vozidlem

V dosavadním světě, ve kterém věci mají mi-nimální nebo žádnou umělou inteligenci, jsou pravidla odpovědnosti poměrně jednoduchá. Obecně platí, že za škodu způsobenou věcí je odpovědný ten, kdo má mít nad věcí dohled, tedy její uživatel, a pokud ho nelze určit, tak vlastník věci.[3]

Tento princip je prolamován dvěma výjim-kami. Pokud je škoda způsobena vadou vý-robku, tak za takovou škodu odpovídá výrob-ce, případně dovozce vadného výrobku.[4]Ve zdravotnictví a některých podobných službách je za škodu způsobenou přístro-jem odpovědný poskytovatel zdravotnické služby, který přístroj použije. Zde se jedná o ochranu pacienta, aby nemusel pátrat po výrobci přístroje, který byl použit při lé-kařském zákroku.

S nástupem věcí vybavených umělou inteligen-cí, které budou mít určitou autonomii jednání, však nebude základní princip odpovědnosti uživatele věci nadále vhodný a spravedlivý. Pokud uživatel nebo vlastník věci nebude moci kontrolovat „jednání“ věci, nelze mu dost dobře přičítat odpovědnost za případnou škodu, kte-rou „jeho“ věc způsobí.

Očekává se, že odpovědnost uživatele či vlast-níka bude v éře autonomně jednajících před-mětů nahrazena odpovědností výrobce, posta-vené na obdobných principech jako současná odpovědnost za vady výrobku.

Objevují se i názory, že v budoucnu by roboti měli mít vlastní právní osobnost. S ohledem na stupeň své vyspělosti a schopnosti praco-vat samostatně, by pak byli sami odpovědni za škodu, kterou způsobí. Jednalo by se o po-dobný přístup, který se dnes v právu postupně formuje pro zvířata. Právní řády postupně začí-

PIERSTONEz právní praxe

Právní aspekty autonomních zařízení

158 I EPRAVO.CZ Magazine I 4/2016 I www.epravo.cz

epravo.cz

nají přecházet na princip, že zvíře není jen věcí a že má určitou míru subjektivních práv. Je možné, že k podobnému vývoji dojde i ve vzta-hu k robotům.

Ve svém návrhu zaslaném výboru Evropského parlamentu[5] navrhuje lucemburská poslan-kyně Evropského parlamentu Mady Delvaux řešení založené na nových pojistných pravi-dlech. Podle návrhu Delvaux by bylo nutné zřídit systém pojištění založený na povinnosti výrobce uzavřít pojištění autonomních robotů, které vyrábí, a z kterého by se nahrazovala ško-da způsobená roboty.

Z prvních reakcí např. výrobců samořízených automobilů se zdá, že výrobci jsou ochotni od-povědnost za škodu v principu nést. Komerční řešení bude pravděpodobně spočívat v nových pojistných produktech, jejichž cenu si výrobci zpětně promítnou do ceny výrobků. Celá situ-ace se tedy změní tak, že uživatel autonomní věci neponese za škodu způsobenou věcí odpovědnost, ale v ceně výrobku bude platit i pojištění odpovědnosti za škodu. V případě samořízených automobilů by tedy povinné ručení neplatil majitel vozu přímo, ale náklady pojištění by nesl výrobce automobilů, který by ho promítl do ceny vozu.

Diskutují se i modely pojištění, kdy by do sys-tému pojištění odpovědnosti za škodu způso-benou autonomní věcí (robotem) přispívali poměrnou částí jak výrobci, tak vlastníci, či uživatelé.

Kybernetická bezpečnost

Jak již bylo řečeno, výrobci jsou obecně ochot-ni nést odpovědnost za fungování umělé in-teligence, kterou vyvinou, a pojišťovny jsou obecně ochotny takové produkty pojistit. Nic-méně ani výrobci ani pojišťovny nejsou ochot-ny převzít plnou odpovědnost a poskytnout plné pojištění rizik kybernetické bezpečnosti. Hlavní otázkou je, zda by nedostatek zabezpe-čení měl být posuzován jako vada výrobku. Na samořízené vozidlo, které není dostatečně chráněno proti kybernetickým útokům, by pak bylo pohlíženo jako na vozidlo, kterému např. nefungují brzdy. Veškerá odpovědnost za následky kybernetického útoku by byla při-čtena výrobci.

Tento princip není pro výrobce obecně přijatel-ný. Argumentují celkem oprávněně tím, že žád-né zabezpečení není absolutní a ani s náležitou péčí nelze veškerým kybernetickým útokům zabránit. Řešení by mohlo spočívat v defino-vání určitých bezpečnostních standardů, které by výrobci museli splnit, a při jejichž splnění by za škodu způsobenou kybernetickými útoky nebyli odpovědní.

Tím však zůstává nezodpovězena otázka, kdo by odpovídal za škodu vzniklou kybernetic-kým útokem, pokud vozidlo bylo řádně zabez-pečeno v souladu s požadovanými standardy. Nejjednodušší odpovědí je, že by se jednalo o „vyšší moc“, za kterou nikdo odpovědnost nenese – podobně jako třeba v případě povod-ní nebo blesku. To však není odpověď, která poškozené v takové situaci uspokojí. Tento přístup by ve svém důsledku mohl vést pou-ze k formálnímu naplňování bezpečnostních standardů výrobci, bez skutečných investic cílených na jejich předcházení.

Otázka kybernetické bezpečnosti nabývá na důležitosti ve světle nových forem teroris-tické činnosti. Následky kybernetických úto-ků, kterými by někdo získal kontrolu nad tisíci samořízených automobilů, mohou být nedo-zírné. Problematika kybernetické bezpečnosti a odpovědnosti za nedostatečné zabezpečení se tak může v praxi stát reálnou hrozbou ome-zující rychlost nasazování nových technologií.

Etické dilema

S nasazováním samořízených automobilů vznikají i etické otázky. Řeší se zejména etická rozhodnutí, která musí software automobilu činit v případě nevyhnutelné nehody. Výrobci automobilů, kteří software programují, tak stojí před otázkou, zda by software měl např. vždy minimalizovat ztráty na životech, i když by to znamenalo obětovat posádku vozidla, nebo zda by měl spíše chránit cestující za každou cenu. Měl by si mezi těmito dvěma alternativa-mi snad vybrat náhodně? Měl by vůz zohledňo-vat věk či pohlaví a přednostně chránit např. děti? Pokud výrobce nabízí různé verze svého morálního algoritmu a kupující vědomě vybere jednu z nich, je kupující odpovědný za škodlivé důsledky rozhodnutí algoritmu?

Zodpovězení těchto otázek je důležité i z hle-diska akceptace autonomních vozů širokou veřejností. Kdo by si také chtěl koupit vůz, kte-rý v případě nouze obětuje majitele. Prvotní provedené výzkumy poukazují na určitý para-dox, kdy jsou lidé sice ochotni přijmout fakt, že by vůz měl minimalizovat ztráty na životech a v případě potřeby obětovat posádku, to vše však jen do té míry, dokud ve voze nebudou sedět sami. •............................................................................Mgr. Jana Pattynová, LLM.Jiří BosákPIERSTONE s.r.o., advokátní kancelář

z právní praxe

Poznámky:[1] Čl. 8 odst. 1 a 5 Vídeňské úmluvy o silničním

provozu z roku 1968.

[2] Čl. 8 odst. 5bis Vídeňské úmluvy o silničním provozu z roku 1968.

[3] § 2937 zákona č. 89/2012 Sb., občanského zákoníku (dále jen „NOZ“).

[4] § 2939 NOZ.

[5] Draft Report with recommendations to the Commission on Civil Law Rules on Robo-tics 2015/2103(INL).