Když řídí člověk, všechno je jasné a z právního hlediska jednoduché. Jedete v obci dvousetkilometrovou rychlostí, sestřelíte chodce na přechodu, jdete si sednout, tečka. Co když ale za vás řídí počítačový systém? I když pojede v rámci prevence padesátkou, v určitých situacích (a rozhodně jich nebude málo) prostě nebude schopen kolizi předejít. Dostane se tak před výběr, který rozhodne o lidských životech.

Předesílám, že v takové situaci zatím reálně nejsme - Elon Musk sice do svých vozů Tesla implementuje funkčního autopilota, ale jasně bude komunikovat se zákazníky, že zodpovědnost za vozidlo stále nesou oni. Je tedy nutné rozlišovat pojem autopilot (pomocník pro řízení), který již nyní reálně funguje například právě v nových Teslách a autonomní řízení (jdu spát a probudím se v cílové destinaci), jehož reálné nasazení odhaduje Musk za 7-8 let včetně nezbytné legislativy.

Případ 1: Člověk a strom

Představme si modelovou situaci - autonomní vozidlo jede na silnici první třídy 90 km/h, jde o úsek mezi vesničkami, který lemují stromy, když se najednou za zatáčkou objeví na silnici přecházející člověk. Předpokládáme, že systém umí vyhodnotit rozdíl mezi stromem a člověkem, a v tu chvíli je před kritickým rozhodnutím - srazit člověka a nejspíš tak zachránit řidiče nebo strhnout řízení do strany a nejspíš těžce zranit řidiče nárazem do stromu ve vysoké rychlosti.

Poznámka: Nejsem žádný expert na automobilové kolize, buďte tak prosím shovívaví při posuzování modelových situací. Jde mi spíše o princip než o konkrétní fyzikální správnost.

Počítačový systém má sice výhodu bleskurychlé reakce na základě výpočtů, která se s tou lidskou nedá srovnat, ale rozhodne se správně? A co je vlastně v takové situaci správné? Je vůbec nějaká z obou výše popsaných možností eticky správná?

Případ 2: Dva lidé

Pojďme trochu přitvrdit. Ve stejné rychlosti za stejnou zatáčkou stojí vedle sebe dva lidé. Systém má kolizní kurz znemožňující netrefit ani jednoho. Neuvažujme masochistickou možnost trefit oba zároveň “řidič je tak jako tak v bezpečí, tak trefím oba, aby si nemohl ani jeden stěžovat” a postavme autonomní systém před výběr koho trefit a těžce/smrtelně zranit. Bude rozhodovat náhoda? Těžko. Bude systém schopný rozpoznat váhu člověka, sílu nárazu a možné poškození vozidla? Nejspíš ano. Pozná senzor věk a pohlaví a přihlédne k tomu při vyhodnocovacím procesu? Pozná sílu a míru poškození lidského těla v případě nárazu?

• Tesla má tři nové elektromobily s pohonem 4x4, potěší autopilot i výkon 515 kW!

Zatím to vypadá, že čím chytřejší systém bude, tím lepší rozhodnutí udělá. Trefí raději urostlého muže než těhotnou ženu, či dítě atd.

Případ 3: Citové vazby na scéně

Co když ve variantě se stromem povezete celou rodinu? Případně jeden z těch dvou lidí na silnici v případě 2 bude vaše manželka/váš manžel? Co když se systém rozhodne logicky a přece pro vás mnohem nešťastněji, než byste chtěli? Budete schopní říct, ano udělal správnou věc, lidstvu tak bude líp?

Víme, že počítač udělá nějaké pseudosprávné rozhodnutí, ale nebudeme přesto chtít nad celou věcí kontrolu i v případě naší špatné volby? Nebude lepší si to raději “podělat sám” než nechat vše na výhodách autonomního systému, který však může udělat rozhodnutí, které bychom za žádnou cenu nechtěli?