Koncem roku 2019 auto Kevina George Azize Riada vyjelo z kalifornské dálnice, přejelo na červenou a nabouralo do jiného auta a zabilo dva lidi uvnitř. Riadovo auto, Tesla Model S, bylo na autopilotu.
Začátkem tohoto roku podali žalobci okresu Los Angeles dvě obvinění ze zabití automobilem proti Riadovi, kterému je nyní 27, a případ je prvním stíháním za těžký zločin v USA, který se týká zodpovědnosti smrtelné autonehody zahrnující asistenční systém řidiče.
Jde také o první trestní stíhání havárie zahrnující funkci Autopilota Tesly, která se nachází na více než 750 000 autech v USA. Mezitím rodina obětí havárie vede občanskoprávní žaloby proti Riadovi i Teslovi.
Tesla pečlivě rozlišuje mezi svou funkcí Autopilot a vozem bez řidiče a srovnává svůj asistenční systém s technologií, kterou používají piloti letadel, když jsou jasné podmínky.
Zodpovědnost Tesly
„Tesla Autopilot zbavuje řidiče zodpovědnosti těch nejnudnějších a potenciálně nebezpečných aspektů cestování po silnici,“ uvádí Tesla online. „Vytváříme Autopilota, abychom vám poskytli více sebevědomí za volantem, zvýšili vaši bezpečnost na silnici a zpříjemnili jízdu po dálnici… Řidič má stále odpovědnost za auto a v konečném důsledku má nad ním kontrolu.“
Výrobce elektrických vozidel jasně klade břemeno bezpečnosti a zodpovědnosti na řidiče, ale výzkum naznačuje, že lidé jsou náchylní k zkreslení automatizace, nadměrnému spoléhání na automatizované pomůcky a systémy podpory rozhodování. Nyní je na soudech, aby rozhodly, kdo má vinu, když použití těchto systémů vede k fatálním chybám.
V současné době se Riad propustí na kauci a odmítá obvinění z vraždy. NYU News hovořil s Markem Geistfeldem – NYU Law Sheilou Lubetsky Birnbaum profesorkou civilních soudních sporů a autorem dokumentu California Law Review – o významu těchto trestní obvinění a co mohou znamenat pro budoucnost důvěry spotřebitelů v nové technologie.
Trestní obvinění
Můžete osvětlit právní precedens trestního stíhání Kevina George Azize Riada? Jakou zprávu vysílá spotřebitelům a výrobcům podobné technologie?
Za prvé, trestní obvinění jsou překvapivá, na základě toho, co víme – dokumenty o trestním obvinění jako obvykle neposkytují žádné podrobnosti. Pokud byste nedávali pozor, přejeli na červenou a někoho trefili. Jakkoli se to jeví tragické, v drtivé většině případů byste z tohoto chování nebyli obviněni. Trestních stíhání za havárie motorových vozidel mimo kauzy pod vlivem alkoholu opravdu moc nevidíte.
Pokud by byl řidič shledán vinným z neúmyslného zabití, tento případ by skutečně mohl být tím nejrušivějším, nejnovějším a nejpřevratnějším precedentem. Je to silný odklon od minulosti, pokud je ve skutečnosti trestní stíhání založeno pouze na jeho spoléhání se na autopilota. A to když měl převzít zodpovědnost za řízení. Pokud je to to, co se děje, můžete vidět mnohem více trestních stíhání postupujících vpřed než my dnes.
Deliktní odpovědnost nebo občanskoprávní poplatky jsou naopak velmi běžné. Tehdy by obžalovaný zaplatil škodu za způsobená zranění. Většina žalob pro delikty u státních soudů v celé zemi pochází z nehod motorových vozidel, při kterých měl nehodu z nedbalosti způsobit jeden řidič, k čemuž v tomto případě jednoznačně došlo, protože řidič projel na červenou.
Pokud tento případ nějakým způsobem signalizuje, že trestní odpovědnost je možná jednodušeji spoléháním se na technologii, pak by to mohlo vést k hlubokému posunu v povaze právní odpovědnosti.
Budoucnost nové technologie
Jakou povinnost má společnost s vyspělými technologiemi, jako je Tesla – informovat řidiče, ať už přímo nebo prostřednictvím reklamních a marketingových sdělení, že jsou odpovědní za všechny škody, bez ohledu na to, zda je vůz na autopilota?
Jednoznačně mají povinnost upozornit osobu sedící na místě řidiče, aby převzala vozidlo – že není schopno vše řídit samo. Toto varování vidíte ve vozidlech Tesla a téměř všechna vozidla mají tento typ varování. Když například při řízení používáte funkci mapy, mnoho aut nabídne varování: „To vás vede k rozptylování, věnujte pozornost silnici.“
Výrobci mají také povinnost mít při navrhování vozu na paměti pocit uspokojení, který s sebou nese technologie řízení. Tesla nebo jiní výrobci nemohou jen tak říct: „Hej, dávejte pozor, je to vaše zodpovědnost.“ Ve skutečnosti se má pokusit vložit něco do designu, aby došlo k ujištění, že řidiči zůstanou pozorní.
Různí výrobci tedy k tomuto problému přistupují různě – některá auta se srazí, pokud nemáte ruce na volantu, a jiná auta mají kamery, které začnou pípat, pokud nedáváte pozor.
Podle současných zákonů, pokud se řidič dostane do nehody a došlo k adekvátnímu varování a samotná konstrukce je dostatečně adekvátní, aby udržela řidiče pozorného, výrobce automobilu nenese odpovědnost. Ale je tu jedna možná výjimka: existuje formulace pravidla odpovědnosti, která má poměrně širokou akceptaci po celé zemi, včetně Kalifornie, kde se tento případ bude odehrávat. Podle tohoto pravidla se dotaz zakládá na tom, co spotřebitelé očekávají, že výrobce udělá. A očekávání spotřebitelů se mají silně ovlivnit marketingem a reklamou a tak dále.
Pokud by například Tesla inzerovala, že Autopilot nikdy nespadne, a pak dojde k havárii spotřebitele, Tesla by byla odpovědná za to, že tato očekávání zmařila.
Důvěra spotřebitelů
V tomto případě se stal řidič obviněn na základě představy, že se příliš spoléhá na autopilota svého vozu. Co to vypovídá o našich základních předpokladech o tom, zda jsou důvěryhodnější lidé nebo technika?
Mezi přehnaným spoléháním se a samolibostí je důležitý rozdíl. Myslím, že sebeuspokojení se stává jen přirozenou lidskou reakcí na nedostatek podnětů. A v tomto případě nedostatek odpovědnosti za provádění všech úkolů řízení. Můžete se nudit a ukolébat pocitem samolibosti, ale nemyslím si, že by chování bylo příliš závislé na technologii.
Myšlenka přílišného spoléhání se zde vstupuje do hry s potenciální povahou špatného jednání. Možná se řidič v tomto případě má hájit tím, že se důvodně domníval, že vůz má vše pod kontrolou a má i plně schopen tento problém vyřešit. A proto se nemusel bát reagovat, pokud by vše dopadlo jinak. Teď v tu chvíli má důvěřovat technologii místo své vlastní schopnosti zastavit vozidlo a dostat se z problému bezpečným způsobem. Pokud existuje slepá důvěra v technologii spíše než v převzetí, když se to mohlo udělat, a pokud se v důsledku toho odpovědní, stává se to velmi hlubokým, zajímavým druhem zprávy, kterou zákon vysílá.
Odpovědnost výrobců
Myslíte si, že tento posun v odpovědnosti poškodí podnikání společností jako Tesla?
Velkým problémem, kterému právě teď čelí výrobci autonomních vozidel, jako je Tesla, je získání důvěry a zodpovědnosti spotřebitelů, když zavádějí na trh novou technologii. Potřeba důvěry v raných fázích těchto produktů je nesmírně důležitá. A všichni výrobci se tohoto problému obávají, protože vědí, že pokud dojde k strašlivým nehodám, spotřebitelé ztratí důvěru v produkt.
Technologie nakonec převezme kontrolu; stane se jen otázkou, jestli to není dřív než později. A čas jsou v tomto kontextu peníze. Takže pokud se jen zpomalíte, protože spotřebitelé mají velké obavy o bezpečnost technologie, poškodí to průmysl. Očividně se chtějí tomuto výsledku vyhnout. Tato technologie se stále ujme. Stane se jen otázkou, jak dlouho bude trvat, než se tak stane. Používání autonomních vozidel má jen tolik výhod, a to i z hlediska bezpečnosti.
Autonomní vozidlo a zodpovědnost
Tesla o svém autopilotu a schopnosti plně autonomního řízení říká: „I když jsou tyto funkce navrženy tak, aby se postupem času staly schopnějšími, aktuálně povolené funkce nečiní vozidlo autonomním.“ Jaké problémy s odpovědností předpokládáte, pokud/až se tato vozidla stanou autonomními?
Je to složitá otázka a to je problém, který každého zajímá. Jakmile se tato vozidla stanou plně autonomními, pak už zbývá jen auto. Člověk v autě není ani prvkem v situaci. Velká otázka tedy zní: jakmile tato vozidla havarují, kdo to zaplatí? Člověk by si myslel, že za to ponese odpovědnost výrobce – a to zvýší náklady na tato vozidla a ztíží jejich distribuci. Mnoho lidí si myslí, že v případě havárie by měl být vždy odpovědný výrobce. K tomuto závěru mám silnou skepsi, protože si myslím, že to má mnohem bližší volání, než si většina lidí představuje.
Nakonec tyto problémy závisí na tom, jak federální regulační orgány, jako je Národní úřad pro bezpečnost silničního provozu, regulují vozidlo. Musí se stanovit bezpečnostní výkonnostní standard, který má výrobce zodpovědně splnit, než se produkt komerčně distribuuje jako plně autonomní.
Otázkou je, kde regulátoři stanovili tento standard? A nemyslím si, že je snadné mít pravdu. V tu chvíli se povede dobrá debata: Udělali to správně, nebo ne? Tyto rozhovory se stanou aktuální pro většinu z nás až v roce 2025.
Zdroj: thedriven, Vapol
