Přejet chodce nebo ohrozit posádku? O rozhodovacích preferencích autonomních aut hlasovali lidé z celého světa

Autonomní provoz na silnicích rovná se bezpečnější cesta domů. Kdyby však mělo dojít na nevyhnutelnou srážku, jak by se mělo auto zachovat? Nová studie vědců z MIT tyto vzorce chování studovala ve veřejném průzkumu. O tom, zda by měla při nehodě přežít skupina lidí či jednotlivec, dítě nebo dospělý, rozhodovali lidé z celého světa. Jak jsou výsledky?


Vzato celosvětově, na silnicích se denně pohybuje kolem 1,2 miliardy aut. Ročně v důsledku dopravních nehod zemře okolo 1,2 milionu lidí. V přepočtu tak jeden lidský život vychází na každý tisící automobil.

Další statistika zase ukazuje na to, kolik času ročně strávíme za volantem. Uvažujeme-li 24hodinový den, tedy i dobu kdy běžně spíme, vychází tento odhad na 12 dní ročně. Takto velkou porci času by v budoucnu měly zkrátit, nebo přinejmenším cestování zpříjemnit, autonomní vozy.

Než zcela ovládnou silnice, budou se muset nejprve naučit koexistovat s konvenčními dopravními prostředky, a v neposlední řadě i těžko předvídatelnému chování nás lidí. To je reprezentováno například přecházením rušných křižovatek, pohybem vozíčkářů ve vozovce nebo podobně i cyklistů a mnoha dalšími situacemi.

Navzdory závazkům společností zabývajících se mobilitou učinit silnice bezpečnějším místem pro všechny, rovněž i méně toxickým, nastane doba, kdy autonomní vozidla budou muset samostatně vyhodnocovat rizika spojená s nehodami a otázkou života a smrti.

Kdo tedy přežije?

To je otázka, která se jeví být etickým hlavolamem. Představte si situaci, kdy se již prakticky nelze vyhnout smrti nebo zranění. Měl by v takovém případě počítač učinit rozhodnutí vystavit tomuto nebezpečí posádku vozu nebo raději přejet chodce, kteří se pohybují před ním?

Mělo by raději samořiditelné auto strhnout řízení a najet do skupiny lidí než do opodál stojící party přihlížejících? A jak by se mělo rozhodnout v otázce dítě versus dospělý? Kdo ve výsledku ponese vinu za výše popsané incidenty?

Jak by se mělo v této situaci zachovat samořiditelné auto?  |  Zdroj: nature.com

Právě tyto otázky vzrostly po březnové události, kdy v arizonském městě Tempe usmrtil testovací vůz Uberu jedoucí v autonomním režimu 49letou ženu, která přecházela silnici. Mohl za tragickou událost řidič přítomný na palubě vozu, jenž v inkriminované době nedával pozor?

Odpovědi se snažil najít tým vědců z prestižní univerzity Massachusetts Institute of Technology (MIT) v novém průzkumu, jehož závěry jsou fascinující. Do studie prostřednictvím hry přilákali přes 2 miliony lidí z více než 200 států světa. Cílem bylo odhalit různé vzorce chování etického hlavolamu známého jako tramvajové dilema.

Jeho princip spočívá v tom, že člověk musí zareagovat na situaci s rozjetou tramvají, která se blíží ke skupině chodců. Musí proto rozhodnout, zda je nechá srazit, anebo pohne výhybkou a nechá přejet jen jednoho chodce.

Upgrade hry pro autonomní vozy

Obdobu hry s tramvají vědci předělali pro samořiditelné automobily a hru přeložili do několika světových jazyků. Účastníci výzkumu si mohli vybrat z několika situací podle svých preferencí jako například – mělo by auto ušetřit občana dodržujícího zákon nebo raději chodce, který jej přecházením na červenou nedodržel? Většina lidí vybrala první možnost.

„Studie se svou podstatou snaží pochopit různé typy morálních rozhodnutí, kterým zřejmě budou čelit i autonomní vozy,“ říká Edmond Award, postdoktorandský výzkumník v MIT Media Lab a vedoucí autor projektu. „Zatím nevíme, jak by s těmito situacemi měly naložit.“

Nejhorší nehoda v historii Tesly. V autonomním režimu „usmrcoval“ Model X (Video)

Moral Machine nasbírala téměř 40 milionů odpovědí z celého světa. Vědci posléze analyzovali data, ale zároveň účastníky rozdělili do tříd podle věku, vzdělání, pohlaví, finančních příjmů nebo politického či náboženského vyznání. Našli přitom tři důležité elementy, na kterých se většina z nich shodovala. Lidé by v oněch situacích spíše ušetřili člověka před zvířaty, skupinu před jednotlivci a mladé před staršími.

„Nikdy v historii lidstva nebylo strojům umožněno autonomně rozhodovat o tom, kdo by měl přežít nebo naopak zemřít. Ve zlomku sekundy a bez dohledu v reálném čase. Nyní se po toto mostě chystáme přejít.

Před tím, než umožníme našim autům dělat etická rozhodnutí, musíme nechat vzejít naše preference z globální debaty a předložit je společnostem vyvíjející morální algoritmy a tvůrcům zákonů, které je budou regulovat,“ uvádí studie.

Jednotlivec versus skupina lidí.  | Zdroj: technologyreview

Češi v tomto ohledu odpovídali podobně jako respondenti z Francie či Latinské Ameriky. Z výsledků studie proto v porovnání s ostatními státy, i když třeba spolu sousedícími, odcházíme s mnohdy radikálními pohledy na věc. Jasněji bychom třeba preferovali záchranu žen, lidi s vyšším statutem nebo mladé a zdravé lidi.

Jak každopádně z výsledků studie vyplývá, svět se rozdělil přinejmenším do tří oblastí dle preferencí mnohdy s velkými rozdíly v názorech. Podle všeho lze tedy tvrdit, že neexistuje odpověď na otázku, jak se má auto SPRÁVNĚ chovat. Na druhou stranu nebude možné všechny výše zmiňované aspekty zahrnout do vývoje autonomních aut. Jak by totiž mohlo poznat osobu s vyšším společenským statutem nebo finančním příjmem?

Jedno je však jisté už nyní. Vývojáři algoritmů autonomních aut budou mít velmi napilno.

Zdroj: nature.com; technologyreview.com