Flotily robotaxíků rostou, protože firmy vyvíjející autonomní vozidla zahajují komerční provoz a zároveň dál sbírají data pro další vývoj a bezpečnost. Například společnost Zoox začala v tomto měsíci účtovat jízdy v Las Vegas. Tato dceřiná firma Amazonu se sídlem v kalifornském Foster City nedávno navázala partnerství s Uberem a rozšiřuje provoz do dalších měst. Ačkoli Zoox popsal, jak ke svým vozidlům bez volantu přistupuje z hlediska bezpečnosti, federální standardy dosud neexistují.

Společnost Guident tvrdí, že její platforma GuideOn řeší kritickou vrstvu „člověka v rozhodovací smyčce“ a poskytuje autonomním vozidlům a robotaxíkům umělou inteligenci, vzdálené monitorování a teleoperaci. Firma se sídlem na Floridě provozuje šest center vzdáleného dohledu a řízení a spolupracuje se šesti provozovateli autonomních kyvadlových vozidel. Minulý týden rovněž o tři roky prodloužila partnerství se společností Coastal Waste & Recycling, jak se rozšiřuje nasazení jejího inspekčního robota WatchBot a souvisejícího softwaru na Floridě, v Georgii a Jižní Karolíně.

Harald Braun, generální ředitel Guident, odpověděl serveru The Robot Report na následující otázky týkající se bezpečnosti autonomních vozidel a vzdáleného dohledu.

Technologie může pomoci lidskému dohledu udržet krok

Na otázku, jak mohou architektury s člověkem v rozhodovací smyčce stíhat rostoucí flotily, Braun vysvětlil, že tento přístup neznamená, že by člověk ručně řídil nebo nepřetržitě sledoval každé vozidlo. Jeho smyslem je dohled a pomoc ve chvíli, kdy autonomní systém narazí na situaci, kterou nedokáže sám bezpečně vyřešit.

„Jak flotily rostou, technologie musí ten lidský dohled učinit škálovatelným,“ uvedl Braun. Podle něj by autonomní vozidlo mělo zvládat běžné situace, zatímco monitorování řízené umělou inteligencí rozpozná, když se děje něco neobvyklého, a předá potřebné informace vzdálenému operátorovi. Ten pak může poskytnout pokyny nebo, je-li to technicky vhodné a právně přípustné, zasáhnout a vrátit vozidlo do bezpečného stavu. Braun je přesvědčen, že právě to je správný model škálování autonomní mobility: člověka nechceme z rovnice odstranit, chceme technologii využít k tomu, aby byl mnohem efektivnější.

Bezpečnost robotaxíků vyžaduje konzistenci a data pro budování důvěry

Na otázku ohledně rizik toho, že si vývojáři robotaxíků sami stanovují bezpečnostní standardy, Braun odpověděl, že stávající pravidla silničního provozu jsou důležitá, ale autonomní vozidla přinášejí nové situace, na které tradiční rámce nebyly nutně navrženy. Podle něj nejde jen o to, zda vozidlo dodržuje pravidla, ale i o to, co se stane, když autonomní systém narazí na něco nečekaného. Volá proto po konzistentním rámci pro to, jak jsou vozidla monitorována, jak se hlásí incidenty a hraniční případy a jak se řeší lidský zásah.

„Nemyslím si, že řešením je firmám přesně diktovat, jak mají svou technologii stavět. Obor potřebuje prostor k inovacím. Měla by tu ale být jasná bezpečnostní očekávání a měřitelné standardy platné napříč celým odvětvím,“ řekl. Zdůraznil, že pokud chceme důvěru veřejnosti a široké přijetí, lidé musí vědět, že kolem těchto vozidel existuje bezpečnostní architektura.

K otázce spolehlivých dat pro tvorbu předpisů Braun uvedl, že nejdůležitější jsou konzistentní data z reálného provozu. Pokud firmy měří a hlásí situace odlišně, je pro regulátory obtížné pochopit, co se v oboru skutečně děje. Podle něj je třeba sledovat data z celého provozního prostředí, nejen to, zda vozidlo úspěšně dokončilo jízdu, a čím standardizovanější a transparentnější tyto informace budou, tím lépe regulátoři rozliší ojedinělou situaci od systémového problému.

Autonomní systémy musí počítat s rychlostí i hraničními případy

Braun popsal, že robotaxík se pohybuje mezi cestujícími, chodci, dalšími vozidly a provozem při mnohem vyšších rychlostech, takže následky incidentu mohou být zcela odlišné než u mobilního inspekčního robota. Základní princip je ale velmi podobný: autonomní systémy je třeba monitorovat a v případě potřeby řídit. Systém dohledu musí takové situace rozpoznat, předat správné informace vzdálenému operátorovi a umožnit mu vozidlu asistovat nebo je ovládnout.

Podle Brauna existují tisíce potenciálních hraničních případů, protože reálný svět se neustále mění – nečekaný předmět na silnici, neobvyklá dopravní situace, blokující vozidlo, nehoda či jiná nouzová událost. Podstatná otázka podle něj nezní, zda lze každý hraniční případ vyloučit, ale co systém udělá, když na některý narazí. Přítomnost lidského dohledu přitom nemusí znamenat, že autonomní systém selhal – je tu proto, že reálný svět bude i nadále vytvářet těžko předvídatelné situace.

Bezpečnost od třetích stran a sdílení dat nemusí bránit inovacím

Na otázku, jaké motivace mají firmy jako Waymo a Zoox ke spolupráci s poskytovateli softwaru třetích stran, Braun uvedl, že se škálováním flotil budou provozovatelé muset řešit nejen samotnou technologii řízení, ale i provozní infrastrukturu potřebnou k bezpečnému řízení stovek či tisíců vozidel. Vzdálené monitorování a řízení podle něj nenahrazuje autonomní systém, ale tvoří doplňkovou vrstvu. Specializovaná platforma třetí strany navíc může nabídnout infrastrukturu nezávislou na typu vozidla, redundantní konektivitu a standardizovaná provozní data.

K otázce, kdo by měl kontrolovat data, Braun rozlišil dvě roviny: kdo data vytváří a vlastní, a kdo k nim potřebuje přístup, aby byl zajištěn bezpečný provoz. Firmy tato cenná data potřebují k vylepšování své technologie, zároveň však u bezpečnostních informací z veřejného prostoru existuje širší zájem na přiměřené transparentnosti. Regulátoři by podle něj měli mít přístup k informacím, které potřebují k hodnocení bezpečnosti, a měly by existovat konzistentní způsoby hlášení incidentů.

K bezpečnosti autonomních vozidel vede jasnost a redundance

Braun by rád viděl jasná očekávání ohledně provozního monitorování, hlášení incidentů, vzdáleného lidského dohledu, spolehlivosti komunikace, kybernetické bezpečnosti, kvalifikace operátorů a záložních postupů. Důležitá je podle něj i škálovatelnost: bezpečnostní architektura, která funguje pro jedno vozidlo, musí zůstat spolehlivá i při nasazení na celou flotilu.

Na otázku, zda vzdálený operátor nevytváří další možný bod selhání, odpověděl, že ano – pokud vozidlo závisí na jediném operátorovi či jediném komunikačním spojení. Správně navržený systém vzdáleného provozu by měl naopak poskytovat další bezpečnostní vrstvu, aniž by nahrazoval palubní autonomii a záložní schopnosti vozidla. Guident podle něj využívá dohled řízený událostmi, komunikaci s velmi nízkou latencí a redundantní konektivitu, přičemž operátor se zapojuje pouze tehdy, když je jeho pomoc potřeba.

Zdroj: therobotreport.com