Autoforum

/

Foto: Transport and Main Roads Australia, CC0 Public Domain

Že se Velký bratr dívá, tuší snad všichni, ne každý si ale uvědomuje, co všechno vidí. A jak moc může chybovat při tom, co posuzuje, aniž by existovala rozumná možnost domoci se jakkoli rychlé nápravy.

Filmy jako Síť nebo Demolition Man působily v první polovině 90. let poněkud fantaskně, bylo v nich ale mnohem více vizionářství, než si možná i sami jejich autoři byli ochotni připustit. Pravda, asi si ještě utíráme zadnici lístečky s kredity za porušení slovního morálního statutu (ty papírky jsou ostatně přežitek...), ale to jsou kosmetické detaily vedle toho, co všechno se dnes skutečně děje.

Dnes budeme blízko spíše prvnímu zmíněnému snímku, ve kterém Sandra Bullock jako Angela Bennett marně bojovala proti systému, který stoprocentně spoléhal na elektronickou evidenci čehokoli. Ta byla brána jako tak berná mince, že přes to, co „vypadlo z počítače”, prostě nejel vlak. Tohle se děje už dnes i u nás, posloužit mohu příběhem kolegy, který nedávno bojoval s tím, že mu úřad chybně zapsal do karty řidiče zákaz řízení, jenž vůbec neměl platit. Zastavili ho policisté v hluboké noci bez jakéhokoli důvodu, při proklepnutí elektronické evidence ho ale vyzvali k tomu, aby s nimi odjel na stanici kvůli podezření z maření výkonu úředního rozhodnutí kvůli porušení zákazu řízení.

Nebylo žádné obrany, policisté to měli v mobilu černé na bílém, lhát o tom, že to není pravda, bude přece každý podezřelý. Kolega se v nevíře a ve snaze se očistit přes portál občana podíval do své karty, aby policistům dokázal, že takový zápis tam není, ale on tam skutečně byl. Co mohl v tu chvíli dělat? Absolutně nic. V půlnoci neexistuje způsob, jak se obrátit na kohokoli jiného, a tak kolega skončil - byť ne v poutech, ale dostal by i ta, kdyby „neposlouchal” - na několik hodin na stanici.

Tam rozsáhle popisoval svou životní situaci coby podklad pro rozhodnutí soudu o adekvátním trestu za jeho zjevný přečin. Policisté to prostě měli za jasnou věc, s kolegou zacházeli jako s lhářem, který právě spáchal už docela závažný trestný čin. Sebrali mu řidičák, domů se musel nechat odvézt a až o dva dny později (protože byl víkend), se jeho právníkovi podařilo u úřadu, který zápis provedl, domoci se nápravy, po kterém následovalo vrácení řidičáku a stažení všech předchozích kroků.

Byla to hororová noc, děsivý zážitek na několik hodin, dva dny bez řidičáku pro... Vlastně pro nic, absolutně pro nic, jen někdo na úřadě se spletl a zanesl zápis do špatné karty řidiče. Úřad se omluvil, znáte to, takový politováníhodný omyl se stane maximálně jednou za 10 let. Policisté se omluvit ani nepokusili, však co dělali, jak dělali, oni nedělali, jiní dělali, co měli dělat? Ve své podstatě mají pravdu, ale aspoň poznali, že jejich skvělé online systémy nejsou neprůstřelné.

Samozřejmě, na počátku bylo lidské selhání, ale co to mění? A jak moc uklidňující je to ve chvíli, kdy víte, že tento systém může někdo také zneužít a úmyslně vás - jako Angelu Bennett - vystavit takové šikaně ze strany policistů, kteří ještě ke všemu budou jednat v dobré víře, že chytili někoho špatného? Navíc se do takové situace někdo může dostat i úplně bez selhání lidského faktoru alespoň coby primární příčiny.

O tom se dozvídáme z Austrálie, kde v roce 2021 začaly ve velkém fungovat systémy na sledování zapnutí bezpečnostních pásů. Samotná snaha donutit lidi poutat se je v pořádku - kdo se nepoutá, je blbec, který popírá celý smysl moderních aut a jejich pasivní bezpečnosti. Jasně, nemusíme na to hledět dogmaticky, když se přesunete od stojanu čerpací stanice k myčce o pár metrů vedle bez pásů, určitě nezemřete, ale jinak? Vymáhat povinnost používat bezpečnostní pás je v pořádku, ale opravdu to nejde dělat automatickými systémy, které nikdy - nikdy, nikdy a nikdy - nebudou neomylné. Však jsme viděli i některé vskutku tragikomické případy.

Říkáte si, že když pořeší milion věcí správně a jednou někoho omylem pokutují, je to kolaterální škoda? Dá se o tom diskutovat, ale osobně si to nemyslím, neboť i na konci toho jednoho příběhu může být někdo jako kolega, který si vytrpěl i s rodinou hrůzný zážitek, aniž by si to jakkoli zasloužil. To se prostě nesmí stát ani jednou. Je navíc třeba říci, že tyto systémy chybují mnohem častěji a nikdo je nekontroluje. A v australském Queenslandu sekaly chyby tak dlouho, že během necelých dvou let postupně automaticky udělily 1 842 neoprávněných pokut, z nichž 626 vedlo ke ztrátě řidičského oprávnění domnělého pachatele (tresty za nepoužití pásů v Austrálii jsou velmi tvrdé, takže je snadné se s jejich pomocí vybodovat). A i když dotyční okamžitě věděli, že pokutu dostali za něco, co neměli, 121 z nich dodnes čeká na vrácení řidičáků. Skoro se chce říci něco jako „wow”.

Systém se prostě soustavně pletl, to je celé. Podívejte se třeba na situaci na hlavní fotce, dáma má auto se světlým pásem přes světlé tričko, ani okem pořádně není vidět. Pro automatické systémy je prakticky nemožné správně rozlišit 100 procent situací, přesto je někdo nechal fungovat zcela autonomně, takže i k udělování pokut docházelo na základě jejich „vůle”. A pak se braňte, když je to hned někde černé na bílém. A zkuste to zvrátit, když to určil „systém”. Však proč by lhal, že? Algoritmy přece nelžou, neuplatíte je, a tak jejich vyhodnocení platí jako slovo boží.

Tohle je opravdu děsivé a je fascinující, že úřady nejsou schopny ani následky dávno známého omylu bryskně řešit. Zástupce Queenslandu se omlouvá za všechny nepříjemnosti, přiznává, že něco takového se nikdy nesmí stát. Ale když už se to stalo, trvalo roky, než se na to přišlo, a trvá měsíce a týdny, než se podaří zvrátit negativní dopady. To je šílené a nijak uklidňující nejsou ani jeho slova o tom, že i zde byla údajně na začátku chyba člověka, který program špatně naprogramoval.

Upřímně - a IT je můj hlavní obor - tohle se nikdy zcela stoprocentně naprogramovat nedá. Neexistuje systém, který by zaručeně rozpoznal bílý pás na bílém tričku vyfocený černobílým foťákem s bleskem uprostřed noci. Takové systémy buď nemají existovat, nebo mají „konat” jen s lidským dohledem. A ten musí být osobně odpovědný za všechny omyly. Že se to neděje a je to příčinou tolika nespravedlivých zásahů do lidských životů, je skutečně na pováženou.

Zdroje: ABC News, Transport and Main Roads Australia

Petr Miler