reklama

I roboti musí dodržovat zákon. Europoslanci pro ně chtějí povinné ručení

Ekonom
  • Rozvoj umělé inteligence je na vzestupu.
  • V Americe už roboti za klienty platí účty.
  • Stroje ale nejsou neomylné. Škodu, kterou způsobí, zaplatí jejich provozovatel.
jarvis_5b0e6eae498eebb2b8aad92e.jpeg Pokud chatbot poradí zákazníkovi špatně, škodu zaplatí provozovatel. Foto: Shutterstock

Využití umělé inteligence je na vzestupu. Nejde přitom jen o stroje, které nahrazují dělníky v továrnách. Roboti se stále ve větší míře začínají uplatňovat také v komunikaci se zákazníky. Do roku 2020 si takového chatbota plánují podle průzkumu společnosti Oracle pořídit čtyři pětiny evropských společností. V Česku chatbot vzešlý ze spolupráce Svazu průmyslu a ministerstva vnitra odpovídá například na otázky kolem nového evropského nařízení na ochranu osobních údajů, jiný pomohl tisícům lidí s vyřízením volebního průkazu pro parlamentní a prezidentské volby.

V českých podmínkách se ale zatím zpravidla uplatňují jen méně pokročilí komunikační roboti. Mnohdy odpovídají na první pohled nepřirozeným a "šroubovaným" jazykem a zareagovat dokážou jen na velmi úzké spektrum otázek. Tím se podstatně liší od nejmodernějších "virtuál­ních" poradců, jaké využívají hlavně americké a asijské banky a pojišťovny. Jejich reakce jsou natolik přesvědčivé, že zákazník mnohdy vůbec nepozná, že na jeho otázky neodpovídá živý bankéř.

Jednoho z pokročilejších chatbotů využívá Bank of America. Jmenuje se Erica a je součástí internetového bankovnictví banky. "Erica je schopná poskytnout informace o stavu účtu, jaký je trend, jaké jste provedli platby a je schopná provádět i platební transakce. Vedle toho, že s ní klienti Bank of America mohou chatovat, ji mohou ovládat i hlasem," popisuje vedoucí týmu pro IT sektor advokátní kanceláře Kinstellar Zdeněk Kučera.

Finančnictví a pojišťovnictví umělé inteligenci v komunikaci přeje. Objem agendy, již je potřeba probrat s klien­ty, je totiž v těchto odvětvích tradičně velký. Chatboti ji zrychlují a zlevňují. Podle analýzy společnosti Juniper Research díky nim dokážou světové banky v průměru ušetřit 50 až 70 centrů na jeden kontakt s klientem.

Ukryt v pozadí

V Česku se ale na masový nástup podobně sofistikovaných robotů, jako je Erica, zatím čeká. Tuzemské banky a pojišťovny k tomuto inovativnímu způsobu komunikace přistupují s maximální opatrností. A není divu. Případné chyby chatbotů pro ně mohou mít docela závažné právní dopady.

Nejchytřejší roboti umí lidem říct, kolik peněz mají v bance, i zaplatit jejich účty. V Česku se chatboti zatím testují. V Generali "našeptávají" poradcům.

"Pokud bychom spustili chatbota už nyní zcela samostatně, neměli bychom jistotu, že odpovídá správně. Mohlo by se tak stát, že by klient nedostal relevantní odpověď a následně by mu tím mohla vzniknout škoda," popisuje Jan Marek z pojišťovny Generali. Ta už chatbota využívá od loňska, zatím ale jen jako "našeptávače" pro živé operátory v klientském centru.

"Je to v podstatě nutný mezikrok do fáze, kdy budeme robota využívat napřímo pro klienty. Než se tak stane, je nezbytně nutné ho vytrénovat na takovou úroveň, aby dokázal sám klientovi odpovídat smysluplně − a to na co největší šíři dotazů," dodává Marek s tím, že do přímé komunikace s klienty by chatbot mohl vstoupit do jednoho roku.

Komunikační roboty testuje také Moneta Money Bank. Ta zatím ale informace kolem jejich možného využití při práci s klienty zveřejňovat nechce.

Odškodnění za omyly

Podle právníků i České národní banky, která dohlíží na pojišťovny a bankéře, má jejich opatrnost při nasazování chatbotů do ostrého provozu racionální důvod. "Veškeré jednání chatbota je přičitatelné jeho provozovateli, tedy bance či pojišťovně. Provozovatel sice může klienta vždy předem výslovně upozornit, že nejedná s člověkem, ale se strojem, to ovšem jeho odpovědnost za případnou škodu nijak neomezuje," upozorňuje advokát KPMG Legal Ondřej Vykoukal.

Tak například pokud by se klient chtěl pojistit proti povodni a robot nabídl pojistku, která by se na takovou škodu nevztahovala, jednalo by se o nesprávnou nebo neúplnou radu. Podle občanského zákoníku by pak pojišťovna musela klientovi zaplatit škodu až do částky, kterou špatně sjednaná pojistka nekryla. V bankovnictví pak může chatbot způsobit škodu například chybným provedením platebního příkazu, který klient zadal jeho prostřednictvím. I tu by banka musela zákazníkovi nahradit.

Zbavit odpovědnosti by se provozovatelé chytrých programů mohli jen ve chvíli, kdy by chyba robota byla naprosto evidentní a zákazník by mohl prostou logikou dospět k tomu, že poskytnutá informace není pravdivá. "Šlo by například o situaci, kdy chatbot vypočítá cenu pojištění nemovitosti na rok nula korun, přičemž je jasné, že se jedná o placenou službu," uvádí Kučera.

Že ani umělá inteligence není neomylná a její fungování se může snadno zvrtnout, ostatně v praxi ukázal dva roky starý případ chatbota Taye. Ten měl komunikovat s lidmi na sociální síti Twitter. Spustila ho společnost Microsoft, aby si otestovala možnosti tohoto nového způsobu komunikace. Jenže Tay nefungoval ještě ani celý den a Microsoft už ho musel stáhnout. Umělá inteligence, která se učila z interakce s lidmi, se během několika hodin změnila v rasistu vychvalujícího politiku Adolfa Hitlera. Tay zveřejňoval ale i tweety, podle nichž by měly USA na svých jižních hranicích postavit zeď proti migrantům, kterou by zaplatilo Mexiko.

Povinné ručení na roboty

Na rizika, která s sebou nastupující rozvoj umělé inteligence přináší, už proto reagují i zákonodárci. Evropský parlament loni vydal rezoluci, v níž vyzývá Evropskou komisi mimo jiné k tomu, aby uzákonila povinné pojištění odpovědnosti provozovatelů robotů. To by mohlo fungovat podobně jako povinné ručení u auta a do jeho fondu by podle plánů europoslanců přispívaly všechny instituce a firmy, které mají roboty vybavené umělou inteligencí a schopné samostatně se učit. "Když z provozu chatbota vznikne nějaká škoda, měla by být uhrazena z toho systému povinného ručení," vysvětluje Kučera.

Evropská komise ale zatím na výzvu europoslanců re­agovat neplánuje a vytvářet specifický právní rámec pro roboty se nechystá. Zvlášť v oblasti odpovědnosti za škody podle ní zatím stačí dosavadní právní předpisy, jako je směrnice o odpovědnosti za vadné výrobky a směrnice o strojních zařízeních. Chce proto jen posílit spolupráci mezi členskými státy v oblasti rozvoje umělé inteligence a v oblasti práva se chce věnovat pouze otázkám z oblasti interakce mezi lidskými pracovníky a stroji. Jen tam totiž podle ní existující předpisy nestačí.

Pokud chatbot poradí zákazníkovi špatně, škodu zaplatí provozovatel. Platit nebude jen v případě, že chyba byla naprosto zřejmá.

Ačkoliv evropská legislativa zatím neřeší umělou inteligenci přímo, v některých případech se jí úzce dotýká. To je i případ nového nařízení o ochraně osobních údajů (GDPR), které začalo ve všech zemích unie platit 25. května. Lidé podle něj mají právo nebýt předmětem žádného rozhodnutí založeného výhradně na automatickém zpracování. To dává spotřebitelům možnost žádat zapojení člověka do jejich obchodního případu.

"Problém by nastal v okamžiku, kdy by například chatbot zcela samostatně rozhodoval o tom, zda klient dosáhne na kontokorent. V takovém případě by se měl klien­ta zeptat, zda s takovým rozhodnutím souhlasí, a pokud klient souhlasit nebude, měl by ho chatbot odkázat na kamennou pobočku nebo na telefonního bankéře," vysvětluje omezení, které nové nařízení pro chatboty zavedlo, Vykoukal z KPMG.

Experti se nicméně shodují na tom, že legislativa zatím nestaví rozvoji chatbotů ani jiných typů umělé inteligence do cesty žádné nepřekonatelné překážky. Jen se budou muset řídit zákony stejně jako lidé. A zvlášť ve finančním sektoru to nebude platit jen v oblasti odpovědnosti za škody nebo ochrany osobních údajů. Podle České národní banky si budou muset dát provozovatelé elektronických bankéřů pozor také na to, aby virtuální pomocníci dodržovali stejná pravidla jako lidé také při prověřování bonity klientů.

Připraveno ve spolupráci s měsíčníkem Právní rádce

Alžběta Vejvodová
Přeposlat
Diskuse
reklama

Neinvestovat do Amazonu a Googlu byla chyba, řekl miliardář Buffett. Ke kryptoměnám je ale stále kritický

Rozpočet státu skončil loni s druhým nejlepším výsledkem za 20 let. Pomáhá ekonomický růst a vyšší výběr daní

Ochráníme demokracii před falešnými zprávami, prohlásil Macron. Připraví zákon, který umožní soudům trestat šíření lží

Do desetitisíců schránek nechodí předplacené noviny, roznášková firma nemá dostatek lidí

Volkswagen v lednu prodal rekordní množství aut, jejich počet přesáhl půl milionu. Silně rostl v Číně a Německu

reklama