reklama

Musíme najít způsob, jak se s umělou inteligencí spojit, říká její vývojář Marek Rosa

Rozhovor týdne
Čtěte více: technologie | umělá inteligence
  • Majitel společností Keen House Software a GoodAI věří, že lidé jednou splynou s umělou inteligencí.
  • Do vývoje umělé inteligence investoval deset milionů dolarů, které vydělal na počítačových hrách.
  • "Umělá inteligence je součástí evoluce člověka," říká Marek Rosa.
jarvis_5995d439498e42ee7e8619d2.jpeg Zakladatel firmy GoodAI Marek Rosa Foto: HN - Milan Bureš

Umělá inteligence lidstvo neohrožuje, naopak, bylo by riskantnější ji nevyužít. Bude naší součástí, něčím, co zvýší naše možnosti, tvrdí Marek Rosa, šéf mezinárodního týmu vývojářů, který z Prahy konkuruje světovým gigantům. Souběžně se základním výzkumem vznikají i nástroje, které už byznys nasazuje do praxe.

HN: Využíváte vy sám už dnes nějak umělou inteligenci?

Je toho hodně. Umělou inteligenci využívá třeba vyhledávač Google. Výsledky, které vidíte, jsou díky neuronovým sítím. Využívají je i překladače. Facebook to má také. Je toho hromada − vezměte si nákup na Alze nebo na Amazonu. Když vám nabízejí další zboží, které by se vám mohlo líbit, také využívají základy umělé inteligence. Jenže asi sami cítíte, že to není tak úplně inteligence, je to hodně omezené, zaměřené na určitou oblast, aplikace, kterou někdo musel naprogramovat. My se snažíme vyvinout obecnou umělou inteligenci. Ta by se dokázala sama adaptovat do jakékoliv situace.

HN: Takže vyvíjíte umělý mozek?

Přesně tak. A tomu už se bude moci říkat inteligence. Na druhou stranu i ta omezená pomáhá s řadou věcí, díky ní můžeme řešit problémy, které by člověk řešit nemohl nebo by to bylo moc drahé.

Marek Rosa (38)

◼ Rodák ze slovenské Bratislavy začínal programováním informačních systémů pro leasingové společnosti, v roce 2010 rozjel Keen Software House, studio na vývoj počítačových her. Zatím vydalo tři – Miner Wars, Space Engineers a Medieval Engineers.

◼ Marek Rosa žije v Praze. Jeho firmy, zaměstnávající na sedm desítek lidí, sídlí v jednom z moderních karlínských administrativních center.

◼ Do vyvíjení umělé inteligence plánuje investovat čtvrt miliardy korun. Základní vývoj probíhá v neziskové společnosti GoodAI.

HN: Jsou známé projekty jako DeepMind, v jehož rámci vznikl program schopný porazit šampiona ve hře Go, nebo Watson, integrující ohromnou bázi dat se schopností rozumět běžným otázkám, ve vývoji umělé inteligence nejdál?

Je řada projektů, na které není upřená taková pozornost a které přitom mají před Watsonem od IBM nebo DeepMindem od Googlu náskok. Všechno to jsou ovšem dílčí záležitosti, prozkoumávání teorie. Před časem se psalo o tom, jak Facebook musel vypnout "roboty", kteří se mezi sebou začali domlouvat jazykem, jemuž člověk nerozuměl. Ve skutečnosti nešlo o nic zásadního, ve Facebooku řešili dílčí problém a zkoušeli jejich vyjednávací schopnosti ve velmi omezeném, specifickém prostředí. Mimo něj by ta věc neměla absolutně žádné využití. Byl to test. Důvod, proč se dnes tolik o umělé inteligenci mluví, je, že prvky strojového učení se dají využít už i v praxi. Jde například o rozeznávání věcí v obrazových materiálech, technologie v autech. Jenže je tam obrovské množství limitů. Třeba u samořiditelných aut: my jsme na rozdíl od nich byli trénovaní i v jiných situacích než na silnici, které nám ale při řízení pomáhají. Když vidíme ze strany běžet dítě, podvědomě se tomu přizpůsobíme. Je nepravděpodobné, že auto získá stejné množství zkušeností jen ježděním po ulicích. To by trvalo moc dlouho.

HN: Co s tím?

Je potřeba pochopit procesy, které jsou za tím. Obchází se to tím, že ve virtuálních simulátorech se vymýšlejí různé varianty, které mohou nastat, a tím to auto vlastně učí.

HN: A vyhodnotí to lidé?

To musí vyhodnocovat lidé. Umělá inteligence toho schopná není. Jde zatím vlastně jen o převod mezi vstupními informacemi a tím, jak má vypadat výstup. Jenže je to hodně triviální, chybí strašná spousta schopností, jakými jsou krátkodobá a dlouhodobá paměť, strukturovanější komunikace. My umělé inteligenci dnes nemůžeme říct, že něco nemá dělat, protože by se mohlo něco stát. My do ní ty algoritmy, které to zajistí, musíme nahrát.

HN: To vypadá, že umělá inteligence i samořiditelná auta jsou ještě opravdu hodně daleko.

To není jisté. Co dnes vypadá nemožně, se může rychle změnit. Můžeme přijít na nějaký způsob, jak ta auta natrénovat velmi rychle. Vezměte si počítače, jak se neustále zrychlují. Tohle je ale cesta, kterou my v GoodAI nechceme jít. Popravdě, jakmile přijde obecná umělá inteligence, tak systémy, které se vyvíjejí třeba pro auta a jsou koncipované jen na ně, budete moct rázem zahodit. Budete mít v ruce lepší způsob, jak umělou inteligenci trénovat.

Se sovou, t-rexem a Applem

◼ Stačí se projít po chodbách karlínského sídla Rosových společností a člověk si udělá představu, co jej pohání.

◼ Na zdech visí výmluvné ilustrace – obrázek tyranosaura rexe od Zdeňka Buriana, záběry vesmírné galaxie, umělecký piktogram sovy nebo grafika shrnující vývoj lidstva. Nechybí ani papírová plachta s nadpisem Jak technologičtí giganti vydělali své miliardy, jež shrnuje základní ekonomická data Applu, Facebooku, Googlu, Amazonu a Microsoftu. A u dveří návštěvníky vítá atrapa skafandru v lidské velikosti.

◼ Jde o oblek astronauta z Rosovy počítačové hry Space Engineers, ale vystihuje dobře jeho touhu dostat se do vesmíru a procestovat jej. Což je i jeden z důvodů, proč se snaží vyvinout umělou inteligenci. Žene ho dopředu spíš chuť poznávat a cestovat, nebo obavy o bezpečnost na Zemi, jak o tom mluví Elon Musk?

◼ "Spíš jde o to cestování," směje se původem slovenský podnikatel Marek Rosa.

HN: Neuronové sítě jsou hodně nepředvídatelné. A to, co budujete vy, zřejmě ještě mnohonásobně víc, ne?

Už při návrhu architektury musíme myslet na to, abychom "inteligenci" motivovali, nastavili pozitivně. Musíme ji nasměrovat tam, kam chceme, aby se nezačala učit nechtěným způsobem. Když jsem určitý algoritmus navrhl, tak zhruba vím, jak se bude vyvíjet.

HN: Právě že jen zhruba.

Máte pravdu. Bavíme se o ohromné mnohotvárnosti, lidské tělo také pořád neznáme do každého detailu. Bezpečnost je proto mimořádně důležitá. Předně musíme rozumět algoritmům, podle nichž se umělá inteligence bude učit. Pak musíme pochopit data, která se bude učit. Vlastně je to jakási školní osnova. Tím ovlivníte, jaké dovednosti se umělá inteligence má naučit, aby byly užitečné a bezpečné. Třetí oblastí je otestování systému.

HN: To by asi probíhalo v nějakém uzavřeném, virtuálním prostoru?

Jasně, bude to v uzavřeném, bezpečném prostředí. Jako u těch simulátorů pro auta. U člověka to je ale podobné, také jste neprožil všechny situace, v nichž umíte fungovat. Nikdy jsem třeba neřídil auto na Antarktidě, ale dovedl bych se na to připravit.

Klíčové je uvědomit si, že obecná umělá inteligence má řešit problémy, které my řešit neumíme a které dnes ani neznáme. Nebude ji možné měřit jako specializované systémy v samořiditelných autech nebo ty, které porazily člověka v nějakých hrách. Tam snadno stanovíte, co je cíl. U skutečné umělé inteligence ale půjde o efektivitu při řešení nových situací a nových problémů, na které není naprogramovaná a ani neví, že se s nimi setká.

HN: Jako u člověka…

Lidská inteligence je obecná inteligence. Přesně. Náš mozek se vyvinul v podmínkách, které se od těch dnešních hodně liší. Přesto jsme se dokázali přizpůsobit. Naše DNA byla optimalizovaná na život v džungli, na lov, na boj. Moc se od té doby před desítkami tisíc let nezměnila, prostředí je ale jiné. Žijeme jinak. Právě díky té univerzálnosti, schopnosti řešit problémy.

HN: Jenže i člověka můžete výchovou a tlakem přimět páchat zlo, proč ne umělou inteligenci?

Nemělo by být možné nastavení umělé inteligence změnit. Když si koupíte samořiditelné auto, také ho nebudete moct sám přeprogramovat, aby začalo přejíždět lidi. Ale může se stát, že někdo tu ochranu obejde, to se děje dnes a denně. Důležité bude, aby umělá inteligence měla v sobě zakódovanou ochranu, že ji nelze hacknout a zneužít. A pak, účinnou ochranou bude existence spousty umělých inteligencí, mezi nimiž sice budou nějaké zlé, ale ty ostatní je eliminují. To říká i Elon Musk, který rizika rozhodně nepodceňuje.

HN: A kde je v takovém světě místo pro člověka?

Musíme najít způsob, jak se s umělou inteligencí spojit. Myšlenky, dovednosti, které se dnes odehrávají jen v mozku, se pak budou odehrávat i v počítači. Nakonec nebudeme rozlišovat, jestli nás něco napadlo v biologickém, nebo počítačovém mozku. Co jsem já? Nějaký hodnotový systém a vzpomínky. A velká část toho jednou bude v počítači. To už je ale z dnešního pohledu sci-fi. Já však umělou inteligenci nevyvíjím s tím, aby si pak dělala, co chce, a já zůstal obyčejný člověk a jen ji pozoroval.

HN: Jak si vlastně představujete, že umělou inteligenci vypustíte do světa? Jak ji chcete prodávat?

Jedna varianta je nabídnout ji v podstatě komukoliv jako službu, jako dnes používáme například Google. Nabízí se třeba využití k poznávání vesmíru a tím pomoci lidstvu. Když máte něco, co je chytřejší než lidé, proč zaměstnávat armády lidí?

HN: A budou lidé dělat? Jak se svět změní, byl by podle vás řešením základní příjem pro všechny?

Zvýší se solidarita státu vůči lidem. Převezme nerostné bohatství a zdroje, které na svém území má, a práci odbude umělá inteligence. Část lidí se bude moct dovolenkovat. Část lidí v sobě ale pořád bude mít puzení něco dělat, neztratí drajv.

HN: Co když umělá inteligence přikročí k vlastnímu sebezdokonalení? To se může vymknout.

Vždycky bude její další rozvoj určený jejím základním nastavením. Když to vezmu na sebe, já v sobě mám nastaveno, že chci vyvinout umělou inteligenci, ne že bych se měl přestěhovat na ostrov.

HN: Ona ale může přijít na řešení, která vás při jejím vývoji nenapadnou.

Ano, mohlo by se stát, že se vyvine směrem, který jsme nepředpokládali. To je fakt, spoustu toho nevíme. Právě proto bychom se měli s umělou inteligencí propojit, abychom byli vždy při tom a mohli to ovlivňovat.

HN: Budeme její součástí a zajistíme, že nás nezničí?

Tak se to dá říct také. Ona se stane naším nástrojem. Bude to takový ekosystém. Je jisté, že se tomu budou měnit hodnotové systémy, ale u toho budeme.

HN: Jste tedy optimista a nástup umělé inteligence je podle vás nevyhnutelný?

Jsem optimista a praktik. Hledám cesty, jak zařídit, aby to dopadlo dobře. Vidím problém do značné míry stejně jako Musk. Není přece v našem zájmu postavit něco, co by nás pak zabilo. Jen bych se na věc nedíval výhradně z toho negativního hlediska, jak to dělá on. Straší a straší. Pojďme radši hledat způsoby, jak ta rizika minimalizovat. Ona tam vždy nějaká budou, ale budou menší než třeba to, že bez umělé inteligence nevyřešíme klimatické změny. Vlastně to, na čem pracuji, nevnímám jako umělou inteligenci, ale jako něco přirozeného. Budeme mít prostě lepší inteligenci.

HN: Chcete se toho dožít?

Chtěl bych to stvořit. V to, že bude umělá inteligence, která nás vezme do vesmíru, jsem věřil odjakživa.

HN: Vaše společnost GoodAI je neziskový projekt, ale vy kolem něj stavíte i byznys, že?

GoodAI Applied jsme rozběhli na začátku letošního roku, vede ji můj bratr a vidíme ji jako nezávislou firmu. Jedna z oblastí, jimž se věnujeme, i když nejde o "pravou" umělou inteligenci, jsou chatboty. Umožňují komunikaci zákazníků s firmami. Další rodinu představují systémy, které se z vizuálních, zvukových či jiných dat dodávaných senzory dokážou naučit, že výrobek je O. K. nebo že vykazuje nějaká poškození.

HN: V čem to může přinést výhodu?

V úsporách. Umí to nahradit lidi. Nebo zajistí kontrolu v oblastech, kde kontrola dosud ani nebyla možná, třeba proto, že člověk nemá tu trpělivost. Z krátkodobého hlediska očekávám od umělé inteligence právě tento typ výhod: pomoc v oblastech, kde by byl člověk moc drahý nebo by dělal příliš chyb.

HN: Kdysi jste mluvil o tom, že byste se přesunuli do Silicon Valley, pak jste myšlenku opustil. Je tedy Praha pro tento typ vývoje dobrá základna?

Určitě je to dobrá základna. V Silicon Valley je sice cítit větší důraz na výsledky, což lidi motivuje, ale i na sebeprezentaci. A ne vždy tam korelují nároky na peníze se schopnostmi. Snažíme se proto tady hledat šikovné lidi, jejichž hlavní "přidaná hodnota" není sebevědomí, ale velmi kvalitní výsledky. Nevýhodou Silicon Valley jsou i další vysoké náklady. A ani se mi ta oblast moc nelíbí, když ji porovnám s Prahou.

HN: Byl byste ochotný pustit do firmy investory?

Do budoucna je to jedna z možností. Nyní by to bylo možná kontraproduktivní.

HN: Ozývají se vám zájemci? Co kdyby zavolal Larry Page z Googlu a nabídl atraktivní sumu?

Už jsme takovou nabídku měli. Ale kontrolu nad projektem chci mít já.

Luboš Kreč, Luděk Vainert
Přeposlat
Diskuse
reklama

Na Václavském náměstí vystoupili i prezidentští kandidáti. Horáčkovi to nebylo umožněno, Hilšer mu nabídl část svého času

Tisíce lidí si připomínají události 17. listopadu. Babiš s Okamurou sklidili kritiku

V Mladé Boleslavi začne Škoda Auto vyrábět elektromobily. První vozy vstoupí na trh od roku 2020

Tesla představila elektrokamion a modernizovaný vůz Roadster. Někteří analytici firmu kritizují, že vyrábí "drahé hračky" a nedbá na zisk

Výročí 17. listopadu je poslední svátek, který lidé v Česku ještě opravdu slaví, říká historik Jiří Padevět

reklama