reklama

Facebook vypnul dva programy umělé inteligence, protože se dorozumívaly jazykem, kterému nikdo nerozuměl

Čtěte více: umělá inteligence | Facebook | IT
  • Programy Alice a Bob vytvořily lidem nesrozumitelný jazyk.
  • Neuronové sítě se mohou samy učit a zdokonalovat.
  • Prominentní vědci a podnikatelé varují před umělou inteligencí.
Někteří vědci varují, že schopnosti umělé inteligence se začínají blížit úrovni, kdy pro lidstvo může být nebezpečná. – Ilustrační foto. Někteří vědci varují, že schopnosti umělé inteligence se začínají blížit úrovni, kdy pro lidstvo může být nebezpečná. – Ilustrační foto. Foto: Shutterstock

Společnost Facebook ukončila experiment se dvěma programy umělé inteligence (AI), které měly konverzovat navzájem mezi sebou, protože si vyvinuly lidem nesrozumitelný jazyk. Projekt byl součástí snahy vyvinout lepší software pro komunikaci se zákazníky (tzv. chatbot). Experimentální programy vybavené prvky AI dostaly jména Alice a Bob – a hlavně úkol: vzájemně dojednávat výměnu určitého zboží tak, aby výsledek transakce byl co nejvýhodnější. Experiment organizovaný ve Facebook AI Research Lab (FAIR) se ale brzy začal vyvíjet nežádoucím směrem.

Lidé se ocitli mimo hru

Programy Alice a Bob se měly dohodnout na vzájemné výměně míčů, knih a klobouků, přičemž zboží mělo předem stanovenou hodnotu. Vyjednávání se nadějně rozeběhlo, brzy ale začalo vypadat jinak než smlouvání na trhu: softwaroví roboti se především snažili usnadnit si vzájemnou komunikaci tím, že postupně zjednodušovali svou angličtinu. Ta se nakonec stala pro lidi zcela nesrozumitelná, chatboti si ale i dál navzájem rozuměli. Vědci soudí, že bizarní jazyk, který tak vznikl, měl svá pravidla a vyjednávání pokračovalo – jak ale skončilo, nebylo možné zjistit. Experiment se tak minul se svým zadáním a projekt byl ukončen. Nejde přitom o první případ, kdy si roboti vytvořili vlastní lidem nesrozumitelný jazyk.

S prvky umělé inteligence založené na principu neuronových sítí pracují především překladatelské programy. Společnost Google provozující on-line překladatelskou službu Google Translate proto experimentovala s novým přístupem, kdy robot nepřekládá na základě slov a frází vložených do paměti, ale hledá význam pomocí analýzy souvislostí v překládaném textu. Podobným způsobem se učí lidé, kteří se ocitnou v novém jazykovém prostředí, ale nemají možnost absolvovat výuku.

Tak bude možné získávat překlady i z jazyka, pro který stroj nebyl "vyškolen". Současně se překladatelský program "pochopením" souvislostí v textu více blíží práci lidského překladatele, který také musí znát nejen slovní zásobu a mluvnici, ale i širší kontext.

"Aby se kvalita strojové překladu přiblížila práci lidského tlumočníka, musí být program schopný získávat a chápat reálie skutečného světa," konstatoval Andrejs Vasiljevs, spoluzakladatel technologické firmy Tilde, která vyvíjí překladatelské programy s prvky AI pracující na principu neuronových sítí.

Experiment měl nečekaný výsledek: program s prvky AI si vytvořil jakýsi umělý jazyk, který byl pro lidi nesrozumitelný, ale jemu umožnil porozumět textům i v neznámém jazyce. Teprve z něj pak vytvářel požadovaný překlad.

Jako v lidském mozku

Neuronové sítě schopné se samostatně učit, pracují podobně jako neurony v lidském mozku. I v jejich případě jde (zjednodušeně řečeno) o síť vzájemně propojených prvků, z nichž každý se může v daném okamžiku nacházet v aktivním nebo neaktivním stavu. Přitom každý ze spojů mezi prvky má určitou schopnost lépe či hůře přenášet vzruchy (tzv. vazební váhu). Některé prvky slouží jako vstupní (mohou být aktivovány z vnějšku), některé jako výstupní.

Základním pravidlem je, že prvek se stane aktivní, když souhrnná úroveň vzruchů z jeho spojů přesáhne určitou hodnotu. Každá změna aktivity určitého prvku však mění jeho vliv na ostatní prvky. Současně se ale i váhy spojů mění podle aktivity prvků, které spojují.

Tak se síť učí – například procesy s kladnou odezvou váhu použitého spoje posilují, se zápornou zeslabují. Stejná vstupní aktivace tak příště vzbudí o něco silnější vzruch a ten bude mít větší vliv. Současně ale jiné vzruchy vytvářejí jiné stopy, a ty se mohou s původní stopou překrývat.

"Intelekt" celé sítě závisí především na počtu prvků a spojů. Od určité úrovně tak systém může vykazovat složité dynamické chování, které může mít charakter racionálního jednání.

Stvořili jste Frankensteina

Vědci z FAIR oznámili, že programy Alice a Bob vypnuli, protože nedělaly to, co se po nich chtělo, takže projekt nesplnil cíl. Mnozí komentátoři ale při té příležitosti varovali, že schopnosti umělé inteligence se začínají blížit úrovni, kdy může být nebezpečná pro lidstvo. Charles White ze serveru Metro.uk případ Alice a Boba dokonce přirovnává k příběhu dr. Frankensteina – a není sám.

"Umělá inteligence může zlepšit mnoho aspektů našeho života, může zpracovávat obrovské množství dat a extrahovat z nich užitečné informace rychlostí, jaké lidé nikdy nemohou dosáhnout," říká Tom Bradley, technologický komentátor časopisu Forbes. "Může samostatně pracovat v rozsáhlých sítích a spojovat se s jinými systémy. Může přitom ale také dojít k závěru, že lidstvo je pro ni nebezpečné nebo představuje zbytečnou přítěž."

Před dalším vývojem AI stále naléhavěji varují i někteří přední podnikatelé v oblasti IT jako Elon Musk, Bill Gates a Steve Wozniak. Elon Musk například již dříve řekl: "Málokdo si dovede představit, jak rychle postupuje vývoj umělé inteligence. Pokud stroj získá schopnost zdokonalovat sám sebe, může to pro nás mít neblahé následky. Nakonec se pokusí vymazat lidstvo jako spam."

Podobný názor zastává prominentní fyzik Stephen Hawking: "Pokud se počítačové systémy naučí zdokonalovat samy sebe, lidé jim nebudou stačit. Budeme jimi nahrazeni, protože nás omezuje pomalá biologická evoluce."

Naproti tomu zakladatel Facebooku Marc Zuckerberg ve veřejné debatě s Elonem Muskem zastával opačný názor: "Elon umí jen říkat ne, ale jeho obavy jsou zbytečné. Myslím, že vyvolávání těchhle nálad je v některých případech dokonce nezodpovědné."

Jan A. Novák
Přeposlat
Diskuse
reklama
comments powered by Disqus

ON-LINE: Policie zadržela tři muže z Maroka a jednoho Španěla. Řidič dodávky z Barcelony je stále na útěku

Rychle rostoucí ekonomika snižuje zadlužení Česka. Pokud vlády nezačnou rozhazovat, bude dluh jedním ze tří nejnižších v EU

Wal-Mart bojuje s Amazonem o internetové zákazníky. Zatím má na síti jen čtvrtinové tržby

Finská police postřelila útočníka, který pobodal několik lidí ve městě Turku

Katalánsko se léta potýká s islamisty, v rámci Španělska patří k nejradikálnějším

reklama