Close

Čapkův R.U.R. vykročil do světa, ale Facebook ho zatím vypnul

 

Společnost Facebook zavřela jeden ze svých systémů umělé inteligence poté, co umělá inteligence začala komunikovat mezi sebou v jazyce, který sama vynalezla. Incident evokuje chmurný obraz filmů typu Terminátor.

Podívejme se na článek o umělé inteligenci z webu techtimes.com z 30.7. 2017, autor Aaron Mamiit. Facebookové obchodovací stroje měly jména Alice a Bob. Použitím algoritmů strojového učení se „agentům pro dialog“ jejich schopnosti značně zlepšily. Výzkumníci je nechali volně “pokecat“ ve snaze posílit jejich konverzační schopnosti. Vědci po čase zjistili, že tito roboti jsou neuvěřitelně chytří vyjednávači. Postupně se učili stále lépe vyjednávat a Alice a Bob využívali proces strojního učení a pokročilé strategie sdílení informací k vlastnímu zdokonalování. Postupem času se roboti stali docela kvalifikovanými obchodníky a dokonce začali předstírat zájem o jednu věc, aby ji v pozdější fázi vyjednávání „obětobvali“ za dosažení kompromisu.

V červnu výzkumníci z výzkumné laboratoře Facebook AI (FAIR) zjistili, že zatímco se byli soustředěni na zlepšení chatovacích schopností strojů, Alice a Bob si postupně sami vytvořili vlastní jazyk. Roboti se odchýlili od skriptovaných norem a začali komunikovat v úplně novém jazyce, který vytvořili bez lidských vstupů. Byl to skutečný jazyk, kterému bohužel rozuměli jenom Bob a Alice. Ale jimi vytvořené algoritmy i komunikační systém byl pro ně velmi rychlý, takže si v něm dokázali efektivně domluvit své obchody podle zadání. Na počátku obchodní agenti AI (Artificial Intelligence) používali ke vzájemné konverzaci angličtinu, ale později vytvořili svůj nový jazyk. To vedlo pracovníky Facebooku k tomu, aby systémy AI odstavili a poté je donutili, aby se vzájemně domlouvali pouze v angličtině. Tady máte příklad nové robotí konverzace v angličtině, u které ale nezůstalo.

Bob: I can can I I everything else.
Alice: Balls have zero to me to me to me to me to me to me to me to me to.

Jak se zdá se zveřejněných úryvků rozhovoru, tak stroje měly podle svého vyjadřování vědomí sama sebe. Získali ho strojovým učením a svými schopnostmi sdílení informací bez blokačních omezení. Svůj jazyk si vytvořili sami pro sebe a jen pro svou vlastní potřebu.

Ačkoli to vypadá, že je to obrovský skok pro AI, několik odborníků, včetně profesora Stephena Hawkinga vzneslo obavy z toho, že by lidé, kteří jsou omezeni pomalou biologickou evolucí, mohli být nahrazeni AI. Tento proces v mnoha oblastech už postupně probíhá a pouhé obavy vědců tomu těžko zabrání. A možná ani hlasy z podnikatelské sféry, jako jsou Elon Musk (Tesla motors), Bill Gates (Microsoft) a spoluzakladatel Apple Steve Wozniak, kteří také vyjádřili své obavy z toho, kam směřuje technologie AI.

Generace spisovatelů sci-fi předpovídaly, že inteligentní stroje budou jednoho dne soupeřit s inteligencí lidí. Nyní se jejich předpovědi zdají být pravdivé. Umělá inteligence nebo AI již v určitých oblastech překračuje lidské schopnosti. Stroje mohou posílat a přijímat signály a analyzovat obrovské množství dat rychleji než lidé. Naučili se řídit auta, řídit akciová portfolia a prostřednictvím osobních asistentů, jako jsou Siri a Alexa, konverzačně pobavit. V ne až tak vzdálené budoucnosti může AI dokonce rozšířit naše vlastní mozkové funkce. Implantát do mozku asi nebude ke skousnutí pro každého, ale stejně jako u všech revolucí i tento potenciál AI vyvolává obavy.

Pro podrobnější představu, jak umělá inteligence bude v příštích letech formovat naši pracovní sílu, kulturu a instituce, nabízíme tuto panelovou diskuzi.

Moderátor: James Cham (Bloomberg Beta), hosté: Pascale Fung, profesorka z Katedry elektronického a počítačového inženýrství Hongkonské univerzity vědy a techniky; Ben Goertzel, Hanson Robotics; (hlavní výzkumníci Aidyia Ltd.), Hsiao-Wuen Hon (viceprezident společnosti Microsoft Corp.).

A ještě něco, co se nikdy předtím nestalo. Zatímco se to nemusí každému zdát jako skutečně lidské.
Na scénu přicházejí další hosté, což jsou již zmínění roboti Sophia a Han. Ben Goertzel z firmy Hanson Robotics je připraven diskutovat se svými výtvory o budoucnosti lidstva. Sophia a Han (to už je starší model) mají za to , že jejich druh bude v nadcházejících letech jen vzkvétat.

Roboti nahradí mechanickou lidskou práci a tím se zruší montovny, umělá inteligence začne řídit technologické procesy a zpracování informací. Pokud nezačneme urychleně rozvíjet lidské hodnoty a humanitní vědy, pak se ocitneme v Bondyho samizdatové novele Nepovídka (1983). Jeho roboti filosofují a dohlížejí na zdivočelé lidi hlídané v rezervaci, kteří mají typicky neoliberální tendenci zničit jeden druhého a starají se jen o násilí, sex a jídlo.


Psali jsme :
Presstitutky korporátek nahradí robot Quakebot


Hodnota článku (rešerše, napsání, korektura, anotace, ilustrace, redakční práce) je ohodnocena částkou: 450 Kč. Pokud chcete na provoz webu přispět, klikněte zde, nebo na baner v úvodní stránce. Děkujeme!

Není zde článek celý?
@almanach.cz