Umělá inteligence (AI) riskuje, že ji veřejnost začne nenávidět

Z nedávné akademické analýzy možného prospěchu z AI vyplynulo, že zavádění AI může přinést do roku 2035 britské ekonomice prospěch ve výši 630 miliard liber. Avšak má-li k tomu dojít, tato technologie musí být ku prospěchu společnosti.

„Umělá inteligence bude mít vážné dopady na všechny rysy naší infrastruktury a musíme zajistit, aby nám byla ku prospěchu. Musíme uvažovat o všech otázkách. Když se stroje budou schopny učit a dělat věci samy, čím nás to ohrožuje jako společnost? Je to důležité, protože země, které tyto otázky dokáží vyřešit, budou v příští průmyslové revoluci vítězi,“ řekla profesorka Wendy Hall ze Southampton University, hlavní autorka zmíněné analýzy.

V současnosti nesou veškerou odpovědnost za bezpečnou a etickou umělou inteligenci téměř úplně jen soukromé firmy, které ji vytvářejí. Neexistují žádné testovací normy, nikdo nepožaduje, aby výzkumníci v oblasti AI vysvětlovali svá rozhodnutí, a neexistuje organizace, které by sledovala a vyšetřovala špatná rozhodnutí nebo nehody.

„Je potřeba založit nové silné organizace obsazené odborníky v tomto oboru, které musejí fungovat jako hlídací psi a nutit firmy, aby dodržovaly vysoké normy,“ konstatuje Kate Crawford, ředitelka institutu AI Now na New York University. „Tyto systémy budou novou infrastrukturou. Je nesmírně důležité, aby byly jak bezpečné, tak férové.“

Mnoho moderních systémů AI se učí dělat rozhodnutí na základě obrovských databází. Avšak pokud data v databázích obsahují zkreslení, ta bude umělá inteligence kopírovat.

Letos bylo zjištěno, že umělá inteligence, která interpretuje jazyk, projevuje genderovou a rasovou zaujatost. Technologie používané pro poznávání fotografií kategorizovala kuchaře jako ženy, i když měla interpretovat fotografie plešatých mužů. Technologie, která analyzuje riziko při policejní práci a při práci s vězni, diskriminuje černochy.

Částečně je důvodem diskriminace skutečnost, že programátoři jsou bělošští muži. Vznikají tak zdravotnické aplikace, které jsou zacíleny jen na mužské tělo a fotoslužby, které identifikují černochy jako gorily a systémy pro hlasovou indentifikaci, které nedokáží identifikovat ženský hlas.

Dalším problémem je špatně realizovaná technologie. Loni zemřel řidič v USA, když automatické řízení v jeho automobilu Tesla Model S nevidělo, že křižovatku přejíždí kamion. Americká rada pro  bezpečnost dopravy kritizovala firmu Tesla, že uvedla na trh systém automatického řízení bez dostatečných bezpečnostních záruk.

Velké znepokojení existuje ohledně systémů AI a jejich schopnosti manipulovat občany. Vážné otázky jsou nyní vznášeny ohledně role sociálních sítí před britským referendem o brexitu a před americkými volbami z roku 2016. „Probíhají technologické závody ve zbrojení, ohledně toho, kdo dokáže ovlivňovat voliče,“ uvedl Toby Walsh, profesor umělé inteligence z Univerzity v Novém Jižním Walesu.

„Existují limity, kolik peněz smíte vydat na volební kampaň a myslím, že budeme muset mít limity ohledně toho, do jaké míry budete smět lidi ovlivňovat technologií.“

Největší dopad na společnost však bude mít umělá inteligence, která funguje dobře. Do roku 2035 bude zřejmě zautomatizováno v Británii 15 milionů pracovních příležitostí, což znamená, že bude zapotřebí obrovských rekvalifikačních projektů, aby ve společnosti nevznikla masová nezaměstnanost. Krátkodobý chaos by mohl vyvolat občanské nepokoje, stejně jako rostoucí nerovnost, kdy většina zisků poplyne do firem zabývajících se umělou inteligencí.

Podrobnosti v angličtině ZDE
 

Není zde článek celý?