Ačkoli badatelé na poli umělé inteligence (AI podle „artificial intelligence“ nebo též česky UI) v posledních šedesáti letech opakovaně tvrdili, že průlom už je za dveřmi, nebo alespoň v dohledné budoucnosti, nadšení vždy po určité době opadlo. V současné době téma umělé inteligence opět silně rezonuje a není divu. V přímém přenosu sledujeme nástup autonomních vozidel, byť dosažení autonomie pátého stupně (plná autonomie) je ještě daleko. Zjišťujeme také, že přinejmenším v některých oblastech nás už stroje svou „inteligencí“ dalece přesahují. V roce 2016 se do dějin zapsala společnost DeepMind s programem AlphaGo, který postupným učením dosáhl ve hře Go takové obratnosti, že porazil i světového šampiona.

Je pravděpodobné, že umělá inteligence bude do našich životů zasahovat stále větší měrou. Otázkou je, zda půjde o zásahy prospěšné, nebo naopak zhoubné. Jak to dopadne, je z velké části na nás. Pokud ale vývoj AI nebudeme nijak usměrňovat a necháme ho stát na nevhodných základech, v určité fázi už ji zřejmě zkrotit nedokážeme. Alespoň to v knize Jako člověk (Human Compatible, 2019) tvrdí britský informatik a přední světový odborník na umělou inteligenci Stuart Russell (nar. 1962).

Inteligence

Vznik superinteligentních strojů je podle autora jen otázkou času, nicméně v současnosti je v podstatě nemožné říct, jestli průlom přijde za rok, za deset let nebo mnohem později. To však neznamená, že bychom se na něj neměli připravovat. Co bychom ale měli dělat a v čem nebezpečnost superinteligentní AI spočívá? Klíčový je v tomto ohledu samotný koncept inteligence. Pro člověka ji Russell definuje následovně: „Lidé jsou inteligentní do té míry, v níž se dá očekávat, že pomocí svého konání dosáhnou svých záměrů.“ Z této definice potom vychází i základní definice inteligence pro stroje: „Stroje jsou inteligentní do té míry, v níž se dá očekávat, že pomocí svého konání dosáhnou svých záměrů.“ Potíž ovšem spočívá v tom, že „nemáme žádný spolehlivý způsob, abychom zajistili, že jejich záměry jsou stejné jako naše záměry“. Podle Russella je definice, na níž stojí AI, chybná, protože mnohem rozumnější by bylo, kdyby stroje sledovaly naše, nikoli své záměry. „Takový stroj, pokud by ho šlo navrhnout, by byl nejen inteligentní, ale také prospěšný lidem.“ Tím se dostáváme k představě (prokazatelně) prospěšné AI, která je pro celou knihu klíčová, a opět nechybí definice: „Stroje jsou prospěšné do té míry, v níž se dá očekávat, že pomocí svého konání dosáhnou našich záměrů.“ Jenže opustíme-li zažité předpoklady, nezbude než „nahradit část základů umělé inteligence“.

Jak bude takové nahrazování probíhat? A jak by vlastně měla cesta k prokazatelně prospěšné AI vypadat? Na to Russell hledá odpověď v deseti kapitolách své ambiciózní knihy. Ta začíná zevrubným pátráním po kořenech konceptu inteligence a jeho aplikací na stroje. Čtenáře rovněž stručně seznamuje s historickým vývojem AI i všemi základními pojmy, jejichž znalost je pro čtení nezbytná (algoritmus, strojové učení a tak dále). Následně autor přibližuje svou vizi, kudy se bude vývoj AI v blízké budoucnosti ubírat a jaké průlomy na této cestě budou potřeba, přičemž zmiňuje například strojové zpracování jazyka nebo kumulativní učení a nezapomíná dodat, co všechno bude nutné ještě překonat.

Ačkoli se s vývojem AI pojí velká očekávání, stejně jako cokoli jiného může být zneužita. Jedná celá kapitola se proto věnuje otázkám, jak by takové zneužití mohlo vypadat. Vedle zpravodajských služeb představují hrozbu kupříkladu automatizované vyděračské systémy (to je ta hrubší varianta) nebo pozvolná změna myšlení a chování lidí pomocí přesně cílených zpráv a dezinformací, vůči nimž jsme mimořádně zranitelní, jak koneckonců dokazuje světový vývoj v posledních několika letech (Rusko, Brexit, Trump). V kapitole o zneužití AI se pak autor (trochu nepatřičně) vyjadřuje také k tomu, že v důsledku rozvoje AI bude kvůli zániku různých pracovních pozic a změně pracovního trhu nutná radikální změna ekonomického systému. Varuje však před tím, abychom stroje nechali převzít všechny naše role (zejména ty duševní a rozhodovací).

Pozor, nevstupovat!

Může ale být příliš inteligentní AI opravdu hrozbou? Russell sice tvrdí, že ano, avšak mnozí s ním podle všeho nesouhlasí. Alespoň tak vyznívá poselství kapitoly věnované současné diskuzi o nebezpečích spojených s AI, která podle autora řada jeho kolegů popírá, zlehčuje, odvádí od nich pozornost, odmítá se o nich bavit s lidmi mimo obor nebo nabízí jednoduchá, leč většinou nefunkční řešení. V tomto ohledu se zdá, že debata o hrozbě AI nápadně připomíná diskuse o globální změně klimatu, kde se rovněž můžeme setkat se všemi uvedenými strategiemi, jak ospravedlnit nicnedělání.

Rizika ovšem v žádném případě neznamenají, že bychom měli vývoj AI zastavit, jen je k němu třeba přistoupit odlišně. Řešením je podle Russella zaměřit pozornost na již zmíněné (dokazatelně) prospěšné stroje. Ty by měly stát na třech principech: „Jediným záměrem stroje je maximalizace uskutečňování lidských preferencí.“; „Stroj si na začátku není jistý tím, jaké tyto preference jsou.“; „Zásadním zdrojem informací o lidských preferencích je lidské chování.“ Tyto tři principy, v knize samozřejmě důkladně rozpitvané, by v konečném důsledku měly zajistit, že si nad stále inteligentnějšími stroji udržíme kontrolu. Na cestě však stojí ještě mnoho problémů a tím nejzásadnějším je asi samotný člověk. Aby stroje naplnily definici obecné prospěšnosti, budou se muset vypořádat s tím, že lidé nejsou ani zdaleka racionální, nýbrž spíše emocionální bytosti, bývají zlí nebo podlí a jejich preference či měřítka se neliší jen mezi jednotlivci (preference jednoho člověka by neměly být naplňovány na úkor jiného), ale měnit se mohou i v čase. Do vývoje AI bude proto nutné zapojit poznatky z celé řady jiných oborů od sociologie, psychologie a neurobiologie po ekonomii, politologii či morální filozofii. Šance, že budou zítřky světlé, nikoli temné, každopádně není malá. Stačí jen chtít a akceptovat, že je současný neregulovaný vývoj neudržitelný.

Široké publikum

Hlavní teze knihy je tedy jednoduchá: superinteligentní AI může představovat pro lidstvo hrozbu, a to především proto, že vzniká na chybných základech. Pokud ale tyto základy upravíme a budeme se soustředit na výrobu dokazatelně prospěšné AI, jsme za vodou. Autor sice nabízí řešení, zaměřuje se však spíše na jeho obecnou, nikoli konkrétní podobu, což bude pro ty, kdo se v oboru orientují, asi lehké zklamání. Na ně ovšem svazek necílí. Jako člověk se snaží oslovit široké publikum, a to i čtenáře, kteří se o umělou inteligenci zatím příliš nezajímali. Tomu odpovídá celé pojetí knihy, která při rozebírání jednotlivých problémů nezachází příliš hluboko, a fungovat by de facto mohla i jako úvodník do problematiky, neboť zájemce srozumitelně a v rámci možností i čtivě seznamuje s jejími základními koncepty, přínosy a riziky. Pokud se ale čtenáři budou o jednotlivých směrech, jimiž by umělá inteligence v následujících letech a desetiletích mohla zasáhnout do našich životů (od dopravy přes vzdělání po medicínu), chtít dozvědět víc, budou se muset posunout o knížku dál. Informace, jež si odnesou z publikace Jako člověk, se jim však na této cestě budou určitě hodit a snad jim tuto nesnadnou, přesto občas zjednodušovanou problematiku pomohou nahlížet z trochu širší perspektivy.