Americký fyzik švédského původu Max Tegmark patří mezi popularizující vědce, jejichž nekonvenční mysl si ke zpracování vybírá neotřelá, do jisté míry průkopnická témata. V knize Matematický vesmír, která vyšla (stejně jako recenzovaný titul) ve společné edici ZIP nakladatelství Argo a Dokořán, rozebírá radikální a obtížně ověřitelnou hypotézu, že veškerá fyzikální realita má v základu pouze matematický, tedy čistě abstraktní charakter. V novější knize Život 3.0, kterou řada podnikatelských celebrit ze start-upového prostředí Silicon Valley uvádí mezi doporučenou četbou, se zaobírá o něco ověřitelnějším a pragmatičtějším námětem – totiž kdy a jak umělá inteligence (AI – Artificial Intelligence) ovlivní naši civilizaci.

Autorovi leží na srdci osud lidstva v interakci s tím, co oxfordský filozof Nick Bostrom definuje jako „superinteligenci”, tedy umělou inteligenci obecného charakteru (AGI - Artificial General Intelligence), jejíž intelektuální schopnosti o mnoho řádů převyšují ty lidské (viz jeho knihu Superinteligence, která vyšla česky v roce 2018). Plodem Tegmarkova zaujetí pro hypotetická intelektuální monstra není jen nedávno vydaná kniha a s ní spojená popularizační činnost, ale především think-tank Institut budoucnosti života (Future of Life Institute). Založil jej v roce 2014 spolu se svou ženou Meiou Chitou-Tegmark (také akademičkou, která bádá na poli robotiky a UI), fyzikem Anthonym Aguirrem, zakladatelem Skypu Jaanem Tallinnem a toho času studentkou statistiky a strojového učení na Harvardu Victorií Krakovnou.

Skeptikové a těšitelé technologického věku

Tegmark rozlišuje lidstvo do několika skupin podle míry obav z nadcházejícího věku strojové inteligence. Ty, kteří věří, že AI překoná lidskou úroveň přibližně někdy v tomto století a půjde o jednoznačně skvělou věc, označuje jako „digitální utopisty”. Staronovým termínem „luddité” nálepkuje zastánce opačného pólu spektra, kde převažuje názor, že tahle technologická emancipace skončí téměř jistě katastrofou. Lidi, kteří se domnívají, že k zásadnímu zlomu na poli AI dojde buď až ve velmi vzdálené budoucnosti, nebo k němu nedojde nikdy, a nemá tedy valný smysl se tím momentálně zabývat, pak autor zahrnuje mezi „technoskeptiky”. Sám sebe a kolegy, kteří jsou s ním v tomto směru ideově spřízněni, pak řadí do jakési pozice středu, kterou označuje jako „hnutí za bezpečnou AI”. Tegmark tedy nerozšiřuje módní řady apokalyptických bubeníků bijících na poplach, ale zastává do značné míry střízlivě kritický pohled na věc. Je přesvědčen, že nástup strojové superinteligence je spíše dříve než později nevyhnutelný a za určitých okolností může být i velmi prospěšný. Je však nutné zároveň nepropadat nekritickému nadšení ve víře, že se vše bez problémů odehraje ke všeobecnému blahu a případná rizika jsou zanedbatelná. Potenciálních hrozeb, které si dokážeme představit, a co hůř – možná ještě hrozivějších nástrah, které si představit nedokážeme – je totiž mnoho.

Dle autora život 1.0 dosáhl svého limitu se schopností reprodukce. Se vznikem kultury, tedy možností „navrhovat vlastní software”, přecházíme na level 2.0. Na úrovni odpovídající titulu knihy by pak měla přijít na řadu také dovednost vytvářet a měnit hardware, tedy funkční design vlastní fyzické existence. Podobně jako zmiňovaný Bostrom v Superinteligenci, která je v dané tematické oblasti průkopnickou a do značné míry referenční publikací, uvádí i Tegmark svůj text krátkým fiktivním scénářem. V něm nastiňuje hypotetický vznik a působení univerzální, tedy „silné“ AI a naznačuje možné důsledky pro lidstvo. Poutavě tak rozehrává spekulativní imaginaci a budí patřičnou zvědavost. A rovněž cílí na skeptiky, pro které je celá tato diskuse jen humbuk. Tedy na ty čtenáře, kteří se podobně jako jeden ze zakladatelů Google Brain Andrew Ng domnívají, že „bát se vzestupu zabijáckých robotů je jako obávat se přelidnění Marsu”. Nutno dodat, že Tegmark se vůči populárnímu scénáři zabijáckých robotů, jak je uchopil zejména Cameronův film Terminátor, důsledně vymezuje jako ke zcela nerealistické a veskrze mylné představě, která vůbec nepostihuje podstatu a celkový rozměr toho, o co se v diskusi jedná.

Tegmark sdílí názor, že jsme sice vývojově od skutečně autonomní superinteligentní umělé entity dosti vzdáleni, ale jelikož nevíme, jak dlouhá doba nás dělí od zásadního průlomu, po němž se může vše dít až příliš rychle, je dobré o celé věci zevrubně diskutovat už nyní. Současné programy jako AlphaGo, které fascinují svou učenlivostí, s níž během krátké doby dosáhnou hranice nedostupné pro jakéhokoli člověka, jsou stále v zásadě jen velmi primitivní softwary, které neumí dělat nic jiného, než k čemu byly navrženy. AlphaGo hraje japonskou hru Go na takové úrovni, že některé jeho „geniální” tahy jsou nepochopitelné i pro lidského mistra světa, ale mimo hru nedokáže nic. Za možný zásadní průlom považuje Tegmark okamžik, kdy se bude AI schopna sama komplexně zlepšovat – navrhovat změny vlastního softwaru rychleji, účinněji a levněji než lidský programátor. Jestliže při tom dojde k vystřelení výpočetního výkonu a kapacity do nečekaných výšin, ruku v ruce s tím se může dostavit také hlubší, univerzálnější porozumění světu a orientace v něm. Jako jeden z argumentů, že se to může teoreticky udát ještě během života současné generace, uvádí autor tzv. zákon zrychlující návratnosti, který si vypůjčil od futurologa, vynálezce a patrně nejznámějšího propagátora techno-optimismu vůči budoucnosti AI – Raye Kurzweila. Ten zase původně vychází z empirického Moorova zákona, který říká, že výpočetní výkon počítačů se zvyšuje exponenciálně, nikoli lineárně. Kurzweil exponenciální růst zobecnil na celý evoluční vývoj a vyvodil z toho tzv. zákon zrychlení návratnosti (The Law of Accelerating Returns), skrze který predikuje zásadní společenské změny kolem roku 2045, kdy má vývojově dojít k prolnutí technologie a lidské mysli (pro podrobnosti viz zejména autorovy knihy The Age of Spiritual Machines a The Singularity is Near). Kurzweil tento bod v exponenciálním časovém vývoji označuje termínem technologická singularita, který v tomto smyslu poprvé formuloval vědec a spisovatel Vernon Vinge. Ať již k singularitě dojde dříve, nebo později, po dosažení tohoto hypotetického mezníku je ‒ alespoň dle mínění Kurzweila, Tegmarka a některých dalších myslitelů v dané oblasti ‒ další vývoj značně neurčitý. Nejpokročilejší AI dosáhne superinteligentní úrovně a nic už nebude jako dřív.

Brave Gray World

Tegmark několikrát zdůrazňuje, že pravděpodobná budoucnost neodpovídá populárnímu obrazu války lidstva s roboty, jak jej nejčastěji zobrazuje fikční svět Terminátora. V tomto ohledu autor klade zcela překroucený obraz za vinu nejen hollywoodským tvůrcům, ale i některým novinářům, kteří v honbě za povrchní a levnou senzací neváhají množit terminátorské aluze v každém tematickém článku. Tegmark mimo jiné dodává, že umělá inteligence nemůže být zlá, pokud nemá lidské vlastnosti. Koncept dobra a zla je komplikovaný a jeho relativita je daná utilitaristickým hlediskem. Složité etické problémy, které lze promýšlet v souvislosti se strojovým chováním, proto často míří směrem paradoxně zvráceného řešení některého ze zdánlivě prostých a srozumitelných zadání. Lze si například představit ve všech praktických ohledech velmi sofistikovaný software, jehož hlavním smyslem existence se stane využití veškerých energetických zdrojů ve vesmíru proto, aby vytvářel dokonale vydesignované navštívenky. V rámci svého postupu přitom nebude váhat vyhubit veškerý život na Zemi, pokud mu to pomůže splnit cíl. V takovém případě k němu nelze dost dobře přistupovat s étosem zklamaných rodičů a vyčítavou otázkou, kde se ve vývoji udělala chyba, že vzniklo takové monstrum. Je naopak třeba zbavit se sebestředného prizmatu a přejít na odpovídající úroveň neantropologické filozofie etiky. Tegmark se zde opět přímo odkazuje na Nicka Bostroma. Bostrom, který se etickými tématy v tomto kontextu zevrubně zabývá, zavedl tzv. ortogonální tezi, skrze niž nám říká, že z obecného hlediska jsou „inteligence a konečné cíle navzájem nezávislé”. Jinak řečeno, „jakákoliv inteligenční úroveň může být spojena s jakýmkoliv konečným cílem”. Možných rizik a závažných scénářů k promýšlení je tudíž skutečně mnoho. Přičemž variantu, kdy bude svět strojově rozložen na materiál a proměněn tak kvůli banální chybě v „šedé bláto” (gray goo), lze jen stěží považovat za žádoucí verzi budoucnosti.

Představy ohledně toho, jak by se realita s přispěním převratné technologie měla ideálně vyvíjet, jsou jedním ze zásadních témat Života 3.0. Tegmark nemá v úmyslu vnutit čtenářům vlastní představu, k níž by měli směřovat. Spíše je podněcuje, aby celou věc vzali vážně a sami se zamysleli nad tím, v jakém světě by chtěli žít. Aby si bylo z čeho vybírat, načrtává množství možných variant a nechává na čtenáři, jakou míru zla nebo dobra jim přiřadí. Mezi těmi, které nastiňuje poměrně podrobně, patří „libertariánská utopie”, v níž by mohl být svět rozdělen mezi zóny strojů a lidí s volnou soutěží schopností v poli nabídky a poptávky. Od toho je jen krok ke světu s „benevolentním diktátorem”, v němž by lidé měli dobře zajištěny zdroje, prostředky a ochranu, ovšem za cenu toho, že by se vzdali specifických svobod. Další verzí je „rovnostářská utopie”, v níž by byly životní prostředky lehce dostupné, výrobky ekologicky recyklovatelné, stroje by byly drženy na uzdě v rámci svých služebních funkcí a vývoj superinteligence by byl přerušen jako příliš nebezpečný. Jiné varianty vykreslují pokročilou AI v nastavení „dveřníka” či „ochranářského boha”, který vše řídí skrytě v pozadí, přičemž zasahuje tak, aby nikdo netušil o jeho existenci (což je mimochodem vize, která odpovídá ději třetí řady seriálu Westworld). Scénářů autor promýšlí více, včetně těch opravdu apokalyptických či vyhroceně orwellovských. Pravděpodobnost jejich naplnění však v jeho nástinu určitě není stejná.

Technologie našich životů

Autorovy pravděpodobné scénáře jsou vesměs spíše temné než optimistické. V žádném případě však nesměřuje k tomu, že bychom měli vývoj AI zastavit a vydat se směrem prostým technologií. Jednak je to představa naivní, neboť vývoj zastavit nelze, a za druhé to ani není žádoucí. Tegmark naopak přes veškerá rizika silnou umělou inteligenci vnímá jako revoluční a de facto nezbytný civilizační krok. Lze to brát i tak, že jde o práh, jehož překročením civilizace vystoupí ze svého dětství směrem k dospělosti – teprve ta je plná skutečných výzev, ale i monstrózních nebezpečí. Jedině opatrným a důkladně promyšleným postupem lze skrze univerzální AI dosáhnout emancipace a ne zotročení či sebedestrukce. Život 3.0 je tedy knihou především popularizačně-apelativní. Předpokládá čtenáře nejrůznějšího ražení, především však ty, kteří se o danou problematiku nijak hluboce nezajímají. Autorovým cílem je v nich zájem probudit, donutit je brát dané téma vážně a motivovat je k přemýšlení. Svět techniky s vůčihledným zaujetím pro umělou inteligenci se stává čím dál více záležitostí mainstreamu a zasahuje tak do našich každodenních životů. Svědčí o tom ostatně i fakt, že tento aspekt častěji než kdy dřív proniká i do literatury či audiovizuálních děl, které nejsou primárně zařazovány do žánru sci-fi (viz třeba román Projekt Gilgameš Štěpána Kučery či romantické filmové drama Spikea Jonze Ona). Život 3.0 v tomto ohledu plní svůj účel docela přesvědčivě – seznamuje s hlavními problémy i možnými scénáři vývoje a celou věc přitom klade do obecnějšího kontextu v rámci postupných vědeckých i filozofických výkladů.

Tegmark ve svém popularizačním tažení často vychází z koncepcí a myšlenek svých kolegů. Život 3.0 proto může fungovat také jako vstupní brána k dalšímu studiu. Prim zde hrají zejména zmiňované práce Nicka Bostroma a Raye Kurzweila, okruh intelektuálních témat, do nichž autor v knize zabrousí, je ovšem širší. Na přetřes se proto dostane také teorie vědomí – především práce moderních neurovědců Christofa Kocha a Guilia Tononiho (jehož neobyčejná kniha spojující vědecko-filozofický traktát s uměleckou alegorií Pouť od mozku k duši vyšla i česky) a počítačového vědce Scotta Aaronsona. A aby bylo jasné, že problematika zasahuje skutečně široký prostor, dojde i na odlehlejší části rozměrového měřítka – v rámci souvisejících scénářů dobývání vesmíru se čtenář například dozví, s jakými překážkami se může civilizace naboostovaná superinteligentním strojovým božstvem potýkat a jaká optimalizovaná řešení i nejzazší možnosti se jí nabízí. Navazující okruh problémů, které se týkají samotné podstaty fyzikální reality, je pak pro autora dobře známý. Právě v této části Život 3.0 zjevně rezonuje s obsahem jeho předchozí knihy Matematický vesmír. Tegmark pro své exkurzy volí takový poměr mezi obecností a konkrétními příklady, že výsledek působí poutavě, podněcuje spekulativní představivost a dodává solidní teoretický přehled. Ať už tedy bude mít čtenář k AI a dalším přilehlým okruhům vztah blízký, či je naopak odmítne jako příliš odtažité, tuto knihu otvírající prostor smělým a v mnohém ohledu radikálním úvahám, které mohou mít dříve či později reálné opodstatnění, by neměl minout.