Jak to dopadne s demokracií, když firmy jako Google a Facebook budou znát naše záliby a preference (včetně politických) lépe než my sami? Co se stane se sociálním státem, jestliže počítače budou úspěšné na trhu práce a vznikne tak většinová třída „zbytečných lidí“? Co se společností udělá prodlužování lidského života, takže například mladým bude šéfovat stodvacetiletý člověk, který se stále nebude mít k tomu, aby odešel do důchodu? Jak naloží s genetickým inženýrstvím například islám? Budou v Silicon Valley vyvíjet jenom nová technická zařízení, nebo i nová náboženství? Jak vzdálená je doba, kdy nám budou v tělech putovat nanoroboti monitorující zdravotní stav? Jak akutně nám hrozí vznik rozkastované lidské společnosti, kde budou bohatí investovat do vyšlechtění zdokonaleného lidského druhu rekrutujícího se z jedinců jejich společenské skupiny? Kdy se začneme našich digitálních společníků ptát, jaké zaměstnání by pro nás bylo nejvhodnější nebo kdo je náš optimální partner? A kam až tento trend může zajít?

I na tyto otázky odpovídá židovský historik Yuval Noah Harari (nar. 1976) ve své provokativní, ale výborné knize Homo deus: Stručné dějiny zítřka. Jde o jeho druhou práci přeloženou do češtiny. První byl bestseler Sapiens: Od zvířete k božskému jedinci. Už v něm se s obavami ptal, zda může být něco nebezpečnějšího než „nespokojení a nezodpovědní bohové, kteří nevědí, co chtějí“ – čímž myslel člověka na počátku jednadvacátého století. (Dodejme, že už Freud ale tvrdil, že se současný „člověk stal takříkajíc jistým druhem boha s protézami […], ve své podobnosti bohu se však necítí šťastným“.) V právě vydané knize Harari tento motiv rozvíjí. Vychází opět ze znalostí velkého množství oborů, mezi nimiž se pohybuje s odstupem a nadhledem. Což s sebou ale nutně nese i jistou dávku zjednodušování či hrubě formulovaných prohlášení příkrých zvláště k velkým tradičním náboženstvím. Ta skutečně vznikala v době, kdy neexistovaly počítače ani nanotechnika, ale autor trochu zapomíná, že to jejich zástupcům nijak nebrání v tom, aby je dokázali umně využívat, takže se zánikem církví to zřejmě nebude tak horké, jak by si asi přál (kupříkladu papež byl letos v červenci 4. nejvlivnějším lídrem na Twitteru).

Na prvním místě autora knihy Homo deus zajímá vztah člověk–stroj, ale poutavě analyzuje také vztah lidí a zvířat a obecně řeší otázku, jsou-li organismy totožné s algoritmy a je-li život „pouhé zpracování dat“.

Na úsvitu dataismu

Už v minulé knize Harari zdůrazňoval lidskou schopnost vytvářet příběhy a mýty, protože ty dokážou udržovat při životě státní celky, nadnárodní náboženské komunity i velké firmy. Pod pojem náboženství tentokrát zahrnuje i to, co by jiní pojmenovali spíše jako ideologie, totiž komunismus, fašismus či liberalismus. I ten prohlašuje za nedokazatelný a založený na víře, protože je založen na představě individuálního a jedinečného lidského Já a svobodné vůle. A to obojí zpochybňuje, v čemž dnes samozřejmě není sám.

Je samozřejmě pravda, že naše chování ovlivňuje řada faktorů, o nichž často ani nevíme a nemáme je pod vědomou kontrolou. A také činy, které bychom odsoudili jako špatné, mohou být způsobeny obyčejným nádorem na mozku, který i z člověka předtím zcela bezúhonného dokáže udělat bestiálního vraha. Proč ale kvůli tomu tento možná trochu zastaralý pojem zavrhovat? Kupříkladu kognitivní neurovědec a psycholog Michael S. Gazzaniga říká, že cosi, co by mohlo být nositelem „zodpovědnosti“, možná existuje, ale je to navýsost „rozprostřené“, a další se přimlouvají za uznání konceptu svobodné vůle alespoň jako určité pracovní hypotézy (historik Jakub Rákosník).

Když si herečka Angelina Jolie na základě genetických testů prokazujících zvýšené riziko vzniku rakoviny rozhodla pro amputaci prsou, podle Harariho prostě poslechla geny a statistická čísla. Ke svému životnímu rozhodnutí prý „nepotřebovala vystoupit na skálu nad mořem a nechat se unášet západem slunce ve vlnách, aby se dobrala rady svého nejhlubšího niterného pocitu“. Na základě dodaných faktů ale k rozhodnutí přesto musela dospět sama – klidně i v usebrání na skále. Což Harari neochotně připouští, když dodává, že jiná žena by na jejím místě třeba mastektomii odmítla. (Ale hned dodává další varianty: jak by se člověk rozhodoval, kdyby navíc věděl, že má speciální mutaci oslabující schopnost mozku zvažovat riziko? A ještě mu bylo sděleno, že na podceňování rizik zemřeli mnozí jeho předci v mladém věku?)

Každopádně podle Harariho už jsou na obzoru nástupnická vyznání jako „dataismus“. Jestliže tradiční doktríny učily, že každý náš čin je součástí nezměrného Božího plánu, nová víra hlásá, že každé naše slovo i myšlenka jsou důležitou složku nekonečného toku dat. „Algoritmům také záleží na mých činech a mém přemýšlení, proto mě sledují,“ věří dadaista, pro kterého by odpojení od toku znamenalo ztrátu smyslu života. To, co dnes mnozí popisují z hlediska psychopatologie či možných společenských důsledků, tedy Harari pojal „metafyzicky“. Jinak religionisté dnes vážně mluví i o jiných vírách, jako je „kopimismus“, který vyznává, že výměna informací pomocí kopírování je „akt podobný bohoslužbě“ (Lucie Grešková).

Čí ruka na ovladači?

Yuval Noah Harari je celkem realistický ohledně rozvoje schopností robotů a nepředpokládá, že by v dohledné době nabyli vědomí, jaké máme my. (Proto se nebojí, že by někdy proti nám bojovali se samopaly v rukou). Zato ale budou a v mnoha případech již jsou v jistých situacích inteligentnější. Upozorňuje i na to, že Facebooku a dalším sítím lidé sami svěřují svá soukromá data. Význam, který v našem životě digitální pomocníci zaujímají, je i proto stále větší a podle autora bude posilovat. Rozepisuje se o produktech jako Siri či Cortana: softwarová inteligentní osobní asistentky umějí za pomoci hlasových povelům pracovat s plánovacím kalendářem, udržovat seznamy kontaktů, otevírat aplikace, posílat e-maily nebo synchronizovat data mezi chytrým mobilem a počítačem. Časem začnou svého majitele nejen upozorňovat, že jeho manželka bude mít narozeniny, ale zamluví místo v restauraci; před důležitým jednáním upozorní na vysoký tlak, který by mohl mít negativní vliv na obchodní rozhodování; a dokonce se začnou domlouvat s digitálními asistenty našich (lidských) protějšků. Takže například moje Cortana osloví Cortanu mé potenciální přítelkyně, porovnají svoje záznamy a posoudí, zda by vztah mohl být perspektivní, a pokud ne, případně navrhnou jiného partnera. (Možnost zamilovat se do počítačového programu samotného jako v oscarové romanci Ona nechává Harari stranou).

Podobně fantasticky působí autorova líčení speciální „helmy na soustředění“, neboli „transkraniálního proudového stimulátoru“, který dokáže povzbuzovat nebo naopak tlumit činnost některých mozkových center, a tak například účinně zvyšovat schopnost soustředění. Novinářka Sally Adeeová, která měla možnost si nástroj vyzkoušet v americkém armádním středisku, při prvním simulovaném útoku virtuálních bojovníků propadla panice. Při opakování téže akce s onou „kouzelnou“ helmou zůstala klidná, takže všechny protivníky chladnokrevně a systematicky zneškodnila. Po konci experimentu ale před ní vyvstala řada otázek: „Kdo vlastně jsem, když pominu ty neobytné hlasy v mém vědomí, které mi brání v úspěchu a podporují mé obavy?“ A před podobnými dilematy budeme podle Harariho stát (v bohatších zemích) časem všichni: Co by se stalo, kdybychom přepsali svůj vnitřní monolog anebo jej dokázali přechodně umlčet? Bude se pak měnit to, po čem toužíme a o co usilujeme? A budeme to pak ještě my?

U člověka trpícího klinickou depresí je představitelné, že by se touto metodou léčil, protože „než naslouchat destruktivním hlasům zvnitřku, je lepší je umlčet“. Již dnes však někteří říkají, že léčba pomocí medikamentů je sice „uzdravila“, ale zároveň je vnitřně jaksi ochudila, sebrala jim část jeho vnitřního světa – v budoucnosti budou podobné Sofiině volbě možná čelit i mnozí další. První přikázání liberálního humanismu „Naslouchej sám sobě“ tak přestane být samozřejmé, protože pokud budeme naše interní hlasy uměle potlačovat či zesilovat, postupně se tak budeme také vzdávat víry v jejich autenticitu, protože už prý nebude „jasné, čí ruka je na ovladači“. Ano, už Arthur Schopenhauer tvrdil: „Chci-li, mohu rozdat své jmění chudým: nemohu se však přinutit k tomu, abych to chtěl.“ Tváří v tvář novým výzvám si skutečně člověk, pokud svět digitálních technologií zcela a radikálně neodmítne, nemůže být jistý, k jakému chtění jej mohou dovézt a kdo o něm bude ve skutečnosti rozhodovat.

Zároveň autor předpovídá postupné vytlačování lidských pracovníků z mnoha profesí: samořídicí vůz bude podle něj bezpečnější a levnější než lidští řidiči – právě proto, že „nevnímá hudbu ani nežasne nad svou existencí“. Algoritmické vyhledavače budou schopny zkušeně a rychle vyhledat precedenty konkrétních soudních případů a lékařský program bude schopný fungovat bez omezení i přes noc a v tolika replikacích, kolik bude potřeba. Zde ovšem autor trochu přestřeluje: zatímco zánik povolání taxikářů je zcela reálný, u dalších zmíněných profesí je zatím stále těžko představitelné, že by se zcela obešly bez lidského faktoru: pravděpodobnější je součinnost člověka a stroje, která je ovšem běžná již dnes.

V jiných oblastech pak usuzuje realističtěji: například plánovanému dosažení lidské nesmrtelnosti mnoho šancí nedává. I když ironicky dodává, že smrt porušuje naše právo na život a je tedy podle současného paradigmatu „zločinem proti lidskosti“…

Nick Bostrom v knize Superinteligence: Až budou stroje chytřejší než lidé klidně tvrdí, že „možná nevíme, co doopravdy chceme“, a proto navrhuje část kognitivní práce potřebné pro výběr hodnot delegovat na superinteligenci. Harari tak troufalý není, místo toho se znepokojivě ptá, co všechno v nás chytré stroje – s naším plným souhlasem a součinností – odblokují a kým se pak staneme. A z jeho podnětných otázek mrazí. Skepticismem má možná blíže k politologovi Francisi Fukuyamovi, který transhumanismus označil za nejnebezpečnější myšlenku na světě a obává se „ztráty přirozené lidské podstaty, která je sama o sobě hodnotou“.

Yuval Noah Harari není umanutě zaměřený na jedinou myšlenku: nabízí různé scénáře budoucího vývoje a jeho hlavní pohnutkou je, abychom „přemýšleli tvořivěji“ budoucnosti, o změnách, které jistě přijdou, jde jen o to, v jaké podobě a jak na ně budeme připraveni.