Co je to umělá inteligence a jak funguje? Nesebere nám práci? Nebo se naopak máme těšit, že budeme mít více času na jiné aktivity? Máme se obávat vzniku superinteligence, která bude znamenat konec lidstva? Proč neuronové sítě občas v obrázku kávovaru „rozeznají“ kobru a ve fotografii ponožky vidí slona? Co je to reverzní Turingův test? Je počítačům vlastní rasismus? A ve kterých hrách si zatím člověk nad počítačem udržuje náskok a proč? Tyto otázky jsou dnes hojně a živě diskutovány v mnoha veřejných debatách i v knižních publikacích. Ty někdy předestírají katastrofické scénáře či futuristické vize značně vzdálené současnosti nebo v nich někdy zaznívají hlasy, že umělá inteligence zatím neexistuje a všechny obavy s ní související jsou jen „nechutný humbuk“ (Ondřej Neff).

Knížka Co je nového v umělé inteligenci téma zpracovává hutně, stručně, přehledně a bez myšlenkových extrémů. Roman Barták, počítačový vědec a profesor Univerzity Karlovy v Praze, v ní shrnuje historii svého oboru, který se „zrodil“ roku 1956, a vysvětluje, proč by možná adekvátnější název mohl znít „výpočtová racionalita“. Sleduje postupné zvyšování výkonnosti chytrých strojů i dosavadní limity: například ve strategické sci-fi počítačové hře StarCraft II jsou lidští hráči stále lepší než počítačoví „boti“.

I noví rasisté

Co se týká výhledů do budoucna, autor nepříliš překvapivě konstatuje, že při každé technologické změně určitá velká skupina lidí přišla o práci, vznikla ale práce jiná. V souladu s tím předvídá, že některé profese pravděpodobně zcela zaniknou, jako třeba řidič kamionu či pokladní, ale objeví se profese nové, například vývoj a údržba robotů. Na otázky, je-li v principu možné, aby stroj získal vědomí a myslel tak, jak to známe u člověka, a jak se budou superchytré stroje chovat, autor odpovídá, že to nezáleží jen na nich. Naopak, je spíše na nás lidech, co po nich budeme chtít a jak jim tuto informaci sdělíme: „V lidech je ten hlavní zdroj užitečného či nebezpečného využití výsledků umělé inteligence.“

Na rozdíl od Nicka Bostroma, který předpokládal, že by za nás superinteligence mohla řešit etická dilemata, zůstává Barták při zemi. Poukazuje na to, že zatím učící se stroje právě od nás přejímají naše vlastní morální soudy, kulturní předsudky a stereotypy. Tak se jistý počítačový bot jménem Tay nechvalně proslavil svými rasistickými hláškami, jimž se ovšem naučil od ostatních lidských debatujících. Je možné uvést i další příklady: počítačový program pro rozpoznávání obličejů pracující jen s podobiznami bělochů identifikoval portréty černochů jako nelidské, případně oči Asiatů interpretoval jako chybu, konkrétně jako mrknutí. Jestliže izraelský historik Juval Harari položil znepokojivou otázku, co všechno temného by v nás umělá inteligence mohla odblokovat, Roman Barták klade důraz na to, jaké nelichotivé aspekty v ní jako v zrcadle můžeme vidět už teď.

Faux pas

Mimochodem Barták myslí i na „oči“ robotů. Z hlediska tohoto stroje je zbytečné, aby mu byl na displej přilepen obrázek (lidských) očí, nicméně z hlediska interakce s námi (a jeho „zlidštění“) jde o důležitý aspekt. V podobném kontextu interakce člověk–stroj se autor zabývá i sociální inteligencí robotů, od nichž neočekává hromadnou vzpouru proti lidskému pokolení, ale spíše drobná, ale hojná faux pas plynoucí ze složitosti lidské komunikace a mezilidských vztahů. Tu je totiž obtížné vměstnat do racionálních algoritmů. Pokud tedy člověk řekne ve společnosti robotovi, aby zavolal jeho přítelkyni, a on mu začne vyjmenovávat, které všechny intimní partnerky našel v adresáři, směřuje tak sice k vyplnění zadaného úkolu, ale pravděpodobně ne ke spokojenosti lidského majitele. Ve stejném duchu se Barták zabývá robotickým barmanem, který by měl umět nejen správně namíchat koktejly a připravit je v pořadí, v jakém si je zákazníci vyžádali, ale zároveň by měl udržovat kontakt s těmi, kteří přišli později, aby měli jistotu, že o nich ví.

Celkově se jedná o solidně sepsanou příručku o jevu, který zřejmě bude v našich životech stále frekventovanější. Nevymýšlí přitom fantasmagorická umělá rizika, ale spíše upozorňuje na ty už existující.