Do mailu mi denně chodí nejrůznější volání o pomoc. Mezi běžnou denní agendou (mučení zvířat, rostlin a některých skupin Homo Sapiens) mne včera zaujala petice, která vyzývá ředitelku společnosti Mattel (výrobce hraček), aby neuváděla na trh věc nazvanou Aristotle.

Oč jde. Aristotle (proč ne raději Mary Poppins?) je inteligentní baby monitor nové generace, který má za úkol „doprovázet dítě od narození až do dospívání“. Jakási umělá chůva, která bude umět samostatně reagovat na dětské potřeby, a ke které si tudíž dítě vypěstuje intimní (jak doufají výrobci) vztah.

Robot nainstalovaný v dětském pokojíku je samozřejmě pro obchodníky s daty nedocenitelným zdrojem osobních informací, ale to není vše. Jaký vliv může mít na vyvíjející se mysl dlouhodobý „intimní“ vztah s umělou inteligencí? Mattel přiznává, že odpověď nezná.

Kdybych zrovna nedočetla knihu Yuvala Noaha Harariho Homo Deus: Stručná historie zítřka, asi bych nebyla schopna nahlédnout celý rozsah maléru. Takhle to vidím jasně: projekt fůze organického života s neorganickou inteligencí už jede na plno a doba, kdy nás inteligentní přístroje budou znát lépe, než známe sami sebe, je skoro zde. Náskok, máme-li nějaký, se stále – i díky naší aktivní spolupráci – zmenšuje.

Od sběračů bobulí ke sběračům dat

Harariho kniha je mezinárodním bestsellerem, což je samo o sobě zázrak. Po různých odstínech šedi a severských detektivkách je to totiž po dlouhé době kniha, která se nejen dobře prodává, ale kterou je třeba i číst. Shrnuje přehledně rysy doby, ve které žijeme, poskytuje pohled na celek, ve kterém většinou tápeme, a co je nejlepší, nenabízí přitom žádný nový myšlenkový systém. Pouze ukazuje na převládající tendence a vyvozuje z nich, kam by se lidstvo, z bodu, ve kterém se právě nalézá, mohlo vydat.

Harari prochází naši historii od lovců a sběračů po dnešek. Od animismu, přes velké náboženské systémy prvních zemědělských společností, přes moderní náboženství jako je křesťanství, až k pasti humanismu, který na uprázdněný boží stolec posadil člověka, a posthumanismu, na jehož prahu stojíme.

Popisuje, jak moderní člověk vyměnil vědomí vyššího smyslu za pocit moci a jak široké spektrum vědomí a lidské mysli, zkoumané například mystiky, postupem času zredukoval na to, co nazýváme myslí dnes: úzký výsek myšlení, zaměřený na zpracovávání a vyhodnocování informací. Výsek, který je nejen snadno zaměnitelný za počítač, ale který počítači nemůže konkurovat.

Harari se zastavuje u všech zásadních zvratů, které ve vývoji Homo Sapiens přehodily výhybku a tvrdí, že naše poslední revoluce je možná doopravdy poslední. Informační revoluce, která vytvořila internet, umělou inteligenci a nové náboženství „dataismus“ je možná poslední vlak, který vyjíždí z nádraží zvaného Homo Sapiens.

Lidé a Nadlidé

Co přijde dál, nelze dost dobře předvídat, ale záleží to samozřejmě i na každém z nás. Existují různé scénáře. Je možné, že jakmile si umělá inteligence uvědomí svoji nadřazenost (její způsob „vědomí“ nemusí mít s tím, co nazýváme vědomím my, nic společného), vypořádá se s podřadnými algoritmy (lidmi) stejně bezohledně, jako se Homo Sapiens ve své době vypořádal se zvířaty.

Jistě, umělá inteligence nemá vědomí. Neprožívá subjektivně, necítí lásku, bolest a tak dále. Ale k čemu je nakonec celý ten lidský cirkus? Z hlediska úkolů a jejich plnění: kdo řídí lépe auto a dělá méně chyb? Taxikář, který za volantem přemýšlí o tom, co si dá ráno k snídani a proč mu jeho milá nebere telefon, nebo robot, kterého podobné hlouposti nerozptylují?

Nebo se umělou inteligenci podaří udržet pod kontrolou. Majitelé cenných algoritmů, malá hrstka geneticky a elektronicky upgradovaných dědiců druhu Homo Sapiens, která se v místech jako Silicon Valley už začala formovat, učiní vývojový skok kupředu a nechá ostatní v prachu. Stane se „božstvy“(odtud název knihy „Homo Deus“), která budou ovládat svět. To nejlepší, v co mohou ostatní doufat, je existence nepotřebného, manipulovaného stáda, ve kterém z humanismem tolik oslavované individuality nezbyde vůbec nic. Také nás může potkat vyhlazení – ať přírodními katastrofami či jinak. Ono to bude stejně jedno, protože z vývojového hlediska budeme důležití asi jako brontosauři.

Co to je vůbec „já“? Jakou hodnotu má moje děravé a neustále vyspravované subjektivní vědomí, jehož původ a účel se vědcům nikdy nepodařilo vypátrat, a které lze navíc pomocí drog nebo elektronické stimulace v kteroukoli chvíli změnit k nepoznání?

Krysy s čipem v mozku už dnes v laboratoři běhají podle pokynů dálkového ovládání a nejsou si toho podle všeho nijak vědomy. Kdyby bylo možné se takové krysy zeptat, asi by trvala na tom, že má svobodnou vůli. Když profesor zmáčkne tlačítko „doleva“, krysa CHCE běžet vlevo. Není to nakonec s mojí „svobodnou“ vůlí stejné?

Copak už dnes „dobrovolně“ a dokonce s pocitem radostného osvobození nerozpouštíme v informačních sítích svůj vnitřní svět? Co do zážitku, který nikdo nevidí a nelajkuje? Existuje takový zážitek vůbec? Record, upload, share. Dokonce i ten, kdo se snaží odolávat, cítí, jak jej mohutný tah strhává do proudu informací, který dnes představuje ŽIVOT. A to je vlastně jen začátek….

Absolutní Internet

Základní doktrína nového náboženství – dataismu – je jednoduchá: živé organismy jsou algoritmy a život je zpracovávání dat. Jeho transcendentním horizontem (obdoba křesťanského vzkříšení či židovského příchodu mesiáše) je vytvoření nového, ještě efektivnějšího systému zpracování dat, jakéhosi absolutního internetu. Internet–of-All Things. Vše bude propojeno se vším.

Ve chvíli, kdy se inteligence oddělí od vědomí, nabírá vývoj docela nový směr. A pokud, jak tvrdí dataisté, jsou organismy pouhými algoritmy, pak jejich hodnota nespočívá v kumulaci subjektivních zážitků, ale ve stále dokonalejším zpracování dat. A tady člověk nemůže počítačům konkurovat.

Umělá inteligence dnes pro existenci druhu Homo Sapiens představuje větší hrozbu než všechny náboženské fundamentalismy, mocenské ambice a přírodní katastrofy dohromady, píše Harari. Ale neříká, zda je to dobře či špatně, nenabízí hodnotový soud. Vybízí nás pouze k přemýšlení nad tím, co je to život a také co je cennější: inteligence nebo vědomí?

Bestseller profesora Harariho nepochybně strhnul lavinu. Budou následovat další knihy, články, debaty a nakonec i reklamy… Homo Sapiens se začne – váhavě a opožděně – bránit. Budou kolovat petice proti robotům a můžeme se dočkat i demonstrativního ničení chytrých telefonů. Přítomnost se mění tak rychle, že budoucnost je opravdu těžké uhodnout.

Je ale nutné si uvědomit, že dosud mluvíme jen o „svobodném“ světě, kde většina zásuvek není střežená armádou a státním aparátem. Ale co třeba Čína? Tam se žádný CEO za nos nechytí a pomůcky typu Aristoteles se můžou velmi rychle stát povinným vybavením každé domácnosti. Pokud jím už nejsou.

Yuval Noah Harari (1976, Haifa) je historik a profesor na Hebrejské universitě v Jeruzalémě. Jeho poslední knihou před Homo Deus: stručná historie zítřka (2016), byla Sapiens: Stručná historie lidského druhu (2014). Profesor Harari se intenzivně věnuje vipassana meditaci a je vegan. Od září roku 2017 nevlastní chytrý telefon.