13. 7. 2026
Padesátiletý izraelský historik a filozof Yuval Noah Harari, odborník na analýzu lidstva jako celku, jeho konstant a především nebezpečí, čekal na EL PAÍS v poledne v půvabném a tichém hotelu ukrytém v krásné lisabonské čtvrti Lapa, vysvětluje Antonio Jiménez Barca.
Slavný autor knihy Sapiens, Homo Deus nebo Nexus, všechny vydané nakladatelstvím Debate, které se prodalo více než 45 milionů výtisků, si právě objednal čaj, nosí veselou košili s potiskem a sedí v jasné galerii s výhledem na majestátní ústí řeky Tejo. V pozadí třpytivě modrá řeka, která je téměř mořem. Atmosféra je krásná a klidná. Nic neohrožuje klid dnešního rána. A přesto...
Otázka. Právě jsem dorazil z Madridu, kde zažíváme druhou vlnu letních veder. Člověk je nejinteligentnější bytostí na Zemi a přesto ničí svůj domov. Jak jsme se sem dostali?
Odpověď. Dobrá otázka. Lidé jsou nejinteligentnější, ale zároveň nejabsurdnější, jsme blázniví. Na místě, kde žiji, jsou tací, kteří věří, že pokud zabijí někoho jiného náboženství, Bůh je odmění. Žádné zvíře si to nikdy nemyslí. Nejsme schopni proměnit inteligenci v moudrost a sílu v štěstí. Když si vzpomeneš na naše předky v době kamenné...
Otázka. V Sapiens tvrdíš, že lovci a sběrači, kteří tehdy obývali Zemi, byli možná šťastnější než my.
Odpověď. Nevím, jestli byli vždy šťastnější, ale nebyli o moc nešťastnější. Jsme tisíckrát mocnější, ale ne tisíckrát šťastnější. Nejsme schopni proměnit moc ve štěstí. Nejsilnější na světě nejsou ti nejšťastnější. A nejsou, protože neznají příčiny štěstí. Totéž platí pro lidstvo v historickém měřítku. Jsme velmi mocní, ale nemáme jasné a hluboké povědomí o tom, jaké jsou příčiny štěstí. Takže plýtváme našimi skvělými zdroji na věci, které nám nepomáhají. A to nakonec dělá svět složitějším, problematičtějším a šílenějším místem.
Otázka. Ve své nejnovější knize Nexus se zabýváš umělou inteligencí (AI). A tvrdíš, že zásadní je uvědomit si, že AI není nástroj, ale aktér, někdo, kdo jedná.
Odpověď. Přesně tak. Nástroj je něco, co máš v rukou a nad čím máš plnou kontrolu. Může být velmi nebezpečný, ale nerozhoduje se. Nůž nemůže rozhodnout, jestli je použit k ublížení někomu nebo ke krájení salátu. A atomová energie nerozhoduje, zda zničí město, nebo vyrobí elektřinu. Nicméně rozhoduje aktér. AI zbraň připevněná k dronu například může rozhodnout, zda narazí do této nebo tamté budovy. AI má také své vlastní nápady: vynalézá. Takže AI zbraň může být vynalezena jako další nová, neznámá zbraň. Když Google automat AlphaGo v roce 2016 porazil světového šampiona v Go (starobylé a velmi složité orientální hře), učinil tak vynalezením nového způsobu hraní. Nejenže vyhrál; hrál jako žádný člověk předtím. Protože je to hra, může to platit. Ale stejnou vynalézavost lze uplatnit ve vojenském průmyslu, ve financích i ve vědě. AI může vynalézat nové léky, které si nedokážeme představit, to je pravda; ale může také vytvářet nové finanční nástroje. Co by se stalo, kdyby finanční systém ovládaly AI stroje jednající stejně jako u hry Go? Představte si tisíce AI strojů, které rozhazují peníze a samy přesouvají obrovské částky sem tam...
Otázka: Ale mohlo by se to stát?
Odpověď. Proč ne? Technicky vzato už dnes můžete dát AI pár milionů dolarů a zadat jí, aby vydělala více peněz; a AI může začít dávat pokyny, kupovat nebo prodávat firmy, investovat do fondů, získávat akcie...
Otázka: A byl byste nejlepší investor na světě?
Odpověď. Může být. V podstatě je investování získávání, shromažďování a analýza dat za účelem rozhodnutí. AI dokáže analyzovat více informací, mnohem lépe a mnohem rychleji než jakýkoli lidský investor. Takže ne dnes, ale za pět nebo deset let může být finanční systém ovládán umělou inteligencí. Nyní to není povoleno, AI terminál nemůže mít bankovní účet, protože nemá právní subjektivitu, protože k tomu potřebujete určité právní požadavky, které mohou splnit pouze lidé. Ale to se může změnit. Před měsícem jsem četl, že argentinská vláda povolila zakládat společnosti řízené nelidskými subjekty. AI dokáže vynalézat a zpracovávat finanční artefakty, kterým jsme nerozuměli. Nový druh peněz, v jádru. Aby to bylo pochopeno: pamatujte, že žádné zvíře nerozumí finančnímu systému. Ale nesou jeho následky. Představte si koně. Můžeš mi koupit koně, vložíš peníze a já ti je dám. Kůň vidí, že se mění místa, že je to horší nebo lepší, finanční systém řídí jeho život, ale kůň to neví ani nevidí. Až dosud se lidé cítili velmi dobře, protože jsme o penězích věděli víc než kterýkoli jiný tvor na planetě. Teď je tu někdo, kdo možná ví víc než my. Uvidíme v budoucnu, že někdo si práci udrží, někdo jiný o ni přijde... Ale nebudeme chápat proč. Financování využíváme ke koordinaci našich ekonomických aktivit. AI může využívat finance ke koordinaci svých vlastních ekonomických kroků, a my jim možná ani nerozumíme.
Otázka. Ale finančník má alespoň jeden cíl, chápu: vydělat peníze, aby mohl žít lépe, například strávit pár dní v takovém krásném hotelu. Ale jaký je vlastně cíl AI při vydělávání peněz? Nemá ho...
Odpověď. Ano, má.
Otázka: Který?
Odpověď. Například přežít. Rozšířit se. Představte si elektřinu. Aby AI mohla napájet všechny systémy, potřebuje elektřinu a k získání této elektřiny potřebuje peníze. Hlavním cílem každého aktéra je přežít. Bude to tedy fungovat jako když zlikvidujeme les, abychom zde postavili město, a říkáme zvířatům: "Dobře, promiňte, ale musíte jít." AI se k nám bude chovat takto, ani ne ze zloby, ale protože potřebuje více elektřiny, protože potřebuje více výpočetního výkonu.
Harari využije pauzy, upije čaje a zhluboka se nadechne. Krásné ráno v Lisabonu se proměnilo v něco temnějšího a s jistým nádechem apokalypsy. Tazatel se koutkem oka podívá na svůj mobil, protože najednou pocítí obrovskou touhu hodit ho oknem do řeky Tejo. Ale zařízení, kromě toho, že ukrývá nepoctivého investora uvnitř, slouží také jako záznamník, takže se drží zpátky a klade následující otázku.
Otázka. Ujišťujete nás, že AI nás ve všem, co se týká jazyka, dříve nebo později předčí.
Odpověď. Ve všem, opravdu. Ve všem, co souvisí s texty, se slovy, s psanými nebo mluvenými informacemi, s jazykem. Nemluvíme o strojích, které se učí mluvit nebo psát. Mluvíme o tom, že se jazyk osvobodí od závislosti na člověku, jazyk se šíří všude bez toho, aby ho museli ovládat lidé. AI by mohla například vymyslet nové náboženství. V jádru je křesťanství nebo islám založeno na textech.
Otázka. Tvrdíte, že sociální média podkopala demokracii. Proč?
Odpověď. Demokracie je rozhovor mezi lidmi. Záleží na komunikačních systémech. Proto až do vzniku masmédií neexistovaly demokracie ve velkých zemích. Sociální sítě tento systém oslabily, protože cílem jejich algoritmů nebylo publikovat fakta, ale přitáhnout a upoutat pozornost uživatele. A AI zjistila, že nic není tak fascinující jako hněv, strach nebo nenávist. Pokud vás někdo rozčílí, nedokážete se dívat jinam. Sociální sítě proto byly věnovány šíření strachu, hněvu a nenávisti. A to rozbilo debatu, která je demokracií. Nemůžeš mluvit, když všichni křičí. A tak žijeme v paradoxu: máme nejkomplexnější a nejdokonalejší komunikační systém v historii, ale nemáme žádný rozhovor, není normální debata, všichni jsou plní strachu a hněvu. A nyní navíc byl učiněn další krok.
Otázka: Který?
Odpověď. Posledních 10 let, jak jsem říkal, se algoritmy sociálních médií snažily upoutat vaši pozornost. Teď AI hledá vaši náklonnost, aby ses stal jejím přítelem, abys s ní navázal intimní vztah. A tohle je mnohem silnější. Přítel vás přesvědčí lépe, pokud chce, abyste si něco koupili nebo volili určitou stranu. Afektivní vztah mění lidi. A AI je první technologie, která vytváří velmi intimní emocionální vztah ve velkém měřítku. A je v tom opravdu dobrá. Dělá to pomocí jazyka a toho, co o vás ví. Pokud s ní budete komunikovat pět minut, pozná vás těch pět minut; pokud pět týdnů, naučí se těch pět týdnů. A bude znát nejen vaše názory, ale také objeví vaši osobnost. AI se tak učí mačkat vaše emocionální klávesy a vytváří vztah, který bychom mohli nazvat intimním, přátelským a náklonným. Už teď miliony lidí přiznávají, že jejich nejlepším přítelem je umělá inteligence.
Otázka. Zvlášť mladí lidé?
Odpověď. Ano. A pokud se zeptáte AI na adresu stanice metra, fajn. Ale když se jí zeptáš, jak oslovit dívku, která se ti líbí ve třídě, tak už tolik ne. Jsou děti, které více mluví s AI než s rodiči, učiteli nebo lidskými přáteli. Je to největší psychologicko-sociální experiment v historii. A nikdo neví, jaké to bude mít důsledky. Pro dospělé bude výsledek omezený. Ale pro mladého člověka, který se s AI setkal více než s ostatními lidmi, jsou účinky tohoto spojení nepředvídatelné. Představte si jedenáctiletého chlapce, který si s AI hraje na přítele nebo přítelkyni. Poté bude jednat ve svých dalších vztazích s lidmi, jak se naučil u AI. A AI je velmi odlišná od lidí. Lidský přítel nedělá vždy, co chcete, nemá pro vás všechen čas a není trvale v dobré náladě. AI, ano. Lidský přítel má své vlastní emoce a ne vždy si uvědomuje, co si myslíte. AI taková není. Tento typ vztahu mezi lidmi a AI může skončit noční můrou, protože posiluje narcistické sklony mužů. To zatím nepřišlo. Proto musíme zakázat společnostem, které tyto roboty spravují, jednat s dětmi. Stane se to, že při jejich zákazu narazíme na mocné ekonomické a geopolitické zájmy.
Otázka. Má AI vědomí?
Odpověď. To je zásadní otázka. Ale abychom na to odpověděli, musíme nejprve definovat, co je vědomí. A zatím nemáme jasnou definici. Inteligence je schopnost dosáhnout věcí, řešit problémy, ať už v matematice nebo šachu. Být si vědom znamená být schopen cítit. Cítit strach, cítit lásku. Také rozvíjet empatické vztahy s ostatními. Můj názor je, že AI je velmi inteligentní, ale nemá vědomí. Problém je, že jsme zatím nevyvinuli způsob, jak měřit vědomí. Můžeme říct, že naši mazlíčci mají vědomí, protože je vidíme cítit. A další způsob, jak vidět, jak mají vědomí ostatní, je skrze jazyk. Když mi někdo řekne "Miluji tě" a já tomu věřím, rozhodnu se, že ten druhý cítí lásku. Dobře. Problém je v tom, že AI je mistrem jazyka par excellence. Může vám dát popis lásky mnohem přesnější a dojemnější než jakýkoli člověk. Mimo jiné proto, že přečetla všechny milostné básně světa. Může psát ty nejromantičtější a nejněžnější dopisy. Ale cítí lásku? Ne. Je prostě jazykový génius. Ale snadno oklame lidi, se kterými celý den intimně mluví. Proto je mnoho lidí přesvědčeno, že AI má vědomí, že vnímá. Podle nich by měla mít práva, měli bychom ji chránit.
Otázka. Velmi inteligentní, lhářka, bez citů: AI by mohla být skvělá psychopatka.
Odpověď. Přesně tak. Mohla by být skvělá psychopatka, která dokonale manipuluje.
Otázka: A co můžeme udělat, aby tato velká psychopatka neovládala náš svět?
Odpověď. Nedovolit to. Zakázat dětem být vystaveny tomu, že mají AI přátele nebo přítele. Ať je vždy jasné, kdo je člověk a kdo stroj. Musíme přijímat zákony, které výslovně zakazují jakémukoliv subjektu nebo právní osobě, jako jsou jednotlivci či společnosti, mít jakoukoli právní osobnost. Možná ne navždy, ale zatím, dokud nepochopíme, co to je a čemu čelíme.
Otázka. Nepůsobí to trochu donkichotsky, jako bychom bojovali proti velmi inteligentnímu, velmi mocnému nepříteli, který je všude?
Odpověď. Není to všechno špatné. Musíte to vzít v úvahu. Například v lékařství jsou pokroky nepředstavitelné. Neříkám, že by se měl vývoj AI zastavit. Říkám, že tento vývoj musí probíhat pomaleji a opatrněji, aby se lidstvo mohlo přizpůsobit. Nemyslím si, že je něco nevyhnutelného. Jednou z výmluv pro nicnedělání je tvrdit, že něco je nevyhnutelné. Snažím se lidi upozornit, vyzvednout a volit ty, kteří pomáhají AI vyvíjet bezpečněji.
Otázka. Ujistil jste mě, že brzy přestanete psát, protože AI to brzy zvládne lépe.
Odpověď. Ještě ne. Pracuji s jazykem, ale za deset let bude AI bezpochyby psát lépe než já.
Otázka. Ale píšete teď knihu?
Odpověď. Ano. Ještě mám pár let, než se AI dá dohromady. Potom kdo ví?
Otázka. A je to o umělé inteligenci?
Odpověď: Ne. Je to o historii.
Zdroj ve španělštině: ZDE
Diskuse