Umělá inteligence je čím dál mocnější. Hrozí, že brzy převálcuje lidstvo? Musíme být velmi opatrní, varuje historik Yuval Noah Harari. A vysvětluje, jaké chyby v uvažování se mocní a bohatí dopouštějí.
Člověk se rád považuje za vrchol tvorstva, nyní si však vytvořil potenciálního soupeře: umělou inteligenci (AI), subjekt, kterému zcela nerozumí a který možná nedokáže ani ovládat. Historik Yuval Noah Harari, jeden z nejvlivnějších myslitelů současnosti, již dlouho varuje před přílišnou lehkomyslností při vývoji umělé inteligence.
Proč však lidstvo toto obrovské riziko vůbec podstupuje? Jak by mohlo vytvoření umělé inteligence dopadnout v nejlepším a v nejhorším případě? A jak by se astronomické částky peněz určené na vývoj umělé inteligence daly investovat lépe? Na tyto otázky odpovídá Yuval Noah Harari, jemuž právě v německém překladu vyšly knihy „Sapiens: Učni čarodějů“ a „Co musíte vědět, abyste zachránili svět“, v rozhovoru pro t-online.
t-online: Pane profesore Harari, člověk si podmanil Zemi, nyní si však v podobě umělé inteligence vytvořil konkurenta na vrcholu evolučního řetězce. Bude lidstvo existovat ještě za 200, 300 nebo 500 let?
Yuval Noah Harari: Lidstvo by skutečně mohlo vyhynout. Tato možnost rozhodně existuje. Pokud se podíváme na současný technologický vývoj – zejména v oblasti umělé inteligence a do jisté míry i biotechnologií – existují vlastně jen dvě možnosti: v prvním případě lidstvo zmizí a kontrolu převezme umělá inteligence. Druhý scénář spočívá v tom, že se naučíme s umělou inteligencí koexistovat. Bude však nemožné, abychom my lidé zůstali takoví, jací jsme dnes.
Co se tedy s lidmi stane?
Dosáhli jsme již mnoha technologických a vědeckých průlomů, mimo jiné v genetice. Umělá inteligence tento proces pravděpodobně ještě urychlí. Lidé získají schopnost poměrně radikálně měnit své tělo, mozek i mysl. Člověk z roku 2526 se pravděpodobně bude výrazně lišit od člověka z roku 2026.
To zní znepokojivě.
Moderní Homo sapiens se výrazně liší od neandrtálce, a ještě více od jiných vyhynulých zástupců rodu Homo. Taková je evoluce. Rozdíl mezi námi dnes a bytostmi roku 2500 bude pravděpodobně ještě mnohem větší. Změna sama o sobě není nic neobvyklého. Vývoj umělé inteligence však otevírá nové možnosti. Uvidíme, musíme počkat, co z toho vzejde.
Byl vynález umělé inteligence pošetilý a troufalý? Koneckonců člověk s její pomocí stvořil něco, co by ho mohlo dokonce nahradit.
Na otázku, zda je umělá inteligence dobrá nebo špatná, zatím nelze odpovědět. V této fázi však můžeme konstatovat, že umělá inteligence je nejdůležitějším vynálezem v historii. Může to dopadnout strašně špatně, ale může to dopadnout i dobře. Vše závisí na rozhodnutích, která nyní učiníme.
Dosud se americkým technologickým firmám vývoj umělé inteligence zdál být příliš pomalý, najednou však šéf společnosti Anthropic Dario Amodei varuje před jejím nebezpečím, Elon Musk s ním souhlasí a společnost OpenAI tím dokonce zdůvodňuje odložení svého vstupu na burzu. Jde o pozdní prozření, nebo se za tím skrývá něco jiného?
Měli bychom upřímně doufat, že jde o rozvážnost. Samozřejmě mohou hrát roli i jiné důvody. Ale podívejme se na to z té lepší stránky: pomalejší tempo a větší bezpečnost jsou při vývoji umělé inteligence nesmírně důležité. Hrajeme si s ohněm. Musíme postupovat opatrně. S něčím jako umělá inteligence jsme se my lidé totiž dosud nesetkali. Je potenciálně nesmírně nebezpečná, musíme opravdu být opatrní.
V čem přesně nebezpečí spočívá?
Lidstvo v průběhu času přišlo s četnými vynálezy. Ale všechny tyto věci byly pouhými nástroji. S umělou inteligencí jsme nyní vyvinuli něco, co není nástroj, ale agent: něco, co dokáže samo činit rozhodnutí, něco, co dokáže vymýšlet nové nápady. A navíc to není ani organické, jako jsme my sami. To je naprosto revoluční: od vzniku prvních organismů před miliardami let byl veškerý život na této planetě organický – ať už šlo o dinosaury, rajčata nebo lidi. Nyní vytváříme potenciál pro anorganický život. To by se mohlo stát vůbec nejdůležitějším zlomovým bodem v historii života.
Základní problém však spočívá v tom, že člověk nechápe, jak umělá inteligence „myslí“.
To činí celou věc nepředvídatelnou. To je pravda. Pro mě jako historika je to navíc nesmírně vzrušující.
Právě jako historik jste se vydal na nové cesty – a to tím, že k předávání znalostí využíváte grafické romány. Nyní vyšel nový svazek s názvem „Sapiens: Učni čarodějů“. V něm představujete historii lidstva od roku 1492 v komiksové podobě. Jak náročný byl tento projekt?
Je to nejvtipnější projekt, na kterém jsem kdy pracoval. Jsem profesionální historik, napsal jsem akademické i populárně-vědecké knihy. Žánr grafického románu je však něco úplně jiného. Proto jsem se velmi spoléhal na odborné znalosti Davida Vandermeulena a Daniela Casanaveho, kteří spolu se mnou „Učně čarodějů“ vytvořili. Ano, zabýváme se i velmi vážnými tématy, ale právě díky humornému přístupu se snažíme zaujmout lidi, kteří by se jinak do historických knih nepodívali. Osobně mi práce na grafických románech velmi prospěla, protože použití vizuálních prostředků namísto textu mě nutí uvažovat jinak: vysvětlovat věci ne slovy, ale obrázky, je dost náročné.
V knize máte také co vysvětlovat. Děj sahá od plavby Kryštofa Kolumba v roce 1492 na západ až po současný vývoj umělé inteligence. Proč se od té doby událo tolik věcí?
Tehdy se do světa dostala myšlenka pokroku. A to bylo něco nového: po velkou část své historie lidé věřili, že v dřívějších dobách bylo lépe. Téměř v každé civilizaci existovaly příběhy o minulém zlatém věku a o tom, že od té doby se vše zhoršilo. Ve středověké Evropě si proto lidé nemysleli, že by se jejich dětem jednou žilo lépe než jim.
Panoval tedy názor, že na Zemi jde obecně o hru s nulovým součtem?
To je docela přesné. Jedinou cestou k bohatství bylo například někomu něco vzít. Pokud chtěla jedna země být mocnější, musela prostě dobýt jinou. Tato mentalita se odpovídajícím způsobem odrážela v myslích lidí. Některé věci se sice na chvíli mohly zlepšit, ale pak se situace zase zhoršila: například mohla vypuknout válka, pak zavládl mír a pak zase přišla další válka. Možná také Bůh vykonal zázrak? Kdo ví.
Místo v Boha však lidstvo stále více důvěřovalo vědě.
Když se tehdy zrodila základní myšlenka vědy, stala se rychle téměř nezastavitelnou. Je založena na přesvědčení, že o světě toho moc nevíme, ale že jej můžeme změnit usilovnou snahou. A zde vstupují do hry pokrok, hospodářský růst a kapitalismus. Dříve bylo obtížné až nemožné získat dlouhodobý úvěr. Proč? Z toho důvodu, že nikdo nevěřil v dlouhodobý hospodářský růst. Vědecká revoluce však lidem dokázala opak.
Byla to ale opravdu revoluce ve prospěch lidstva? Víra v pokrok a kapitalismus zaměřený na zisk dovedly planetu ničením životního prostředí a z toho vyplývající klimatické krize na hranici možností.
Mnohé vývojové trendy skutečně přinesly zlepšení. Vzpomeňme si na prodloužení průměrné délky života a snížení dětské úmrtnosti. Zvýšení produkce potravin bylo dříve možné pouze tím, že někdo někoho jiného přepadl nebo ho okradl. Věda naopak umožnila zvýšení vlastního výnosu. Například vynálezem hnojiva. Ale ano, dávám vám za pravdu, víra v pokrok přinesla i špatné věci: podnítila evropský imperialismus a ve válkách se stále častěji používaly ničivé zbraně.
„Duchů, které jsem přivolal, se nyní nemohu zbavit,“ píše Johann Wolfgang von Goethe. Je člověk odsouzen k tomu, aby navždy zůstal „čarodějovým učněm“?
Jak by to mohlo být jinak? Základní ideologie pokroku spočívá v tom, že svět nezůstává na určité úrovni. Svět se neodehrává v cyklech, zlatý věk není v minulosti, ale v budoucnosti. Tato myšlenka má obrovskou sílu: v dějinách už totiž není cesty zpět. Co se jednou rozpoutá, už nelze zastavit. Vezměme si jako příklad průmyslovou revoluci. O ní se dá skvěle diskutovat: byla špatná, byla dobrá? Co však nelze, je ji zvrátit. Návrat do světa před průmyslovou revolucí není možný.
To by mělo platit i pro umělou inteligenci.
Umělá inteligence je nyní vrchol. Uvolňujeme něco, co se potenciálně vymyká naší kontrole. Umělé inteligenci nerozumíme, nevíme, jak ji máme ovládat. Velké technologické koncerny a jejich šéfové – Elon Musk, Sam Altman a další – nám říkají, že stvoří bohy. A tito bohové, tedy umělá inteligence, budou našimi otroky. To je ale logický rozpor: pokud stvoříme bohy, tedy bytosti, které jsou mnohem inteligentnější, schopnější a mocnější než my, nezůstanou našimi otroky. To je prostě nemožné.
Čímž se člověk opět projevuje jako „čarodějův učeň“. Má ještě dost času na to, aby si udržel kontrolu?
Téměř v každé mytologii najdeme příběhy podobné tomu o „čarodějovu učni“. A vždy to končí špatně. Čas tlačí, neměli bychom ho promarnit. Musíme vyřešit otázku umělé inteligence, musíme si udržet kontrolu. Na tom může záviset naše přežití.
Jaké scénáře považujete za možné?
Revoluce v oblasti umělé inteligence v sobě skrývá jak negativní, tak pozitivní potenciál. Nejhorším scénářem je, že lidstvo zcela ztratí kontrolu. Umělá inteligence převezme vládu a naše přežití bude záviset na jejích rozhodnutích. Nemusí to však skončit tak strašně, protože revoluce v oblasti umělé inteligence by mohla mít i pozitivní důsledky. Tato hrozba by totiž mohla lidstvo motivovat k etickému či duchovnímu posunu. Stalo by se tak na základě poznání, že jsme s umělou inteligencí stvořili něco potenciálně tak nebezpečného, že se musíme skutečně změnit, abychom se s tím dokázali vypořádat.
Jako historik se již dlouhou dobu zabýváte dějinami lidstva. Prospěl lidstvu pokrok?
To je zajímavá otázka. Když se podíváme na lidský pokrok v průběhu tisíciletí, ukazuje se, že lidé jsou stále mocnější. Ale nejsou o moc šťastnější. Co to znamená? Člověk neví, jak proměnit moc ve štěstí.
Je to vůbec možné?
V každém případě je rozšířeným omylem, že by to bylo možné. Moc a štěstí však nejsou totéž. Pokud člověk soustředí veškerou svou sílu a energii na to, aby se stal nejmocnějším mužem na světě, vynaloží na to veškeré úsilí. Pokud někdo řekne, že chce být nejbohatším člověkem na světě, soustředí veškerou svou sílu a energii na tento cíl. Možná se to někomu podaří. Ale dělá ho to také šťastnějším? Ne, protože štěstí nebylo to, do čeho investoval. Podívejme se na lidi jako Vladimír Putin, Donald Trump nebo Elon Musk.
Prosím.
Tito lidé jsou nesmírně mocní, jsou nesmírně bohatí, ale nezdá se, že by byli zvlášť šťastní. Putin je v tomto ohledu extrémním příkladem: podle mého názoru by šťastný člověk nebyl schopen přivodit ostatním lidem tolik neštěstí a utrpení.
Je možné, že je člověk odsouzen k nespokojenosti?
Tato myšlenka není úplně zcestná. Kdybychom dnes oba nastartovali stroj času a přenesli do naší současnosti předka z doby kamenné, nemohl by uvěřit tomu, čeho jsme dosáhli. Už nemusíme lovit a sbírat, stačí zajít do supermarketu. Nebo si objednáme pizzu online a o 20 minut později nám kurýr zazvoní u dveří. Máme léky proti strašlivým nemocem, letadlem můžeme cestovat po celém světě. Náš předek z doby kamenné by si při pohledu na náš svět myslel, že musíme být ti nejšťastnější lidé na světě.
Dokud neuvidí stinné stránky naší doby.
Kdybychom k němu chtěli být upřímní, museli bychom mu vyprávět o našich problémech: Lidé jsou někdy plní hněvu a nenávisti, vedou války, jako třeba právě teď na Blízkém východě. Vlastně je to překvapivé, protože jsme vyřešili řadu problémů, které trápily lidi v době kamenné. Proč jsme tedy pořád tak nešťastní?
Sám jste to řekli: protože investujeme do nesprávných věcí.
To je tak nesmírně politováníhodné. Produkujeme dostatek potravin, abychom nasytili každého člověka na této planetě. Proč tedy lidé přesto trpí hladem, proč na něj dokonce umírají? Z politických důvodů. To je jednoduchá odpověď. Protože lidé učinili politická rozhodnutí, která vedou k tomu, že jiní lidé trpí hladem. Lidstvo prostě stále znovu a znovu dělá zásadní chybu, když zaměňuje moc za štěstí.
Umělá inteligence nás tedy zřejmě neudělá šťastnějšími.
Lidstvo nyní investuje biliony dolarů do vývoje umělé inteligence. To by mohlo vést ke vzniku superinteligence. Ale budeme díky tomu šťastnější? Možná je právě teď ten správný čas zamyslet se nad tím, co by bylo možné, kdybychom tyto biliony dolarů raději investovali do štěstí. Místo toho však pravděpodobně budeme mít superinteligentní AI a budeme strašně nešťastní, protože to bylo naše vlastní rozhodnutí investovat do této technologie a ne do našeho štěstí.
Považujete se spíše za optimistu, nebo za pesimistu, pokud jde o budoucnost?
Snažím se být realista. Pesimisté si myslí, že jsme odsouzeni k zániku. Ať uděláme cokoli, něco se stejně pokazí. Optimisté jsou pravým opakem: Žádné obavy, všechno bude v pořádku. Oba přístupy jsou podle mého názoru nezodpovědné. Vycházejí totiž z předpokladu, že nad námi vládnou síly, které nás buď odsoudí, nebo zachrání. Realistický přístup je zodpovědnější: implikuje totiž, že sice nemáme kontrolu nad vesmírem, ale přesto disponujeme velkou mocí. Tuto moc bychom měli využít k rozumným rozhodnutím.
Moc děkuji za rozhovor, pane profesore Harari.
Juval Noach Harari patří k nejznámějším historikům současnosti a je autorem několika světových bestsellerů. Narodil se v izraelské Haifě a vystudoval na Hebrejské univerzitě v Jeruzalémě, kde získal bakalářský a magisterský titul, doktorát pak na Jesus College Oxfordské univerzity. Od r. 2005 vyučuje Harari na Hebrejské univerzitě, kde se v r. 2008 stal docentem a v r. 2014 profesorem. Mezi jeho knižní bestsellery, které vyšly i v češtině, patří Sapiens – stručné dějiny lidstva, Homo Deus – stručné dějiny zítřka a 21 lekcí pro 21. století. Nedávno mu vyšlo pokračování této trilogie, kniha Nexus: Stručná historie informačních sítí od doby kamenné po umělou inteligenci.
