Nejnovější kniha Juvala Noacha Harariho se jmenuje Nexus: Stručné dějiny informačních sítí od doby kamenné po umělou inteligenci. Z této knihy byla převzata následující esej.
Mnozí odborníci varují, že vzestup umělé inteligence může vést ke kolapsu lidské civilizace, nebo dokonce k vyhynutí lidského druhu. V průzkumu z roku 2023, kterého se zúčastnilo 2 778 výzkumníků zabývajících se umělou inteligencí, více než třetina z nich přisuzovala alespoň 10% pravděpodobnost, že pokročilá umělá inteligence povede k tak fatálním důsledkům, jako je vyhynutí lidstva. V roce 2023 podepsalo téměř 30 vlád – včetně vlád Číny, Spojených států a Velké Británie – Bletchleyovu deklaraci o UI, která konstatuje, že „existuje potenciál vážných, dokonce katastrofických škod, ať už úmyslných, nebo neúmyslných, plynoucích z nejvýznamnějších schopností modelů umělé inteligence“.
Skutečný problém s halucinacemi umělé inteligence
Některým lidem tato varování připadají jako přehnaná naříkání. Pokaždé, když se objevila nová výkonná technologie, objevily se obavy, že by mohla přinést apokalypsu. Například v době průmyslové revoluce se mnoho lidí obávalo, že parní stroje a telegrafy zničí naši společnost a náš blahobyt. Stroje však nakonec vytvořily nejbohatší společnosti v dějinách. Většina lidí se dnes těší mnohem lepším životním podmínkám než jejich předkové v 18. století. Nadšenci do umělé inteligence, jako jsou Marc Andreessen a Ray Kurzweil, slibují, že inteligentní stroje budou ještě prospěšnější než jejich průmysloví předchůdci. Tvrdí, že díky umělé inteligenci budou mít lidé mnohem lepší zdravotní péči, vzdělání a další služby, a umělá inteligence dokonce pomůže zachránit ekosystém před kolapsem.
Při bližším pohledu do historie bohužel zjistíme, že lidé mají dobré důvody obávat se nových mocných technologií. I když nakonec pozitiva těchto technologií převáží nad jejich negativy, cesta ke šťastnému konci obvykle zahrnuje mnoho zkoušek a útrap. Nové technologie často vedou k historickým katastrofám ne proto, že by byly ze své podstaty špatné, ale proto, že lidem trvá, než se je naučí rozumně používat.
Psycholog vysvětluje, jak algoritmy a umělá inteligence mění naše životy
Průmyslová revoluce je toho nejlepším příkladem. Když se v 19. století začala celosvětově šířit průmyslová technologie, narušila tradiční ekonomické, sociální a politické struktury a otevřela cestu k vytvoření zcela nových společností, které byly potenciálně bohatší a mírumilovnější. Naučit se budovat příznivé průmyslové společnosti však nebylo zdaleka jednoduché a vyžadovalo to mnoho nákladných experimentů a stovky milionů obětí.
Jedním z nákladných experimentů byl moderní imperialismus. Průmyslová revoluce vznikla ve Velké Británii na konci 18. století. V průběhu 19. století byly průmyslové technologie a výrobní metody převzaty dalšími evropskými zeměmi od Belgie po Rusko a také ve Spojenými státy a Japonskem. Imperialističtí myslitelé, politici a strany v těchto centrech průmyslu dospěli k závěru, že jedinou životaschopnou průmyslovou společností je impérium. Argumentovali tím, že na rozdíl od tradičních agrárních společností jsou nové průmyslové společnosti mnohem více závislé na zahraničních trzích a zahraničních surovinách a pouze impérium může tyto nebývalé choutky ukojit. Imperialisté se obávali, že země, které se industrializují, ale nepodaří se jim dobýt žádné kolonie, budou odříznuty od základních surovin a trhů bezohlednějšími konkurenty. Někteří imperialisté tvrdili, že získávání kolonií je nejen nezbytné pro přežití jejich vlastního státu, ale také prospěšné pro zbytek lidstva. Tvrdili, že pouze impéria mohou rozšířit výhody nových technologií do tzv. nerozvinutého světa.
Průmyslové země jako Velká Británie a Rusko, které již svá impéria měly, je proto značně rozšířily, zatímco země jako Spojené státy, Japonsko, Itálie a Belgie je začaly budovat. Průmyslové armády vybavené masově vyráběnými puškami a dělostřelectvem, poháněné parní silou a řízené telegrafem, se rozlétly po celém světě od Nového Zélandu po Koreu a od Somálska po Turkmenistán. Miliony domorodých obyvatel viděly, jak jejich tradiční způsob života skončil pod koly průmyslových armád. Trvalo více než sto let utrpení, než si většina lidí uvědomila, že průmyslová impéria jsou hrozný nápad a že existují lepší způsoby, jak vybudovat průmyslovou společnost a zajistit si potřebné suroviny a trhy.
Longtermismus: oblíbená ideologie mocných
Stalinismus a nacismus byly také nesmírně nákladnými experimenty, jak vybudovat průmyslovou společnost. Vůdci jako Stalin a Hitler tvrdili, že průmyslová revoluce uvolnila obrovské síly, které může omezit a plně využít pouze totalitarismus. Poukazovali na první světovou válku – první „totální válku“ v dějinách – jako na důkaz, že přežití v průmyslovém světě vyžaduje totalitní kontrolu všech aspektů politiky, společnosti a hospodářství. Na druhou stranu také tvrdili, že průmyslová revoluce je jako pec, která roztaví všechny předchozí společenské struktury s jejich lidskými nedokonalostmi a slabostmi a poskytne příležitost k vytvoření dokonalých nových společností obývaných novými nefalšovanými nadlidmi.
Na cestě k vytvoření dokonalé průmyslové společnosti se stalinisté a nacisté naučili, jak průmyslově vyvraždit miliony lidí. Vlaky, ostnaté dráty a telegrafické rozkazy byly propojeny do jednoho účinného celku, aby vytvořily bezprecedentní stroj na zabíjení. Při pohledu zpět je dnes většina lidí zděšena tím, co stalinisté a nacisté spáchali, ale ve své době jejich odvážné vize fascinovaly miliony lidí. V roce 1940 bylo snadné uvěřit, že Stalin a Hitler jsou vzorem pro využití průmyslových technologií, zatímco váhavé liberální demokracie jsou na cestě na smetiště dějin.
Samotná existence konkurenčních receptů na budování průmyslových společností vedla k nákladným střetům. Obě světové války i studenou válku lze považovat za debatu o správném postupu, v níž se všechny strany učily jedna od druhé a zároveň experimentovaly s novými průmyslovými metodami vedení války. V průběhu této debaty zahynuly desítky milionů lidí a lidstvo se nebezpečně přiblížilo k vyhlazení sebe sama.
Stáváme se kvůli umělé inteligenci přebytečnými?
Kromě všech těchto katastrof narušila průmyslová revoluce také globální ekologickou rovnováhu a způsobila vlnu vymírání. Předpokládá se, že na počátku 21. století každoročně vymírá až 58 000 druhů a že celkové populace obratlovců se mezi lety 1970 a 2014 snížily o 60 %. Ohroženo je i přežití samotné lidské civilizace. Protože stále nejsme schopni vybudovat průmyslovou společnost, která by byla zároveň ekologicky udržitelná, vychvalovaný blahobyt současné lidské generace jde na úkor ostatních živých bytostí a budoucích lidských generací. Možná nakonec najdeme způsob, jak – třeba s pomocí umělé inteligence – vytvořit ekologicky udržitelnou průmyslovou společnost, ale do té doby je porota nad průmyslovou revolucí stále nerozhodnutá.
Pokud na chvíli pomineme pokračující poškozování ekosystému, můžeme se přesto pokusit utěšit myšlenkou, že se lidé nakonec naučili budovat šetrnější průmyslové společnosti. Imperiální výboje, světové války, genocidy a totalitní režimy byly žalostnými experimenty, které lidi naučily, jak to nedělat. Někdo by mohl tvrdit, že do konce 20. století to lidstvo více či méně zvládlo.
Přesto je poselství pro 21. století pochmurné. Pokud lidstvo potřebovalo tolik strašlivých lekcí, aby se naučilo řídit parní pohon a telegraf, kolik by stálo naučit se řídit umělou inteligenci? UI je potenciálně mnohem mocnější a neovladatelnější než parní stroje, telegrafy a všechny předchozí technologie, protože je to první technologie v historii, která se dokáže sama rozhodovat a vytvářet nové myšlenky. UI není nástroj – je to činitel. Kulomety a atomové bomby nahradily lidské svaly při zabíjení, ale nemohly nahradit lidský mozek při rozhodování, koho zabít. Little Boy – bomba svržená na Hirošimu – explodovala silou 12 500 tun TNT, ale co se týče mozkové kapacity, Little Boy byl chudák. Nedokázal o ničem rozhodnout.
Nejnebezpečnější na umělé inteligenci je člověk
S umělou inteligencí je to jinak. Co se týče inteligence, umělá inteligence zdaleka překonává nejen atomové bomby, ale i všechny předchozí informační technologie, jako byly hliněné tabulky, tiskařské stroje a rozhlasové přijímače. Hliněné tabulky uchovávaly informace o daních, ale nedokázaly samy rozhodnout o výši daně, ani vymyslet zcela novou daň. Tiskařské stroje kopírovaly informace, například Bibli, ale nemohly rozhodnout, které texty do Bible zařadit, ani nemohly napsat nové komentáře ke svaté knize. Rozhlas šířil informace, například politické projevy a symfonie, ale nemohl rozhodnout, které projevy nebo symfonie se budou vysílat, ani je nemohl složit. Umělá inteligence dokáže všechny tyto věci, a dokonce dokáže vymýšlet nové zbraně hromadného ničení – od supermocných jaderných bomb až po supersmrtící pandemie. Zatímco tiskařské stroje a rozhlasové přijímače byly v lidských rukou pasivními nástroji, umělé inteligence se již stávají aktivními činiteli, kteří se mohou vymykat naší kontrole a chápání a kteří mohou iniciativně utvářet společnost, kulturu a dějiny.
Možná nakonec najdeme způsob, jak udržet umělou inteligenci pod kontrolou a nasadit ji ve prospěch lidstva. Ale museli bychom projít dalším cyklem globálních říší, totalitních režimů a světových válek, abychom přišli na to, jak umělou inteligenci využívat benevolentně? Vzhledem k tomu, že technologie 21. století jsou mnohem výkonnější – a potenciálně mnohem ničivější – než technologie 20. století, máme daleko méně prostoru pro chyby. Ve 20. století můžeme říci, že lidstvo dostalo z lekce používání průmyslových technologií trojku s minusem. Jen tolik, aby prošlo. Ve 21. století je však laťka nastavena mnohem výše. Tentokrát si musíme vést lépe.
Juval Noach Harari patří k nejznámějším historikům současnosti a je autorem několika světových bestsellerů. Narodil se v izraelské Haifě a vystudoval na Hebrejské univerzitě v Jeruzalémě, kde získal bakalářský a magisterský titul, doktorát pak na Jesus College Oxfordské univerzity. Od r. 2005 vyučuje Harari na Hebrejské univerzitě, kde se v r. 2008 stal docentem a v r. 2014 profesorem. Mezi jeho knižní bestsellery, které vyšly i v češtině, patří Sapiens – stručné dějiny lidstva, Homo Deus – stručné dějiny zítřka a 21 lekcí pro 21. století. Nyní mu vychází pokračování této trilogie, kniha Nexus: Stručná historie informačních sítí od doby kamenné po umělou inteligenci.
