Mezi vlivnými lidmi se stále více rozmáhá jedna ideologie: longtermismus. Jeho zastánci věří, že extrémně vzdálená budoucnost je morálně důležitější než problémy dnešních lidí. Tento fenomén analyzoval historik a filozof Émile Torres. V rozhovoru pro Moment.at Torres vysvětluje, proč je tato ideologie tak nebezpečná.
Moment.at: Začněme jednoduše. Když longtermismem myslíme vzdálenou budoucnost, jak vzdálený horizont máme ne mysli?
Émile Torres: Longtermisté odhadují, že bychom mohli Zemi obývat ještě asi miliardu let. A pokud se rozšíříme, mohlo by lidstvo žít ve vesmíru nejméně deset sextiliard let (poznámka: deset sextiliard se píše také jako 10^40. To je jednička se 40 nulami).
Mezi známé a vlivné longtermisty v akademickém světě patří oxfordští filozofové Nick Bostrom a William MacAskill. V technologickém světě s touto ideologií sympatizují například Elon Musk a Sam Bankman-Fried.
Moment.at: Proč je tato vzdálená budoucnost pro longtermisty tak důležitá?
Torres: Vzdálená budoucnost má váhu na základě své velikosti. Cílem longtermistů je pozitivně ovlivnit co největší počet lidí. A protože většina lidí, kteří by mohli existovat, bude existovat ve vzdálené budoucnosti, měli bychom se zaměřit především na ně a ne na lidi žijící v současnosti – i když většina budoucích lidí by z prostorových důvodů žila v počítačových simulacích. Podle těchto předpovědí by v budoucnu mohlo žít celkem 10 noniliard (10^58) lidí.
Svět si už miliardáře nemůže dovolit
Moment.at: Zeptám se jinak: vás vzdálená budoucnost nezajímá?
Torres: Určitá dlouhodobá perspektiva je velmi důležitá. Pokud někdo žije v budoucnosti, má stejnou váhu jako člověk, který žije dnes nebo žil v minulosti. Myslím si však, že vzdálenou budoucnost nelze předvídat. Proto je zaměření na ni nevhodné. Longtermistická ideologie jde daleko nad rámec dlouhodobého myšlení. Tato ideologie zahrnuje nahrazení lidstva digitálním světem, protože jen tak může existovat maximální počet lidí.
Moment.at: Která rizika připadají longtermistům obzvlášť důležitá?
Torres: Klíčovou myšlenkou jsou existenční rizika. Tím označují rizika, která by ohrozila techno-utopickou budoucnost s astronomickým počtem digitálních lidí. Minimalizace těchto rizik je pro longtermisty nejvyšší prioritou.
V současnosti žije více než 8 000 000 000 (8 miliard) lidí. Longtermisté věří, že v budoucnu by mohlo žít až 10 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 (10 nonilliard) lidí.
Mnozí longtermisté považují v současnosti za nejvýznamnější existenční riziko zlovolnou umělou inteligenci, která se nebude řídit lidskými hodnotami, a proto nás vyhladí.
Plán superbohatých: útěk před zkázou, kterou sami způsobili
Neexistenční rizika jsou považována za mnohem méně důležitá, protože neohrožují dlouhodobou utopii. Patří sem například globální chudoba, která je proto podřízena existenčním rizikům.
Moment.at: Témata jako bezpečná umělá inteligence a prevence pandemií jsou důležitá. Není také dobře, že se na ně někdo zaměřuje?
Torres: Myslím, že je dobře, že se lidé zaměřují na tato opomíjená rizika. V posledních letech jsme viděli, co se stane, když se ignorují. K řešení těchto problémů však nepotřebujete longtermistický rámec. Pandemie způsobují obrovské škody reálně existujícím lidem, a s největší pravděpodobností i těm, kteří budou žít v blízké budoucnosti. Aby tyto otázky byly relevantní, není třeba přijímat ideologický balast longtermismu.
Obávám se, že neexistenční rizika jsou ignorována a minimalizována.
Moment.at: Je již dnes vliv longtermismu znatelný?
Torres: Ano, určitě. Například Elon Musk je longtermismem zaujatý. Myslím, že spousta jeho společností dává největší smysl z této perspektivy. Jeho společnost SpaceX má částečně pomoci lidstvu přežít katastrofu na Zemi tím, že se přesune na Mars. Mars je mezistupeň k rozšíření na další planety. A jeho společnost Neuralink si klade za cíl spojit náš mozek s umělou inteligencí. Nakonec možná budeme schopni nahradit veškerý biologický materiál počítačovým hardwarem. Tyto myšlenky hrají stále důležitější roli i v mezinárodní politice.
Jsou extrémně bohatí lidé také inteligentnější?
Moment.at: Zdá se, že jde o rychlý vzestup. Kde to skončí? Jak bude vypadat svět, v němž dominuje longtermismus?
Torres: Obávám se, že neexistenční rizika jsou ignorována a minimalizována. Některé z nejdůležitějších publikací longtermistů dělají přesně to. Navíc by mohlo dojít ke koncentraci moci již tak mocných lidí. Například technologické elity propagují, že do nich musíme investovat, protože jen ony mohou vyřešit problém zlovolné umělé inteligence. To vše při ignorování jimi způsobených problémů, jako je šíření dezinformací a algoritmických biasů.
Existenční rizika se dotýkají i samotné technologické elity. Rizika jako je chudoba se jich netýkají.
Moment.at: Proč mají právě technologičtí giganti jako Elon Musk tak rádi vzdálenou budoucnost?
Torres: Myslím si, že to může mnoha jejich společnostem poskytnout zdánlivé odůvodnění. Je těžké zjistit, proč přesně chce Musk letět na Mars. Možná je to jeho přání z dětství, pro které si pak našel jako etickou výmluvu longtermismus. Nebo možná skutečně věří v longtermistické hodnoty. To je naprosto možné.
Odborník na nerovnost: „Neoliberálové zbožňují místo lidí trh“
Téma „existenčního rizika“ navíc oslovuje i technologickou elitu, protože se jí logicky také přímo dotýká. Zlá umělá inteligence by je také vyhladila. Jiná rizika, jako je globální chudoba, se jich netýkají.
Moment.at: V současné době však longtermisté dostávají i negativní zprávy. Co se děje?
Torres: Na začátku loňského léta se longtermisté snažili svou ideologii šířit veřejně. Několik faktorů vedlo k tomu, že se jim to vrátilo. Například pád kryptomiliardáře a longtermisty Sama Bankmana-Frieda. Kromě toho někteří lidé jako já začali psát o temných stránkách na první pohled věrohodné ideologie a informovat veřejnost.
Moment.at: Mohlo by to vzestup longtermismu zpomalit?
Torres: Dobrá otázka. Domnívám se, že ne. Longtermismus je oblíbený u mnoha mocných lidí, zejména v Silicon Valley. Jejich moc je tak velká, že jejich rozhodnutí ovlivňují svět na dlouhou dobu. Proto si myslím, že longtermismus bude i nadále vlivný. Ale moc doufám, že se mýlím.
Émile P. Torres (they/them) je americký historik a filozof, který se zabývá existenciálním rizikem, vymíráním lidstva a myšlenkami, které s ním souvisejí. Spolu s počítačovým vědcem Timnitem Gebruem Torres vymyslel zkratku „TESCREAL“, aby kritizoval to, co považují za skupinu příbuzných futuristických filozofií: transhumanismus, extropianismus, singularitarismus, kosmismus, racionalismus, efektivní altruismus a longtermismus. Torres pracuje na doktorátu na Leibnizově univerzitě německém v Hannoveru. V roce 2016 vydal Torres knihu s názvem The End: What Science and Religion Tell Us About the Apocalypse (Konec: Co nám věda a náboženství říkají o apokalypse?). V knize se věnuje náboženské i sekulární eschatologii a popisuje hrozby plynoucí z technologií, jako jsou jaderné zbraně, biologické inženýrství, nanotechnologie a umělá inteligence. V roce 2017 vydal další knihu s názvem Morality, Foresight, and Human Flourishing: An Introduction to Existential Risks (Morálka, předvídavost a lidský blahobyt: úvod do existenciálních rizik). Stejně jako jeho první kniha pojednává o řadě existenciálních hrozeb, ale zabývá se také tím, co nazývá „agenciální riziko“: rolemi vnějších činitelů v existenciálním riziku. Kniha byla ve vědeckém magazínu Futures (ScienceDirect) oceněna jako „aktuální a současný“ úvod do existenciálních rizik. V roce 2023 vydal knihu Human Extinction: A History of the Science and Ethics of Annihilation (Lidské vymírání: dějiny vědy a etiky vyhlazování). Torres pravidelně publikuje články ve známých médiích, jako jsou Washington Post, Salon a Thruthdig.
