Historik Rutger Bregman se domnívá, že příštích pět let by mohlo patřit k nejbouřlivějším v dějinách lidstva. Jeho naléhavá rada zní: bojkotujte ChatGPT.
Rutger Bregman je jedním z nejvlivnějších historiků na světě. Knihy jako „Utopie pro realisty“ a „Morální ambice“ jsou světovými bestsellery. V nich se tento 37letý autor snaží převést poučení z velkých zlomů v dějinách lidstva do současnosti. Je tedy logické hovořit o umělé inteligenci. V současné době je Bregman součástí hnutí, které vyzývá k bojkotu OpenAI a jeho chatbota ChatGPT. Proč?
Die Zeit: Pane Bregmane, když jsme před rokem a půl hovořili o vaší knize „Morální ambice“, vy a váš tým jste ještě používali ChatGPT. Před několika týdny jste pak vyzval k bojkotu. Vzpomínáte si na ten okamžik, kdy jste si řekl: „Musím tuhle aplikaci smazat“?
Rutger Bregman: To bylo v momentě, kdy jsem si všiml, že pár mladých lidí spustilo kampaň s názvem QuitGPT. Řekl jsem si: Jo, to je ono! Mají pravdu. Od té doby tuto bojkotovou akci propaguji. Mezitím se k nám připojilo více než čtyři a půl milionu lidí. Nedávno jsem měl videohovor s více než 30 hollywoodskými celebritami. Marka Ruffala už máme na palubě. Katy Perry také.
Gunter Dueck a paradox digitální společnosti
Byl jste dříve fanouškem ChatGPT?
Od chvíle, kdy jsem to poprvé použil. To bylo koncem roku 2022. Připadalo mi to jako kouzlo. Jako autorovi mi připadalo neuvěřitelné vidět, jak stroj píše. Svůj druhý „what the fuck“ moment jsem zažil koncem loňského roku, když společnost Anthropic uvedla na trh Claude Code. Teď zažívám takové momenty opravdu několikrát týdně, protože prostě nemůžu uvěřit, co všechno s tím dokážu.
Co s tím děláte?
Na začátku samozřejmě jen základní věci. Optimalizace pracovních postupů, plánování schůzek, pomoc s psaním e-mailů. Teď jsem se také pustil do tvorby webových stránek a aplikací. Tuhle věc jsem vlastně vytvořil já.
Bregman pošle do chatu odkaz. Klikám na něj. Otevře se aplikace s teleprompterem.
Právě jsme spustili svůj YouTube kanál. Potřeboval jsem k tomu teleprompter s rozpoznáváním řeči, aby se text při předčítání videoeseje zastavil, když přestanu číst. Aplikace od lídra na trhu byla dost drahá. A tak mě napadlo, že bych se mohl prostě zeptat Clauda.
Kolik času vás to stálo?
První funkční verze? Nanejvýš deset minut. Měli byste se podívat na pokyny, které jsem zadal: „Můžeš mi to dát?“ – „Ne, takhle se mi to nelíbí!“ Za celý svůj život jsem nenapsal ani jediný řádek kódu. To je fakt šílené, co?
Takže si nemyslíte, že umělá inteligence je jen bublinou?
Existuje několik lidí na levém křídle politického spektra, kteří tvrdí: „Jde jen o pokročilé automatické doplňování, neustále to halucinuuje, je to jedna velká bublina.“ Považuji tyto lidi za naprosto pomatené. Je to nejmocnější nová technologie, jakou jsem za celý svůj život viděl. Už teď mění naši ekonomiku neuvěřitelným způsobem. A to je teprve začátek.
Co by zde měl bojkot přinést?
Příštích pět let by mohlo být jedním z nejbouřlivějších období v dějinách lidstva. Zajímá mě otázka: Kdo nás povede do této nové éry, do éry umělé inteligence? Nechci, aby to byli jen nějací šílení šéfové technologických firem. Chci, abychom to byli my všichni.
Jak to myslíte?
Vždy, když se objeví nová převratná technologie, změní se mocenské poměry. A když se podívám na lidi, kteří právě nesou odpovědnost za tyto technologie, mám opravdu obavy. Elon Musk je zářným příkladem. Zjevně úplně ztratil rozum. Loni navíc jeho AI nástroj Grok začal navrhovat Adolfa Hitlera jako řešení proti nenávisti vůči bílým. A trvalo hodiny, než vývojáři vůbec pochopili, co se stalo.
Teď vám nejde o Grok, ale o ChatGPT.
Pokud jde o ChatGPT, mám velké obavy, protože společnost, která za ním stojí, OpenAI, má velmi dobrou PR. Působí jako přátelský chatbot. Říkají: Jsme nezisková organizace a děláme to pro blaho celého lidstva. To ale už dávno není pravda. V éře Trumpa začala OpenAI podporovat autoritářský režim. Imigrační úřad ICE smí ChatGPT používat. Greg Brockman, prezident OpenAI, je s 25 miliony dolarů pouze za loňský rok jedním z největších Trumpových dárců. Spoluzaložil lobbistickou skupinu Leading the Future, projekt za 125 milionů dolarů, jehož cílem je svrhnout každého politika, který chce jakýmkoli způsobem regulovat umělou inteligenci. Jejich cílem jsou tedy především demokraté.
Poté, co společnost Anthropic v rámci sporu s Pentagonem trvala na tom, že její AI systém Claude nesmí být využíván k hromadnému sledování amerických občanů ani k smrtícím autonomním vojenským operacím, se okamžitě přihlásila společnost OpenAI.
Ano, maska spadla. Sam Altman, generální ředitel OpenAI, působí přátelsky, mile a rozumně. Jeho činy však hovoří jinak.
Považujete technologické šéfy jako Sama Altmana nebo Elona Muska za nemorální? Nebo dokonce za zlé?
V každém případě mají neuvěřitelně naivní představu o tom, jak funguje pokrok. Prostě věří, že stačí šlápnout na plyn. Rychleji, rychleji, rychleji. A myslím si, že někteří z nich, zejména lidé jako Peter Thiel, ani nejsou nijak velkými příznivci lidstva.
Narážíte na rozhovor pro New York Times, ve kterém se ho ptali, zda si přeje, aby lidstvo přežilo?
Trvalo mu asi sedm vteřin, než řekl: „Ano, ano, asi ano.“ Máme co do činění s lidmi, kteří jsou zcela odtrženi od zbytku společnosti. Dříve jsme měli suverénní státy. Pak jsme vstoupili do éry suverénních firem. Ale tito lidé se považují za suverénní jedince. Elon Musk například říká: Možná zapnu Starlink pro Ukrajinu. Možná taky ne. Považuje se za národní stát.
Takže raději nechat vše tak, jak to nedávno požadoval levicový americký senátor Bernie Sanders?
Bernie Sanders pochopil: je to reálné. Umělá inteligence přinese zásadní proměnu. Směr, kterým se ubíráme, však není správný. Proto říká: už žádná další datová centra.
Podobně jako lidé ničící stroje na počátku průmyslové revoluce? Ti protestovali proti sociálním důsledkům tím, že ničili vybavení závodů a dokonce i celé továrny.
To není můj preferovaný scénář. Nové technologie nás v historii v mnoha ohledech osvobodily – revoluce v oblasti ženských práv by například byla bez myčky, pračky a antikoncepční pilulky nepředstavitelná! Ale pokud je alternativou fašistický režim v USA a pár sociopatů v čele některých z nejmocnějších společností v dějinách lidstva, pak bych byl raději ničitelem strojů.
Čeho přesně se obáváte?
Je zcela zřejmé, že se věci mohou vymknout kontrole. V devadesátých letech existovala v Japonsku sekta Aum Shinrikyo. Jednalo se o kult, který disponoval extrémně velkými finančními prostředky. Koupili v Austrálii pozemek s uranovým dolem a pokusili se tam vyrobit atomovou bombu. Tehdy to všechno bylo příliš složité. K vybudování něčeho takového byla skutečně zapotřebí moc a peníze národního státu. Umělá inteligence by mohla tuto mezeru zaplnit. Mohla by zahladit mezeru mezi touhou něco udělat a schopností to udělat.
Vzhledem k tomu, že jste autorem knih jako „V zásadě dobrý“?„Im Grunde gut“, neboli „V zásadě dobrý“, je německý překlad názvu knihy „Humankind: A Hopeful History“. a „Utopie pro realisty“, zníte právě teď docela dystopicky.
Někdy to prostě skončí špatně. Před desítkami tisíc let se lidé toulali, měli pestrou stravu, hodně pohybu a žili v poměrně rovnoprávných společnostech – a to i mezi pohlavími. Zemědělská revoluce, tedy přechod od kočovného života, lovu a sběru k zemědělství, byla zásadní změnou. A pro drtivou většinu lidí to bylo špatné, protože tím byla zahájena éra nerovnosti a válek. Lidstvo bylo poté technologicky vyspělejší, ano. Najednou jsme byli schopni postavit něco jako pyramidy. Ale kdo ty pyramidy postavil? Otroci. Mnoho z toho, co nazýváme civilizací a pokrokem, je ve skutečnosti pouze výsledkem obrovského utrpení.
Ale dnes si přece žijeme celkem dobře, ne?
Ale jen proto, že se lidé v 19. století sdružili do politických stran a odborů. Díky tomu byli schopni přepsat společenskou smlouvu. To odstartovalo mimořádnou éru v dějinách lidstva, éru lidského rozkvětu, morálního pokroku, konce rasové segregace a vzestupu liberální demokracie. K tomu teď musí dojít znovu.
Cílem přece není jen proti něčemu bojovat, ale vytvořit utopii, za kterou stojí za to bojovat. Jak zní ta vaše?
Svět, ve kterém se všichni staneme bohatými. Hodnota umělé inteligence je součtem tisíciletí lidských úspěchů. Skutečnost, že jsi člověk, by ti měla dávat právo těžit z tohoto dědictví – ať už ses narodil ve slumech v Nairobi, nebo jsi starý bílým Evropanem. V tomto smyslu by AI mohla splnit největší slib v historii lidského druhu, a to slib obsažený ve Všeobecné deklaraci lidských práv. Jedná se již o neuvěřitelně utopický dokument, sepsaný na troskách druhé světové války. Už nikdy války, už nikdy nevýslovná zvěrstva, ale také: každý člověk si zaslouží dostat prostředky k tomu, aby si po svém vytvořil naplněný život. V zásadě jsme my lidé kreativní, hravý druh. Existuje milion, miliarda, bilion nádherných způsobů, jak žít život. V současné době je však – kvůli chudobě, nerovnosti, represi – tolika lidem bráněno je uskutečnit. Tolik krásných životních plánů se nikdy nezrealizuje. To bychom mohli změnit.
Jak?
Je extrémně důležité akumulovat moc. Moc, která bude působit jako protiváha. Zejména Evropa by o tom měla opravdu vážně uvažovat. Jistě, máme společnost ASML, jejíž stroje na výrobu polovodičů jsou pro velké výrobce čipů nenahraditelné. Ale když se podíváme na velké technologické společnosti v USA – Nvidia, Google, Amazon –, každá z nich má sama o sobě větší hodnotu než celý německý akciový trh.
Evropa zaostává ve vývoji umělé inteligence. Po skandálu s Pentagonem jste navrhl, aby se Evropa pokusila přetáhnout společnost Anthropic. Tedy poskytnout všem zaměstnancům víza a pokusit se z Anthropicu udělat evropskou společnost.
To by mi připadalo neuvěřitelné. Pak bychom měli ASML a Anthropic, měli bychom přední laboratoř pro umělou inteligenci a byli bychom monopolisty, co se týče dodávek strojů na výrobu čipů. Evropa by najednou měla opět moc. Ideály a hodnoty bez moci nejsou nic. Důvodem, proč Britové mohli v 19. století vést boj proti otroctví, bylo to, že měli Královské námořnictvo. Každá země, včetně Nizozemska, Španělska a Portugalska, která nechtěla zrušit obchod s otroky, k tomu byla donucena. I poválečný sociálnědemokratický a liberální řád byl založen na americké hegemonii. Samozřejmě byla v mnoha ohledech pokrytecká, například pokud jde o Mezinárodní soudní dvůr, kterého se USA dodnes neúčastní. Ale až tento světový řád zmizí, bude nám velmi chybět.
Má se tedy Evropa upsat zákonům džungle?
Pokud Evropa skutečně věří, že je kontinentem hodnot, kontinentem demokracie, kontinentem liberalismu, kontinentem lidských práv, pak by měla posílit svou moc, svou armádu, svou obranu. Chci, aby Německo vyrábělo atomové bomby. Chci, aby Polsko vyrábělo atomové bomby. Myslím to naprosto vážně. Nacházíme se v nejvyšším stupni ohrožení. Náš velmi, velmi liberální, sociálnědemokratický řád je v ohrožení.
Za jak pravděpodobné považujete, že se Evropa vydá tímto směrem?
Macron nedávno zveřejnil tweet ve stylu: „Francie se zapojuje do závodu o umělou inteligenci! Vynaložíme 25 milionů!“ Za 25 milionů si možná najmete tři zaměstnance OpenAI.
Nejsem si jistý, zda správně chápu, proč chcete, aby se Evropa zapojila do závodu v oblasti umělé inteligence, když ji na druhé straně chceme zpomalit. Nejsem si jistý, jak to vyřeší náš problém, když v Evropě máme své vlastní velké zlé koncerny.
To je právě to dilema. OpenAI vzniklo proto, že lidé měli obavy, že závod o nejvýkonnější AI se vymkne kontrole. Řekli si tedy: „Založme to jako neziskovou organizaci.“ Teď, když musí vydělávat peníze, už Sam Altman obavy nemá. Anthropic zase založili bývalí zaměstnanci OpenAI, kteří byli přesvědčeni, že bezpečnost AI je třeba brát opravdu vážně. A já si myslím, že se o to generální ředitel Dario Amodei vážně snaží, to aspoň vyvozuji z jeho esejí. Navíc se pustil do sporu s Pentagonem.
Amodei neřekl: „Jsem proti autonomním zbraním řízeným umělou inteligencí.“ Řekl pouze: „Jejich technologie zatím nesplňuje nezbytné standardy.“
Jasně. Nicméně jeho odmítnutí Pentagonu dalo najevo: Jsem připravený celou tu zatracenou mašinerii vyhodit do vzduchu. Určitě se dá diskutovat o tom, zda by vůbec měli spolupracovat s armádou. Ale jeho čin přinesl spoustu dobrého. Tím mnoho lidí upozornil na nebezpečí umělé inteligence.
Když vyzýváte k bojkotu, často se odvoláváte na historické příklady hnutí, která v boji proti něčemu uspěla. Například proti otrokářství nebo proti alkoholu. Za čím by se měli lidé dnes sjednotit? Vždyť ani vy nejste proti umělé inteligenci.
Analogie s bojem proti alkoholu se sem hodí docela dobře. V 19. století existoval alkoholový průmysl, který nechtěl žádnou regulaci a okamžitě zničil každého politika, který byť jen navrhl věkové hranice nebo omezení reklamy. Hnutí za abstinenci bylo reakcí na tuto skutečnost. Stejný vývoj právě pozorujeme v Silicon Valley. Navzdory finančně silné lobby proti regulacím se lidé v USA umělé inteligence obávají – více než klimatických změn. Existuje tedy obrovský potenciál pro mobilizaci proti umělé inteligenci, a to napříč politickým spektrem. Pokud by se demokratům podařilo tento potenciál využít, bude výhra v příštích volbách hračkou. Chovám tedy jistou naději.
Rutger Bregman je nizozemský historik a autor bestsellerů Humankind a Utopia for Realists, přeložených do 46 jazyků. Je považován za jednoho z nejvýraznějších evropských myslitelů své generace. Po studiu historie v Utrechtu a na UCLA se věnoval žurnalistice, zejména na platformě De Correspondent. Jeho práce publují deníky jako The Washington Post, The Guardian, BBC a mnohé další. Deník The Guardian ho označil za „holandského zázračného dítěte nových myšlenek“ a TED Talks za „jednoho z nejvýznamnějších mladých myslitelů v Evropě“. Bregmanovu přednášku TED Talk „Poverty Isn’t a Lack of Character; It’s a Lack of Cash“ (Chudoba není nedostatek charakteru, ale nedostatek peněz) vybral kurátor Tedu Chris Anderson mezi deset nejlepších přednášek roku 2017. V lednu 2019 se Bregman zúčastnil panelové debaty na Světovém ekonomickém fóru v Davosu, kde kritizoval, že se akce zaměřuje spíše na filantropii než na daňové úniky a potřebu spravedlivého zdanění. V roce 2024 spoluzaložil neziskovou organizaci The School for Moral Ambition, která pomáhá lidem najít smysluplnou a společensky prospěšnou kariéru. Jeho nejnovější kniha Morální ambice vyšla anglicky v dubnu 2025.
