Před dvěma lety vydala společnost OpenAI veřejnou beta verzi nástroje DALL-E 2, kterým jsme ze dne na den vstoupili do nové technologické éry. DALL-E, vycvičený na základě obrovského množství dat, produkoval znepokojivě dobré, rozkošné a často nečekané výstupy. Twitter zaplnily obrázky odvozené z podnětů, jako je detailní fotografie čištění zubů zubním kartáčkem pokrytým sýrem nacho. Najednou se zdálo, že stroje mohou v reakci na jednoduché příkazy, tzv. prompty, vytvořit téměř cokoli. Komentář Charlie Warzela pro The Atlantic.
Začátek příběhu pravděpodobně znáte. O pár měsíců později se objevil ChatGPT a okamžitě ho začaly používat miliony lidí. Studentské eseje byly prohlášeny za mrtvé, Web 3.0 podnikatelé málem dostali infarkt, jak se horečně snažili převést své firmy do éry umělé inteligence (UI), a technologický průmysl zachvátilo šílenství. Revoluce generativní umělé inteligence propukla naplno.
Kam nás to dostalo? Přestože nadšenci tuto technologii horlivě využívají ke zvýšení produktivity a automatizaci práce, nelze přehlédnout ani její nevýhody. Sociální sítě, jako je Facebook, zaplavily bizarní obrázky generované umělou inteligencí; internetové vyhledávače tápou ve snaze indexovat internet zaplavený narychlo sestavenými články psanými za pomoci chatbotů. Generativní umělá inteligence, jak už víme s jistotou, byla vycvičena bez povolení na médiích chráněných autorskými právy, což je o to více zarážející, že právě ona soupeří s kreativci o pracovní místa a online pozornost. Odpor proti společnostem zabývajících se umělou inteligencí, které shromažďují data pro trénink na internetu, masivně zesílil.
Stáváme se kvůli umělé inteligenci přebytečnými?
Přesto tyto společnosti, povzbuzené úspěchem svých produktů a investičním kapitálem, tyto problémy odsunuly stranou a bez obav přijaly postoj zjevného osudu („manifest destiny attitude“, další kontext viz zde; pozn. PQ) vůči svým technologiím. Některé z těchto firem se bez okolků snaží přepsat pravidla společnosti tím, že dělají vše pro to, aby vytvořily superinteligenci podobnou Bohu (známou také jako obecná umělá inteligence, AGI). Jiné se zdají mít větší zájem na využití generativní umělé inteligence k vytvoření nástrojů, které bez větších nebo žádných citací využívají tvůrčí práci druhých. V posledních měsících vedoucí představitelé v odvětví umělé inteligence bezostyšně vyjadřují paternalistický postoj k tomu, jak bude vypadat budoucnost – včetně toho, kdo vyhraje (ti, kdo přijmou jejich technologie) a kdo zůstane pozadu (ti, kdo je nepřijmou). Neptají se nás, ale oznamují nám to. Jak nedávno poznamenala novinářka Joss Fongová: „V Kalifornii dochází ke krizi troufalosti“.
V této souvislosti je třeba se vypořádat s věcnými obavami. Je vskutku troufalé masivně ohrozit svůj závazek nulových emisí a vzdát se čistého klimatu ve prospěch rozvoje technologie, která lidi nabádá, aby jedli kameny. Nicméně podle své vlastní poslední zprávy o životním prostředí se zdá, že právě to Google udělal. (V e-mailovém prohlášení mluvčí Googlu Corina Standifordová uvedla, že společnost zůstává „oddaná cílům udržitelnosti, které jsme si stanovili“, včetně dosažení nulových čistých emisí do roku 2030. Podle zprávy vzrostly emise Googlu v roce 2023 o 13 %, z velké části kvůli energetickým nárokům generativní umělé inteligence.) A je jistě troufalé, že společnosti, jako je Perplexity, využívají ke sběru informací nástroje třetích stran, přičemž ignorují online protokoly, bránící tomu, aby byl obsah webových stránek stahován a jejich obsah zcizen.
Rétoriku vedoucích představitelů UI vnímám jako obzvlášť opovážlivou. Tento měsíc jsem mluvil s generálním ředitelem společnosti OpenAI Samem Altmanem a generální ředitelkou společnosti Thrive Global Ariannou Huffingtonovou poté, co oznámili svůj záměr vytvořit zdravotního kouče s umělou inteligencí. Dvojice výslovně přirovnala svůj neexistující produkt k New Dealu (česky Nový úděl – série hospodářských a sociálních opatření, která byly v letech 1933-1938 zavedena za vlády amerického prezidenta Franklina Delano Roosevelta v reakci na velkou hospodářskou krizi; pozn. PQ). Naznačili, že jejich produkt – tak teoretický, že mi ani nedokázali říct, zda to bude aplikace, nebo ne – by se mohl rychle stát součástí kritické infrastruktury systému zdravotní péče. Tato troufalost se však netýká jen velkolepých tiskových prohlášení. V rozhovoru na Dartmouth College minulý měsíc technologická ředitelka společnosti OpenAI Mira Muratiová hovořila o dopadech umělé inteligence na pracovní sílu a uvedla, že v důsledku generativní umělé inteligence „možná zaniknou některá kreativní pracovní místa, která by ale v prvé řadě možná vůbec neměla existovat“. Později dodala, že „striktně repetitivní“ pracovní místa pravděpodobně také skončí na popravišti. Její upřímnost se zdá být příznačná pro samotné poslání OpenAI, které se snaží rovnou vyvinout inteligenci schopnou být „rychlonabíječkou globální ekonomiky“. Její slova naznačují, že pracovní místa, která lze nahradit, nejsou jen hodna toho, aby existovala, neměla dokonce ani nikdy vzniknout. V dlouhodobém měřítku technologických změn to může být pravda – lidská obsluha výtahů, semaforů a telefonů nakonec ustoupila automatizaci – ale to neznamená, že katastrofická ztráta pracovních míst v několika odvětvích současně je ekonomicky nebo morálně přijatelná.
Plán superbohatých: útěk před zkázou, kterou sami způsobili
Altman v této souvislosti uvedl, že generativní umělá inteligence „vytvoří zcela nová pracovní místa“. Totéž tvrdí i další podporovatelé technologií. Když se však pozorně zaposloucháme, zjistíme, že jejich jazyk je chladný a zneklidňující a nabízí pohled na to, kterých druhů práce si tito lidé cení – a tedy i druhů, kterých si necení. Altman hovořil o tom, že obecná umělá inteligence možná nahradí práci „průměrného člověka“, což vyvolává dojem, že ti nejméně výjimeční z nás smí být obětováni ve jménu pokroku.
Dokonce i někteří lidé z oboru vyjádřili znepokojení nad těmi, kteří jsou zodpovědní za budoucnost této technologie. Minulý měsíc Leopold Aschenbrenner, bývalý zaměstnanec OpenAI, zveřejnil 165stránkový seriál esejů, ve kterém varuje čtenáře před tím, co se v San Franciscu právě odehrává. „Jen málokdo má nejmenší tušení o tom, co se tu na něj chystá,“ napsal Aschenbrenner, který byl údajně letos propuštěn za únik informací o společnosti. Podle Aschenbrennera má on a „možná několik stovek lidí, většina z nich v San Franciscu a v laboratořích umělé inteligence, situační povědomí“ o tom, aby mohli předpovědět budoucnost, která bude poznamenána nástupem obecné umělé inteligence, geopolitickým bojem a radikálními kulturními a ekonomickými změnami.
Aschenbrennerův manifest je užitečným dokumentem, protože názorně ukazuje, jak architekti této technologie vidí sami sebe: malá skupina lidí, které spojuje jejich intelekt, dovednosti a osud, aby pomohli rozhodnout o podobě budoucnosti. Číst jeho pojednání však neznamená pociťovat FOMO, ale odcizení. Civilizační boj, který autor líčí, se jen málo podobá umělé inteligenci, kterou vidíme my ostatní. „Osud světa závisí na těchto lidech“, píše o kohortě ze Silicon Valley, která vytváří systémy umělé inteligence. To není výzva k akci nebo návrh na téma k diskuzi; je to suché konstatování, kdo tu rozhoduje.
Na rozdíl ode mne Aschenbrenner věří, že superinteligence přijde, a to brzy. Jeho pojednání obsahuje poměrně velkolepé spekulace o možnostech, které mají modely umělé inteligence od této chvíle k drastickému zlepšení. (Skeptici se proti tomuto hodnocení důrazně ohradili.) Jeho hlavní obavou však je, že příliš málo lidí má příliš velkou moc. „Nemyslím si, že tuto technologii může budovat jen malá klika“, odpověděl mi nedávno na otázku, proč pojednání napsal.
Nejnebezpečnější na umělé inteligenci je člověk
„Tím, že jsem se stal členem této skupiny, jsem cítil zodpovědnost říct lidem, co si tyto osoby myslí“, uvedl s odkazem na lídry společností zabývajících se umělou inteligencí, kteří věří, že jsou na dosah od dosažení obecné umělé inteligence. „A opět, mohou mít pravdu, nebo se mohou mýlit, ale lidé si zaslouží, aby to slyšeli.“ V našem rozhovoru jsem zjistil, že se naše názory nečekaně překrývají. Ať už věříte, že vysocí manažeři v oblasti umělé inteligence mají halucinace, nebo jsou skutečně na pokraji sestrojení superinteligence, musíme být znepokojeni tím, jak velkou mocí disponují.
Třída budovatelů s hlubokými ambicemi je součástí zdravé a progresivní společnosti. Velcí technologové jsou od přírody nadáni odvážným duchem, který posouvá hranice možného – a to může být pro lidstvo skutečně velmi přínosné. Nic z toho neznamená, že technologie jsou k ničemu: umělá inteligence má nepochybně transformační potenciál (například předpovídání skládání proteinů je skutečným objevem). Troufalost se však může rychle změnit v přítěž, když vizionáři ztratí kontakt s realitou nebo když je jejich pýcha dovede k přesvědčení, že mají právo vnucovat nám ostatním své hodnoty výměnou za sestrojení Boha.
Průmysl je takový, jaký je jeho produkt, a v roce 2024 taková prohlášení spolu s bezostyšnými činy, jsou skutečným stavem průmyslu umělé inteligence po dvou letech jeho nejnovější revoluce. Apokalyptické vize, hrozící povaha superinteligence a boj o budoucnost lidstva – všechny tyto narativy nejsou fakta, ale hypotézy, jakkoli vzrušující, děsivé nebo pravděpodobné.
Když se od toho všeho oprostíme a zaměříme se na to, jaké je skutečnost a co již bylo vysloveno, je zpráva jasná: tyto společnosti chtějí, abychom je nechali na pokoji a ony si mohly „v klidu škálovat“ (scale in peace), což je fráze, kterou SSI, nová společnost zabývající se umělou inteligencí, kterou spoluzaložil Ilja Sutskever, bývalý hlavní vědecký pracovník společnosti OpenAI, použila bez jakékoli stopy sebereflexe při oznamování svého poslání. („SSI“ je samozřejmě zkratka pro „bezpečnou superinteligenci“ – safe superintelligence.) K dosažení tohoto cíle chtějí ovládnout všechny tvůrčí zdroje – aby si následně porobili celý internet. Akcionáři to žádají. Máme věřit tomu, že tyto nástroje vytvoří bezpečně, budou je implementovat zodpovědně a podělí se o bohatství svých výtvorů. Máme věřit jejich hodnotám – pokud jde o hodnotnou práci a tvůrčí činnost, která by měla existovat – když přetvářejí svět k obrazu svému. Máme jim věřit, protože jsou chytří. Máme jim věřit, že dosáhnou globálního rozsahu s technologií, o které říkají, že bude jednou z nejpřevratnějších v celé historii lidstva. Protože vidí budoucnost a protože je historie přivedla k tomuto společenskému zlomovému bodu, kde se snoubí ambice a talent s dostatečnou výpočetní silou, aby stvořili Boha. Upírat jim toto právo je bezohledné, ale také marné.
Psycholog vysvětluje, jak algoritmy a umělá inteligence mění naše životy
Je tedy možné, že hlavním vývozním artiklem generativní umělé inteligence není záplava obrázků, hlasové klony nebo lorem ipsum blábolení chatbotů, ale nezasloužená, přivlastněná troufalost. Další příklad toho, že umělá inteligence vytváří halucinace – ne u strojů, ale u lidí, kteří je vytvářejí.
