Sam Altman, generální ředitel společnosti OpenAI, již několik týdnů cestuje po světě a setkává se s představiteli vlád. Od chvíle, kdy jeho společnost zveřejnila ChatGPT, má co vysvětlovat.
Samovi Altmanovi se nedaří opustit jeviště. Obklopují ho fotografové, míří na něj rozhlasové mikrofony, ministři, podnikatelky a studenti si s ním dělají selfie a mediálně známý investor, který se už předtím protlačil na skupinovou fotografii, se nyní chce také představit. Více než tisíc lidí čekalo hodinu v zaplněném Audimaxu Technické univerzity v Mnichově, aby si vyslechli Altmanův projev. Přišel pozdě z neplánované schůzky s Olafem Scholzem z Berlína.
Podle jeho mluvčí trvá rozruch už několik týdnů. Osmatřicetiletý Sam Altman je totiž CEO společnosti OpenAI, která se specializuje na nástroje umělé inteligence. Loni v zimě uvedla na trh software ChatGPT – nejúspěšnější produkt v historii počítačů. Nyní je Altman na světovém turné, navštěvuje hlavy vlád, hovoří se studenty a technologickými experty.
Nakonec se mu s pomocí bodyguardů podaří zachránit bočním východem. Vydává se katakombami a po zadním schodišti univerzity do seminární místnosti na rozhovor se listem Zeit Online. Altman si bere láhev vody, sedá si, přitáhne si koleno a je velmi soustředěný.
Zeit Online: Takhle se musí na cestách cítit Liam Gallagher.
Sam Altman: Bohužel nevím, kdo to je.
Zeit: Rocková hvězda.
Altman: Aha.
Zeit: Už jste si zvykl být rockovou hvězdou?
Altman: Myslím, že si zvyknu na cokoli. Cokoli, ať už dobré nebo špatné, se může stát novou normalitou.
Zeit: Takovou novou normalitou je i to, že si nyní mnoho lidí navzájem vypráví o svých vzrušujících zkušenostech s ChatGPT. Jaký je váš nejlepší zážitek?
Altman: Může to být top tři?
Zeit: Prosím.
Altman: OK, když jsem poprvé viděl, jak ChatGPT debugguje kód. To bylo: wow! Dřív mi to zabralo tolik času a práce, než jsem to udělal sám. A teď prostě zadám kód a ono mi to řekne: tady je chyba. To mi přišlo neuvěřitelné. Druhým skvělým zážitkem je pozorovat ostatní, když ChatGPT používají poprvé. To mě pořád neuvěřitelně nakopává, je to hodně velký zážitek. A konečně psaní. Onehdy jsem musel napsat příspěvek a byl jsem ve stresu. Tak jsem požádal ChatGPT o pomoc a ono mi dalo skvělou první větu. Od ní jsem se odpíchl a napsal zbytek.
„Je nebezpečné systémy umělé inteligence připodobňovat lidem.“
Sam Altman, CEO OpenAI
Zeit: Jak intimní jsou tyto „prompty“, které používáme ke komunikaci s chatboty využívajícími umělou inteligencí?
Altman: Na to se mě ještě nikdo nezeptal. Každopádně bych se s nikým nepodělil o svou historii promptů. To mi připadá velmi osobní.
Zeit: Měla by se na ně vztahovat zvláštní pravidla ochrany, jako například na rozhovory s psychiatrem nebo právníkem?
Altman: O tom jsem ještě nepřemýšlel.
Zeit: Zamyslete se nad tím.
Altman: To je opravdu zajímavá otázka. Pocit mi říká, že je to něco mezi. Nejsou to jen běžná data, na které se vztahuje běžná ochrana osobních údajů, ale není to ani totéž jako rozhovor s právníkem. Potřebujeme novou kategorii. A potřebujeme upravit, jaké výjimky platí pro mimořádné situace, například když lidé řeknou, že chtějí spáchat sebevraždu.
Psycholog vysvětluje, jak algoritmy a umělá inteligence mění naše životy
Zeit: Rád srovnáváte právní regulaci umělé inteligence s regulací jaderných zbraní. OpenAI jste dokonce přirovnal k projektu Manhattan, který měl za úkol sestrojení první atomové bomby a sebe k jeho vedoucímu Robertu Oppenheimerovi, který má navíc narozeniny ve stejný den, jako vy. Opravdu se chcete zapsat do historie jako člověk, který odpálil první jadernou bombu? Nebyl byste raději Enricem Fermim, spoluzakladatelem civilní jaderné energetiky?
Altman: K Oppenheimerovi mě přirovnávali ostatní. Chápu, proč to lidé dělají, ale já se tak necítím. A rozhodně také nejsem geniální vědec, takže rozhodně nejsem Fermi. Jsem CEO.
Zeit: Oppenheimer zorganizoval největší technický projekt své doby. Stejně jako vy dnes.
Altman: Ano.
Zeit: Abyste poukázal na nebezpečí umělé inteligence, používáte jaderné metafory často. Proč jste tak spěchal se zveřejněním nedokončené technologie s takovou výbušnou silou?
Altman: Nespěchali jsme s tím. Myslím, že ostatní teď spěchají s jejím napodobením. Poté, co byla dokončena, pracovali jsme na ní dalších osm měsíců, aby byla bezpečná. A předtím jsme roky vymýšleli, jak to udělat. A dnes, doufám, že se mnou budete souhlasit, se tato technologie chová docela dobře.
Olaf Scholz? „Je skvělý!“
Zeit: Ve srovnání s konkurencí jste se nepochybně posunuli vpřed.
Altman: Naší misí je vyvinout obecnou umělou inteligenci, která bude bezpečná a přispěje k blahobytu co největšího počtu lidí. Důležitou součástí je, že lidé potřebují čas, aby si na tuto technologii zvykli a pochopili, co tu na ně přichází. Tento čas potřebují i politici, kteří regulují, potřebuje ho byznys, potřebujeme ho všichni. Nemyslím si, že by bylo dobré držet to pod pokličkou ještě několik let a pak zveřejnit GPT-6.
Obecná umělá inteligence
Obecná umělá inteligence – anglicky Artificial general intelligence (AGI) – označuje systém, který se v řešení intelektuálních úloh vyrovná člověku. Společnost OpenAI byla založena v roce 2015 jako první společnost s oficiálním cílem vyvinout AKI. Tento cíl ale ještě není zdaleka dosažen. Verze softwaru GPT se mu však mají stále více přibližovat, ta současná se nazývá GPT-4. GPT je zkratka pro „Generative Pretrained Transformer“, což je speciální systém umělé inteligence, který byl „předtrénován“ obrovským množstvím dat, aby byl schopen generovat smysluplný text. ChatGPT je speciální aplikace tohoto modelu, která dokáže komunikovat v dialogu a řešit již překvapivě složité úkoly.
Zeit: Rozhodnutí vydat ChatGPT ještě v době poměrně syrové verze 3.5 ale bylo poměrně spontánní, nebo?
Altman: Relativně.
Zeit: Cítíte se s tím zpětně ještě dobře?
Altman: Ano. Skutečně si myslím, že kdybychom ChatGPT zavedli rovnou s GPT-4, bylo by to zemětřesení. Myslím, že GPT-3.5 byl užitečný mezikrok. Užitečnější, než jsme si v té době uvědomovali.
Zeit: Vypovídal jste před americkým Kongresem a nyní cestujete po světě, abyste se setkal s hlavami vlád, dnes také s německým kancléřem Olafem Scholzem…
Altman: …Je skvělý! Byl jsem opravdu ohromen.
Nejnebezpečnější na umělé inteligenci je člověk
Zeit: Politici se od vás jistě hodně učí. Ale co se od politiků učíte vy?
Altman: V posledních třech dnech jsem se setkal s pěti šéfy evropských vlád. Každý z nich si o umělé inteligenci už hodně přemýšlel. Že musíme správně nastavit jak krátkodobou, tak dlouhodobou regulaci. Že bychom přitom neměli zničit výhody nadměrnou regulací. Čekal jsem, že to bude úplně jinak. Nenapadlo mě, že se lidé už tolik soustředí na obecnou umělou inteligenci.
Zeit: Jedním z rizik, kterých se údajně obáváte i vy, jsou případné škody pro demokracii. Mohou boti vybavení umělou inteligencí skutečně ovlivnit základní rysy politiky?
Altman: Už teď se cítím ovlivňován svým Twitterem a tím, co mi zobrazuje jeho algoritmus.
„Společnost chce klimatické změny zastavit. Ale existuje ekonomická síla, která působí opačným směrem.“
Sam Altman, CEO OpenAI
Zeit: Ale lži a nenávist se tam dají zveřejnit i bez pomoci umělého jazykového modelu.
Altman: Jistě. Samotné platformy jsou důležitější, protože na nich se šíří dezinformace. Ale lidé do nich zapojí jazykové modely a vy pak nebudete vědět, jestli komunikujete online se skutečným člověkem, nebo ne. Myslím, že je tam určitě potřeba opatrnosti. Všichni chtějí vždycky mluvit o nevýhodách a má to smysl. Ale výhody budou obrovské.
Zeit: Dobře, tak si promluvme o výhodách.
Altman: Pokud je pravda, že individuální výuka s osobním učitelem přináší výrazně lepší výsledky než tradiční frontální výuka a dříve jsme si ji pro všechny studenty nemohli dovolit – nyní můžeme! Každý může mít svého učitele a dosahovat lepších výsledků. To je neuvěřitelné.
Zeit: Americká výuková platforma Chegg již zaznamenává propad ve využívání, podobně jako platforma pro pomoc s programováním StackOverflow. Jsou to první známky takové změny?
Altman: Mnozí budou umělou inteligenci vinit z mnoha problémů. Něco z toho bude pravda, něco ne. Ale do jisté míry je to přesně to, co se má stát, nebo ne? Získáme lepší nástroje a ty nahradí staré, méně kvalitní nástroje. Tak se život stává lepším.
Zeit: Jistý uživatel na platformě Reddit píše, že se díky umělé inteligenci stal mnohem efektivnějším herním designérem, ale už ho to nebaví. Ojedinělý případ?
Čtyřdenní pracovní týden? Ukažte vašemu zaměstnavateli toto.
Altman: Toho jsem se obával a někteří lidé to budou vnímat stejně. Osobně se mi s ChatGPT pracuje dobře a totéž slyším od mnoha dalších. Tu část práce, která nás baví, můžeme udělat sami a zbytek delegovat.
Umělá inteligence by mohla vyřešit klimatickou krizi
Zeit: Žáci poměrně hodně delegují na ChatGPT, studenti si nechávají psát seminární práce. Co to znamená pro vzdělávání?
Altman: Je velmi důležité naučit se psát. Psaní je pro mě jako mít externí mozek, který mi pomáhá něco promyslet. Okamžik, kdy se psaní vzdáme, bude opravdu smutný. Doufám, že to nikdy nepřijde, a myslím, že ani nepřijde. Ale učení se psát se bude muset změnit. Doufám, že najdeme způsob, jak to lidi dál učit, i když teď už jinak, propracovaněji.
Zeit: Jistě jste ještě nezaznamenal, že GPT-4 složil bavorskou maturitu, která je v Německu vysoce ceněna?
Altman: Ale ano, skutečně to vím. V jedné ze svých dalších společností, Worldcoin, spolupracuji hodně s Bavorskem.
Jednou – a to si uvědomíme až zpětně – vytvoříme model, který bude nebezpečný.
Sam Altman, CEO OpenAI
Zeit: To je jedna z velkých debat, které ChatGPT okamžitě vyvolal: jak máme změnit školní výuku, jak máme změnit zkoušky?
Altman: Jsme ve fázi, kdy učitelé hodně experimentují. Nemám žádný kouzelný recept na začlenění ChatGPT do výuky. Učitelé a studenti na to právě přicházejí společně.
Zeit: Očekáváte, že umělá inteligence vyřeší velké problémy lidstva, jako je například klimatická krize. Proč jste si tím tak jistý? Není to spíše vina lidí, že se s těmito problémy nedokážeme vypořádat?
Altman: Vždycky je to obojí. Aby lidstvo pokročilo, potřebuje společnost, instituce, výdobytky osvěty. A potřebuje vědecký a technický pokrok. Společnost vlastně chce klimatické změny zastavit. Ale existuje ekonomická síla, která působí opačným směrem. Pokud nám technologie poskytne zdroje energie, který budou levnější než zdroje na bázi uhlíku, lidé na ně rádi přejdou.
Generace alfa nám ukazuje, jak zastaralé jsou naše učební koncepty
Zeit: Proč k tomu potřebujeme umělou inteligenci?
Altman: No, v každém případě jsme tyto problémy sami zatím nevyřešili.
Zeit: Bude jednoho dne umělá inteligence tak výkonná, aby nám mohla pomoci? Mnoho předních vědců tvrdí, že bude obtížné systémy výrazně vylepšit, protože jednoduše není k dispozici více tréninkových dat.
Altman: Při vší úctě si myslím, že se tito vědci naprosto mýlí. Zaprvé, vyvíjíme stále účinnější algoritmy, abychom se stejnými daty dosáhli lepších výsledků. Za druhé, dat je rozhodně více. Dokonce i po GPT-3 lidé říkali, že tato myšlenka je mrtvá, protože jsme použili celý internet. A pak jsme našli ještě více dat, mnohem více.
Zeit: Odkud všechna ta data pocházejí?
Altman: Licence na ně získáváme z mnoha různých zdrojů. Kupujeme knihy, existují volně dostupná data, nakoupili jsme spoustu obrazového materiálu od společností jako Shutterstock, abychom mohli trénovat. A když se modely dostatečně zdokonalí, mohou vytvářet syntetická data, která jsou stejně dobrá jako tréninková data. Takže vám nikdy nedojdou.
Zeit: Nejlepší systém umělé inteligence pro hru Go, AlphaGo Zero, zvládl tuto složitou deskovou hru mnohem lépe než všichni jeho předchůdci, kteří byli dosud trénováni na základě historických dat. Strategie se naučil sám tím, že prostě znovu a znovu soutěžil sám se sebou. Na začátku neznal o moc víc než pravidla hry. Naučí se jednou tímto způsobem i vaše modely?
Altman: Ano, to je budoucnost. Existují dva důležité koncepty, z nichž jedním je myšlenka AlphaGo-Zero. Systém, který se učí nové věci sám od sebe. Druhým je myšlenka GPT, což je systém, který se učí z dat. Obě se osvědčily. Jejich kombinace bude velmi napínavá.
Ochrana klimatu je jednou z největších podnikatelských příležitostí. Možná větší než internet.
Zeit: Na zdokonalení jazykového modelu ChatGPT se také podílelo mnoho lidí. Tento přístup se nazývá „reinforcement learning with human feedback„, zkráceně RLHF. Systém dostává úkoly a lidé hodnotí, zda jsou odpovědi dobré, nebo špatné, z čehož se umělá inteligence učí. Byl to klíč k celosvětovému úspěchu ChatGPT?
Altman: Byly tři. Prvním klíčem byl algoritmus, který se dokáže nezávisle učit z dat. Druhým bylo, že jsme přišli na to, jak systém škálovat. A třetím byla RLHF. Díky tomu se stal skutečně použitelným.
Zeit: Je RLHF něco jako výchova dítěte?
Altman: Je nebezpečné systémy umělé inteligence připodobňovat lidem. Ale tomuto přirovnání rozumím, trochu to výchovu připomíná.
Zeit: Je taková strojová výchova také klíčem k takzvanému alignmentu (angl. nastavení, vyrovnání, sladění; pozn. PQ), tedy k tomu, aby obecná umělá inteligence pracovala ve prospěch lidstva a neškodila mu, i když třeba omylem?
Altman: Ne, pro alignment musíme vyvíjet nové věci. Děláme v této oblasti spoustu výzkumu. To je jedna z oblastí, která mě zajímá nejvíce.
Evropu milujeme!
Zeit: Naznačil jste, že byste se mohl stáhnout z Evropy, pokud bude přijat zákon o umělé inteligenci, který by měl umělou inteligenci regulovat v současné plánované podobě.
Altman: Vlastně jsem řekl opak. Řekl jsem, že se to pokusíme dodržet. Ale pokud zákon nemůžeme dodržet, nebudeme ho porušovat.
Zeit: A otočit se k Evropě zády. Co přesně vám na návrhu vadí?
Altman: Předpokládám, že budeme pokračovat v konstruktivních diskusích a budeme schopni zákon dodržovat. Ale pokud by například bylo požadováno, aby se systémy musely chovat zcela konkrétním způsobem ve 100 % všech případů, bylo by to obtížně proveditelné, protože zde hovoříme o statistických procesech. Mně jde o to, aby pravidla byla definována tak, aby je systémy vůbec byly schopny technicky dodržet. Nemáme v úmyslu se z Evropy stáhnout, Evropu milujeme!
Richard Baldwin: „Každý průměrný člověk bude daleko chytřejší“
Zeit: Jedním ze sporných bodů zákona o umělé inteligenci je otázka, kdo je za ni zodpovědný. Například, pokud společnost vyvine aplikaci založenou na GPT, která se ukáže jako diskriminační. Je na vině základní model GPT – nebo ten, kdo jej do své aplikace zabudoval?
Altman: O tom je třeba ještě diskutovat.
Zeit: Myslíte si, že je politika na správné cestě?
Altman: Jeden politik nás přirovnal k výrobci automobilů. Auto musí být samozřejmě bezpečné a důkladně otestované. Pokud se airbagy při nehodě nenafouknou, je to chyba výrobce. Ale když někdo jede opilý po dálnici 250 a narazí do zdi, není to chyba výrobce, ale řidiče.
Zeit: Je vůbec dobrý nápad dát vládám kontrolu nad umělou inteligencí? Co když nová vláda, řekněme v USA, bude najednou požadovat, aby AI zaujala určitý politický postoj?
Altman: Je správné, že pravidla určují vlády. Demokracie je nejhorší systém, kromě všech ostatních. Nějaká mezinárodní regulace by proto byla dobrá. V každém případě nemůže být alternativou, že pravidla bude vytvářet OpenAI.
„Je správné, že pravidla určují vlády.“
Sam Altman, CEO OpenAI
Zeit: Ale nyní si určujete pravidla sami, nebo?
Altman: Ano, ale v současné době financujeme řadu projektů, které se snaží tato rozhodnutí demokratizovat, a sami tyto myšlenky rozvíjíme.
Zeit: Jak vypadají?
Altman: Zajímavým nápadem je, že se ChatGPT ptá uživatelů, co si myslí o určitých rozhodnutích, jaká by měla být pravidla v tom či onom případě. Bot pak poskytne další informace, nabídne jiné názory, ale pokud chcete zůstat u svého názoru, je to v pořádku. Takto shromažďujeme názory stovek milionů lidí z celého světa. S pomocí RLHF můžeme model s těmito názory sladit. Myslím, že je to skvělý nápad.
Zeit: Proč své modely nezveřejníte jako open source? Pak by měl každý možnost přesně si ověřit, jak umělé inteligence fungují.
Altman: Jednou – a to si uvědomíme až zpětně – vytvoříme model, který bude nebezpečný.
Zeit: Modely tedy nezveřejňujete, protože jsou příliš nebezpečné?
Altman: V určitém okamžiku bude jeden z nich nebezpečný. Tomu chceme dnes předejít.
Zeit: Na scéně umělé inteligence však existuje široké open source hnutí. Nebojíte se, že přinese do světa nebezpečí, které už nebudeme moci kontrolovat?
Altman: Se současnými možnostmi modelů se zatím nedělám starosti. Ale až budou modely výkonnější, pak si je dělat budu, to ano.
7 lekcí leadershipu, které se mohou muži naučit od žen
Zeit: Jaké konkrétně? Obáváte se absurdních katastrof, jaké popsal filozof Nick Bostrom ve slavném myšlenkovém experimentu s maximalizací výroby sponek. Firma zadá umělé inteligenci za úkol vyrobit co nejvíce sponek. Stroj si vyloží příkaz až příliš doslovně a vyhladí lidstvo, protože potřebuje všechny zdroje na kancelářské sponky.
Altman: (Směje se.) Ne, to není scénář, kterého se nejvíc obávám. Jde spíše o skutečně sofistikované dezinformace nebo kybernetické útoky a biologické zbraně, které je díky umělé inteligenci snazší vyrobit.
Zeit: Jak vlastně v budoucnu poznáme, zda v každodenním internetovém životě jednáme s člověkem, nebo se strojem? Pojďma vymyslet test Sama Altmana (v analogii na proslulý Turingův test; pozn. PQ). U jakých několika otázek si můžete být jisti, že na druhém konci je stroj?
Altman: Žádné mě nenapadají. Potřeboval bych hodně času, abych to zjistil. Obávám se, že žádný takový test neexistuje. Mimochodem, ještě zajímavější bude jiný test: jak poznáme, když systém jako GPT skutečně začne chápat svět?
Samuel Harris Altman je americký podnikatel, investor a programátor. Vyrůstal v St. Louis ve státě Missouri, v současné době žije v San Franciscu. Svůj první počítač dostal v osmi letech. V roce 2005 po ročním studiu informatiky na Stanfordově univerzitě studium přerušil, aniž by získal bakalářský titul. Je spoluzakladatelem společnosti Loopt a byl prezidentem Y Combinatoru a krátce také CEO společnosti Reddit. V roce 2020 opustil Sam Altman Y Combinator, aby se jako generální ředitel na plný úvazek věnoval OpenAI. Společnost na vývoj umělé inteligence OpenAI zpočátku financovali Altman, Greg Brockman, Elon Musk, Jessica Livingston, Peter Thiel, Microsoft, Amazon Web Services, Infosys a YC Research. Když OpenAI v roce 2015 zahájila činnost, získala 1 miliardu dolarů. Altman byl v roce 2023 časopisem Time označen za jednoho ze 100 nejvlivnějších lidí na světě, v roce 2008 časopisem Businessweek za jednoho z „nejlepších mladých podnikatelů v oblasti technologií“ a v roce 2015 časopisem Forbes za nejlepšího investora mladšího 30 let.
