Proč vyhledávání pomocí umělé inteligence od Googlu už nemá nic společného s internetovým vyhledáváním v pravém slova smyslu.
Na letošní konferenci vývojářů společnosti Google, která se konala v polovině května, oznámila vedoucí oddělení vyhledávání Liz Reidová významnou novinku. Od nynějška platí pro vyhledávač zásada „AI first“. Odpovědi generované umělou inteligencí mají přednost a známý seznam odkazů se nachází níže, téměř jako by šlo o dodatek. Obrovská obrazovka za Reidovou nemohla být jasnější. Černé na bílém tam stálo: „Vyhledávání Google je vyhledávání pomocí umělé inteligence.“ Tato věta však nedává smysl. Generativní umělá inteligence totiž s vyhledáváním nemá nic společného.
Systémy umělé inteligence v současné době vycházejí z algoritmu zvaného Transformer. Úkolem Transformeru je odhadnout, jaká by mohla být další část slova ve větě, a vygenerovat odpovídající sekvence písmen. Není třeba mít velké odborné znalosti, aby bylo zřejmé, že se tento postup zásadně liší od hledání něčeho konkrétního: prohledávání historie chatu, abychom našli místo, kde kolega uvedl termíny své dovolené, není totéž jako napsat novou zprávu.
V souladu s tím se také vyhledávací algoritmus liší od generovacího algoritmu. První z nich má za cíl najít informace, které obsahují pojmy z vyhledávacího dotazu, a vygenerovat zdroje. Druhý, tedy umělá inteligence, vytvoří řetězec znaků, který by měl logicky navazovat na dotaz uživatele. Odpověď samozřejmě může obsahovat požadované informace. Jenže to, zda se jedná o informace nebo halucinace, zůstává nejasné. Je známo, že střevíček s vysokým podpatkem lze také použít jako kladivo. Žádný obchod s nářadím však ze sortimentu nevyřadí kladiva aby je nahradil obuví. Proč se tedy Googlu daří nás přesvědčit, že umělá inteligence je lepším vyhledávacím nástrojem?
Umělá inteligence už jednou vyhledávání zabila
Google své rozhodnutí ospravedlnil tím, že výrazně vzrostl počet přístupů k AI režimu. Lidé prý milují souhrny generované umělou inteligencí a Google pouze reaguje na poptávku. Tuto situaci však lze vyložit i jinak. Tradiční vyhledávání na webu se zhoršilo natolik, že uživatelé nyní, ať už chtějí nebo ne, skončí v AI režimu. Toto zhoršení však nenastalo samo od sebe. Na jedné straně je důsledkem snahy zpeněžit vyhledávání a propojit ho s reklamou, takže na prvních místech se objevují platící zákazníci, a ne nejlepší výsledky. Na druhé straně je to však samotná AI, která klasické vyhledávání zhoršila.
Z plynulosti „surfování“ toho už moc nezbylo. Každých pár stránek musí uživatelé řešit captcha, jejíž postupy jsou čím dál složitější. Důvodem je to, že webové stránky jsou dnes zaplaveny boty využívajícími umělou inteligenci. Společnost Cloudflare provozuje panel, který v reálném čase zobrazuje internetový provoz. Podle tohoto panelu nyní výrazně více než polovina přístupů k webovému obsahu pochází od botů – právě těch botů, které se potulují po síti, aby přispěly k syntéze umělé inteligence pro vyhledávač Google. Pro provozovatele webových stránek je vyřizování všech těchto požadavků nákladné, a proto zavádějí omezení. Výsledkem je frustrace skutečných uživatelů, kteří musí znovu a znovu dokazovat, že jsou lidé. Najednou je tedy shrnutí vytvořené umělou inteligencí pohodlnější. Bez něj by však k takové nepohodě vůbec nedošlo.
K tomu se přidává samotný výstup umělé inteligence. Podle nejnovějších odhadů je polovina nového obsahu na webu alespoň částečně generována umělou inteligencí. To znamená, že mnoho „výsledků“ vyhledávání vede rovněž k bezcennému braku vygenerovanému umělou inteligencí. Proč by tedy člověk měl vůbec ještě klikat na nějaké odkazy, místo aby se spokojil s tím, co Google zobrazí jako první?
Krize interpretace
Změna vyhledávacích návyků má dramatické důsledky pro náš vztah k informacím. Již v roce 2016, po prvním volebním vítězství Donalda Trumpa, byl termín „post-truth“ V Německu vyhlášen slovem roku. Tehdy šlo o to zachytit trend, kdy se veřejné mínění řídilo spíše prchavými emocemi než fakty. Dalo by se předpokládat, že s halucinacemi umělé inteligence se odklon od nároků na pravdivost ještě více prohloubí. Problém je však ještě daleko větší.
Abychom problém pochopili, potřebujeme špetku znalostí z lingvistiky. V době jazykových modelů (LLM) se bez ní těžko obejdeme. V lingvistice se pod pojmem „pravda“ nerozumí nezvratně hluboký vhled, ale výsledek logické operace zvané interpretace. „Interpretace“ je zde odborný termín pro ověření, zda věta souvisí se stavem věcí v nějakém světě. A skutečně stačí „nějaký“ svět: lingvistice příliš nezáleží na světě reálném, svou interpretaci může provádět i ve světě románu, ve snu nebo chimérách konspirační teorie.
Co je to „interpretace“?
Interpretace je proces, kterým jsou symbolům, výrazům nebo výrokům přiřazovány významy. Ve formální logice je jazyk sám o sobě pouze souborem pravidel pro skládání symbolů (syntax) a žádný význam neobsahuje. Teprve interpretace mu dává sémantický obsah tím, že jednotlivým symbolům přiřazuje konkrétní objekty, vlastnosti a vztahy. Tím propojuje abstraktní formální systém s určitou oblastí reality nebo myšlenkovou strukturou a umožňuje rozhodovat o pravdivosti či nepravdivosti jednotlivých výroků.
(PQ)
To může na první pohled znít postfakticky, ale není tomu tak. Lingvistický pojem pravdy odráží skutečnost, že někdy hovoříme o světech, které nejsou našimi vlastními. Umožňuje nám také pochopit, jak nás vědecký pokrok přenesl ze světa, v němž byly velryby považovány za ryby, do světa švédského přírodovědce Carla von Linného, v němž jsou savci. Lingvistická pravda je relativní, tedy závislá, a to na tom, na čem skutečně záleží: na interpretační funkci. Na interpretaci totiž závisí zásadní rozdíl: mezi pouhým tvrzením, že něco je pravda, a tím, že si to ověříme. Právě interpretace nám umožňuje posoudit, zda je určitý výrok v rámci daného referenčního rámce pravdivý.
Bez věty neexistuje žádná pravda
Interpretace, jak již bylo zmíněno, vyžaduje dvě složky: tvrzení, které má být ověřeno, a nějaký svět jako měřítko. Co má tento svět společného s hypertextovými odkazy? Docela hodně. Internet je zásobárnou informací a obsahuje také množství primárních zdrojů, například situace, ve kterých někdo něco řekl nebo udělal. Zprávu o tom, že Liz Reidová chce zrušit vyhledávací funkci, lze opatřit odkazem na přesný čas jejího výroku. To ještě nemusí definitivně rozhodnout o tom, co se ve skutečném světě skutečně stalo. Náš jazykový mozek však dokáže provést propojení a zjistit, co Reidová ve skutečnosti řekla, alespoň na základě daného videa. Kouzlo internetu spočívá mimo jiné v tom, že otevírá nespočet stop takových propojení, místo aby je omezovalo na několik málo vybraných výjimek.
Druhou složkou interpretace je samotný výrok. Musí existovat něco, co může být pravdivé. Tam, kde není věta, není ani pravda. I proto nový způsob vyhledávání od Googlu vzbuzuje pozornost. Nový vyhledávací panel „ti pomáhá formulovat tvé otázky … Nabízí nuance, které by tě možná ani nenapadly“. To znamená: Google nám už nenabízí jen odpověď na naši otázku, ale rovnou nám nabízí i samotnou otázku.
Internet bez hypertextových odkazů je internetem bez světa. A skutečné vyhledávání nespočívá v automatickém doplňování textu. Pokud už tento rozdíl nevnímáme, nacházíme se mnohem dále od pravdy než v postfaktickém světě. Nacházíme se v postinterpretativním světě.
Eva von Redecker je německá filosofka a představitelka ekofeministického myšlení. Ve své práci propojuje politickou filosofii, kritiku kapitalismu, ekologii a otázky technologií. Je autorkou několika knih a spolu s počítačovou lingvistkou Aurélií Herbelotovou píše pro týdeník WOZ cyklus Maschinensturm KI, v němž analyzuje propojení politické ekonomie, umělé inteligence a futuristických vizí technologického průmyslu. V hamburském Schauspielhausu rovněž spolumoderuje diskusní cyklus Strojovna budoucnosti.
Aurélie Herbelotová je počítačová lingvistka a výzkumnice zabývající se zpracováním přirozeného jazyka a umělou inteligencí. Ve své práci propojuje technický výzkum s filosofickými a společenskými otázkami vývoje AI. Společně s filosofkou Evou von Redecker připravuje pro týdeník WOZ sérii Maschinensturm KI, zaměřenou na kritickou analýzu technologického průmyslu a jeho politických vizí. Obě autorky zároveň vedou v hamburském Schauspielhausu diskusní cyklus Strojovna budoucnosti, věnovaný budoucnosti technologií a společnosti.
