Angela Müllerová patří v Evropě k nejvýznamnějším hlasům, které volají po regulaci umělé inteligence. V rozhovoru pro švýcarský deník Watson vysvětluje, co je k tomu zapotřebí, proč to trvá tak dlouho a proč je bezmoc špatným rádcem.
Watson.ch: Neustále poukazujete na obrovskou moc, kterou soustřeďují velké technologické firmy stojící za aplikacemi umělé inteligence. Proč je tato moc problematická?
Angela Müllerová: Google, Microsoft, Amazon, Meta a další jsou s velkým náskokem nejbohatšími firmami na světě. Nabízejí platformy sociálních médií, vyhledávače, nástroje umělé inteligence a cloudovou a softwarovou infrastrukturu, bez nichž se veřejná správa, školy, média, podniky i my jako jednotlivci již prakticky neobejdeme. Není to poprvé v historii, kdy jsme svědky toho, jak soukromé firmy hromadí obrovskou moc. Kombinace ekonomické, veřejné a politické moci je však jedinečná: tyto firmy mají nejen tržní sílu, ale také velký vliv na veřejné mínění. A to je děsivé, když si uvědomíme, jaké otevřeně protidemokratické ideologie se ozývají ze Silicon Valley.
Jak můžeme tuto koncentraci moci prolomit?
Pomocí demokratických prostředků můžeme v souladu s právním řádem stanovit podmínky, které musí společnosti zabývající se umělou inteligencí splnit předtím, než jejich produkty vstoupí na trh, a které musí splnit i ti, kdo umělou inteligenci využívají. Zároveň jsou zapotřebí opatření, která jdou nad rámec regulace. Musíme bezpodmínečně posílit výzkum v oblasti umělé inteligence, aby mohla vznikat veřejně financovaná řešení v této oblasti. Není totiž žádným přírodním zákonem, že aplikace umělé inteligence musí pocházet pouze od velkých technologických společností. A konečně je důležité podporovat žurnalistiku a posilovat demokratickou gramotnost obyvatelstva. Již nyní se nacházíme v informační krizi. Nesmíme dopustit, aby se z ní stala krize demokracie.
V jakých oblastech vidíte potřebu regulace?
Za prvé jsou zapotřebí spolehlivá bezpečnostní opatření, například pokud jde o demokratické formování názorů nebo také o prevenci jevů, jako jsou sexualizované deepfakes. Široká veřejnost stále častěji využívá k získávání informací chatboty s umělou inteligencí, ale i vyhledávače podporované umělou inteligencí. Výsledky vyhledávání generované umělou inteligencí však stále nejsou spolehlivým zdrojem informací. Právě ty ale potřebujeme, abychom si v demokracii mohli utvořit názor. Zadruhé je důležité, aby bylo možné platformy volat k odpovědnosti, pokud nedělají dost pro to, aby zabránily rizikům pro lidi a společnost, pro základní lidská práva a demokracii. Zatřetí potřebujeme mnohem lepší přístup k datům pro výzkum. Systémy umělé inteligence a algoritmy sociálních médií jsou černé skříňky. Naše veřejné debaty se stále častěji odehrávají na těchto soukromých platformách, ale nemáme přístup k jejich datům, abychom mohli zkoumat jejich vliv. To je obrovský problém.
Neexistuje žádný přírodní zákon, který by stanovoval, že umělá inteligence musí pocházet od velkých technologických firem.
Angela Müllerová
V únoru skončilo (ve Švýcarsku; pozn. PQ) veřejné projednávání návrhu spolkového zákona o regulaci platforem. Kritizovala jste Spolkovou radu za to, že si s regulací dává na čas. Proč to trvá tak dlouho?
Spolkový úřad pro komunikaci předložil již v roce 2022 zprávu, která tuto problematiku velmi dobře popsala. Poté se dlouho nic nedělo. V dubnu 2025 Spolková rada odložila plánovanou regulaci sociálních médií a vyhledávačů. Stalo se tak uprostřed celního sporu s USA, v němž americká administrativa dala jasně najevo: ruce pryč od regulace technologického sektoru. Myslím si, že tuto roli sehrála jak tato okolnost, tak i příslušná lobby – a při parlamentní debatě to nebude jiné. Byli jsme však velmi rádi, že Spolková rada na podzim roku 2025 konečně předložila návrh zákona.
Nejmladším členem Spolkové rady je 58letý Albert Rösti. Chybí Spolkové radě digitální kompetence?
Digitální gramotnost samozřejmě pomáhá. K tomu, abychom umělou inteligenci chápali, diskutovali o ní a regulovali ji, však není třeba mít doktorát z informatiky. Daří se nám regulovat i jiné složité oblasti, například farmaceutický průmysl. To je také jedním z mýtů šířených technologickou lobby, že pouze ona nám může vysvětlit, jak tuto technologii regulovat. To je podle mého názoru nebezpečné, protože žádná lobby nemá demokratickou legitimitu.
To je zastaralé ještě dříve, než zákon vůbec vstoupí v platnost.
Angela Müllerová
Požadujete, aby regulace platforem zahrnovala i oblast generativní umělé inteligence. Nemělo by to být upraveno samostatným zákonem, tak jako v EU, která přijala zákon o umělé inteligenci (AI Act)?
Podle návrhu Spolkové rady jsou platformy považovány pouze za zprostředkovatele obsahu. To je zastaralé ještě dříve, než zákon vůbec vstoupí v platnost. Kdo si cokoliv vygooglí, nedostane pouze seznam odkazů, ale přehled vygenerovaný umělou inteligencí. Na platformě X lze například pomocí integrovaného softwaru Grok generovat sexualizovaná deepfakes a šířit je přímo přes platformu. Nelze tedy nadále zastávat stanovisko, že platformy pouze zprostředkovávají obsah.
Jaké dopady umělé inteligence na společnost jsou již dnes viditelné?
Firmy, ale i státní instituce stále častěji využívají algoritmy k rozhodování o osudech lidí. Firmy je používají při náboru zaměstnanců, úřady v oblasti sociálních dávek nebo při rozhodování o azylu. I policie a orgány činné v trestním řízení již využívají umělou inteligenci – a to bez jakéhokoli právního základu. Jedná se o velmi citlivé oblasti, v nichž může použití těchto systémů vést k diskriminaci a porušování základních práv.
Máte pro to nějaké příklady?
Pokaždé, když nakupujete na fakturu, probíhá v pozadí kontrola bonity, při které systémy umělé inteligence vyhodnocují, zda jste solventní. V případě odsouzených pachatelů a pachatelek existují automatizované nástroje, které vypočítávají pravděpodobnost recidivy. Jiné algoritmy se používají k rozpoznávání radikalizačních tendencí nebo k předpovídání domácího násilí.
To na první pohled zní jako smysluplné využití umělé inteligence. V čem je tedy problém?
Ne všechny cíle, které stojí za využíváním umělé inteligence, jsou špatné. Otázka zní, kdo ji využívá, jakým způsobem a s jakými důsledky? A můžeme se proti tomu bránit? Tyto systémy jsou v konečném důsledku založeny na statistických předpokladech. Někdy se tyto předpoklady na konkrétní případ nehodí, protože jednotlivec ne vždy odpovídá statistickému průměru.
Co tím myslíte?
Systémy umělé inteligence znějí neuvěřitelně inovativně, ale vždy mají i konzervativní jádro. Umělá inteligence totiž potřebuje data, na kterých se musí trénovat. A data ze své podstaty pocházejí z minulosti. To znamená, že systémy umělé inteligence vždy přejímají i myšlenkové vzorce a stereotypy, které v naší společnosti v minulosti existovaly. A ty pak začleňují do svých předpovědí budoucnosti.
Pokud tedy ve společnosti existují diskriminační vzorce, je tu velké riziko, že umělá inteligence bude činit stejně diskriminační rozhodnutí. Máte nějaký příklad?
Existují studie z oblasti náboru zaměstnanců. Pokud společnost v minulosti přijímala převážně muže, může z toho systém umělé inteligence vyvodit, že muži jsou vhodnější pro pozice, které mají být v budoucnu obsazeny. To pak vede k tomu, že systém nadále spíše navrhuje muže.
Diskuse o umělé inteligenci je zároveň výzvou: jak si představujeme demokracii v budoucnosti?
Angela Müllerová
Existuje vůbec nějaká alternativa k současné umělé inteligenci velkých technologických firem?
Velké platformy nezmizí ze dne na den, toho si musíme být vědomi. O to důležitější je, abychom je přiměli nést odpovědnost pomocí účinných opatření. Celá diskuse kolem umělé inteligence a její regulace je vlastně také výzvou: jak si představujeme demokracii v budoucnosti? Jak můžeme zajistit, aby umělá inteligence byla prospěšná jak pro nás jako jednotlivce, tak pro nás jako demokratickou společnost?
Jakou umělou inteligenci si zde představujete?
Takovou, která je vyvíjena a využívána tak, aby z ní měli prospěch skutečně všichni, nejenom hrstka vyvolených. To znamená: takovou, kterou lidé již nebudou potřebovat pouze k vytváření videí s kočkami a sexualizovaných deepfaků. Ale takovou, kterou vyvíjíme a využíváme s cílem řešit skutečné společenské problémy, například optimalizovat elektrické sítě nebo zajistit udržitelnější mobilitu.
Kolik času nám vůbec ještě zbývá, abychom změnili směr, opustili koncentraci moci kolem velkých technologických firem a vydali se směrem k demokracii budoucnosti?
Nesmíme dopustit, aby nás ovládl pocit bezmoci ve smyslu: „Páni, to nás teď převálcuje a my s tím stejně nic nenaděláme.“ To totiž není pravda: umělá inteligence není nezastavitelná přírodní síla. Je to technologie, kterou vytvořili a používají lidé. Můžeme pro ni stanovit rámcové podmínky. A to také musíme udělat. Musíme začít jednat hned teď.
Angela Müllerová je ředitelkou organizace Algorithm Watch v Curychu. V této funkci vystupuje jako odbornice ve švýcarském parlamentu, v německém Spolkovém sněmu nebo v Radě Evropy. Věnuje se výzkumu na pomezí umělé inteligence, základních práv, společnosti a demokracie. Je doktorkou práv a působila jako výzkumnice na Kolumbijské univerzitě v New Yorku, Hebrejské univerzitě v Jeruzalémě a na Univerzitě v Curychu. V roce 2024 byla Angela Müllerová zařazena na seznam „100 Brilliant Women in AI Ethics“.
