Jak technologie strojového vidění, algoritmy a autonomní systémy proměňují naše chápání obrazů a jejich dopadu na svět? Tyto tzv. „operační obrazy“ nejsou neutrální – naopak navazují na dědictví kolonialismu a podílejí se na formování nových mocenských struktur. Následující článek jde trochu hlouběji něž aby se zabýval pouhým využitím umělé inteligence. Zásadní otázka totiž zní: jak můžeme čelit technologiím, které vidí, rozhodují a jednají bez lidské kontroly?
Obrázky, které vytvářejí stroje pro jiné stroje, nemají žádný estetický význam. Patří k logice strojového provozu a, jak říká v Novém Jičíně narozený indo-německý filmař Harun Farocki, „nezachycují proces, ale jsou jeho součástí“. Tyto obrazy nejsou určeny k tomu, aby na něco odkazovaly — určují je samotné operace, pro které vznikají. Farocki je proto nazývá „operačními obrazy“. Nejde o propagandu (nechtějí nás o ničem přesvědčovat) ani o výuku (neusměrňují naši pozornost k určitému cíli). Dokonce ani nestaví na obsahu v běžném smyslu slova: existují spíš jako abstraktní binární data než jako obrázky určené k lidskému vnímání. Bez lidského nebo estetického záměru jejich čistě praktická funkce vlastně předem ruší význam „vnímání“ jako něčeho, co dělají lidé.
Co mi vlastně vadí na obrazech? Možná to, že všechny trpí stejnou vadou: euforickou amnézií. Už si nepamatují, co znamenají, odkud pocházejí ani s čím souvisejí — a přesto je to nijak netrápí.
ruská básnířka, prozaička a novinářka
Přestože jsou „operační obrazy“ často popisovány negativně – neboť vycházejí z uzavřených procesů, které se řídí svou vlastní logikou – mají velmi konkrétní dopady na reálný svět. Používají se například při sledování nebo v autonomních zbraňových systémech. Jejich samostatné, cyklické fungování předjímá neprůhlednou architekturu technologií typu „černé skříňky“, včetně dnešních systémů umělé inteligence, které pohánějí sběr dat i moderní letecké vedení boje. Technologie, jež kontrolují vzdušný prostor, mají pro lidi vystavené jejich účinku často zničující následky. To vede k zásadní otázce: jak vůbec uvažovat o hrozbě, která spojuje neprůhlednost těchto černých skříněk a přímý, často smrtelný dopad leteckých technologií, které zůstávají mimo dosah většiny světa?
Abychom porozuměli logice strojů a aparátů, které dnes formují realitu pomocí map, fotografií, algoritmů a digitálních dat, musíme se podívat na to, do jaké míry jsou „operační obrazy“ a systémy sledování pokračováním koloniálního myšlení. Jde zejména o způsoby organizace, třídění a celkové chápání světa, které si osvojily. Touha měřit, hodnotit a kategorizovat druhé – tedy zařadit člověka do tabulek a pak z něj udělat zdroj nebo objekt – přímo navazuje na koloniální uvažování 18. a 19. století. Dnes se stejná logika objevuje ve sledovacích technologiích, které používají neokoloniální mocnosti a které digitálně „přepočítávají“ lidské tělo na data. Dějiny dronové války a satelitního dohledu, založené na operačních obrazech, jsou úzce propojeny s dějinami kolonizace.
Biopolitická kontrola — snaha rozhodovat o životě a smrti pomocí reduktivních výpočtů — je dnes doslova naprogramována do autonomních sledovacích a zbraňových systémů. To odhaluje stejnou chladnou, účelovou logiku, kterou s sebou nesla kolonizace: přivlastnit si, vytěžit a podřídit druhé. Aimé Césaire tuto logiku shrnul do stručné rovnice: „kolonizace = věcnost“ (nelze si v této souvislosti nevzpomenut na tzv. „reálpolitiku“, raženou především konzervativními politiky – v České republice např. Janem Zahradilem – mající za úkol racionalizovat vzdání se morálních a etických hodnot; pozn. PQ). Césaire tím vystihl jak systematickou dehumanizaci kolonizovaných, tak vznik poslušného, využitelného a obchodovatelného lidského těla. V jeho době šlo především o těžbu surovin a vykořisťování fyzické práce. Popsal to jasně: „Mluvím o společnostech zbavených podstaty, o pošlapaných kulturách, rozbitých institucích, zabavených zemích, zničených náboženstvích, zničených skvělých uměleckých dílech, o mimořádných možnostech, které byly vymazány.“ Vykořisťování zdrojů a lidí kolonialismem odklonilo – nebo rovnou zničilo – možné budoucnosti celých komunit.
Zatímco tradiční kolonialismus získával bohatství a pracovní sílu fyzickou okupací, neokolonialismus tyto cíle naplňuje prostřednictvím sběru dat a sledování, které čím dál více určují – někdy dokonce předurčují – jak bude vypadat budoucnost. Oba fenomény mají zásadní dopad na jednotlivce a celé společnosti a oba využívají technologie, které slouží k extrakci zdrojů — ať už jde o suroviny nebo o data. Spojovací linií mezi nimi je jak násilí založené na vědění (jak kolonialismus „věděl“ o svých objektech), tak násilí dat, které dnes páchají algoritmy v systémech sledování a dronového válčení.
Pokud „operační obrazy“ zcela ignorují lidské jednání – kromě chvíle, kdy je někdo naprogramuje nebo upraví jejich nastavení – pak je náš vliv na tyto obrazy a jejich dopad minimální. Vezměme si drony, které používají datové sady k určování a likvidaci cílů: náš pohled nebo etické uvažování v tom nehraje téměř žádnou roli. Aparát strojového vidění, založený na automatickém zpracování obrazu a algoritmické dedukci, proto často jen kopíruje staré imperiální myšlení: svět musí být pevně uchopen a převeden na data, aby mohl být ovládán.
Možná bychom si měli položit otázku, zda jejich vizualizace — tedy vůbec možnost vidět tyto procesy — může vést k nějaké formě angažovanosti. Mohli bychom tím narušit propojení armády, průmyslu a korporací, které spolu tvoří infrastrukturu vzdušného prostoru? Dalo by se tak nejrůznější digitální technologie přimět k odpovědnosti? A jak by vůbec vypadal obraz, který působí proti jejich logice? Je možné „černé skříňky“ nějak narušit, jednat s nimi nebo je moderovat, pokud pochopíme jejich provozní logiku? A pokud ano — jak to provést? Jinými slovy: jak přivést „operační obrazy“ k odpovědnosti?
Tím se vracíme k původní otázce – tentokrát poněkud rozšířené: jaké reálné dopady mají „operační obrazy“ v době, kdy odpovědnost za jejich následky nesou hlavně komunity, které dlouhodobě žijí v realitě koloniálního a neokoloniálního zneužívání? A jak se ve vztahu k těmto dopadům máme zachovat my? Stala se rekurzivní, ničím nebrzděná logika černých skříněk – která zároveň umožňuje, aby algoritmy určovaly hodnotu člověka – dalším nástrojem k legitimizaci rasově podmíněných představ o tom, co je lidská bytost v právním, etickém a politickém smyslu? A jak se liší od pouhé, měřitelné existence člověka jako souboru dat?
Jakákoli krize ohledně toho, jak obrazy vytváříme a přijímáme, je zároveň krizí toho, co vlastně znamená bytí. A možná ještě naléhavěji — co znamená nebýt viděn.
Pokud má starý výrok George Berkeleyho – „být znamená být vnímán“ – v dnešní digitální době nějaký význam, pak si musíme položit poslední otázky: jaké formy existence vznikají, když je „vnímání“ člověka prováděno strojem? Jaké formy existence jsou naopak takovým výpočtem vymazány nebo znehodnoceny? Vzdáváme se odpovědnosti za to, co „operační obrazy“ způsobují, právě proto, že zajišťují hladký chod neokoloniálního vykořisťování? A nezpůsobuje tato situace, že se technologie těžící data jeví přijatelnější – i když se zároveň dostávají mimo dosah etického a politického posuzování, včetně základního práva na život?
Anthony Downey je profesorem vizuální kultury na Blízkém východě a v severní Africe (Birmingham City University) a vedoucím kulturního a zadávacího oddělení v rámci čtyřletého projektu AHRC Network Plus, který se zabývá vzděláváním, vizuální kulturou a digitálními metodami v Palestině, Jordánsku a Libanonu (2019–2023). Je členem redakční rady časopisů Third Text (Routledge), Journal of Digital War (Palgrave Macmillan) a Journal of Memory, Mind & Media (Cambridge University Press).
