Čím dál častěji platí, že technologie ke sledování občanů v době dodržování rozestupů a masových protestů nepoužívají jen vlády. Přiznejme si, že se navzájem víc hlídáme všichni.
Ve chvíli, kdy píšu tento článek, se ve Spojených státech odehrávají dvě krize: pandemie onemocnění COVID-19 a protesty proti policejní brutalitě. Americká vláda se při řešení obou krizí ve jménu ochrany zdraví a bezpečnosti občanů uchyluje k technologickým řešením. Policie využívá všechny prostředky, od dronů po sledování sociálních médií i demonstrantů. Vlády na celém světě se mezitím ve snaze zastavit šíření viru spojily s technologickými firmami, jež mají vytvořit aplikace pro sledování občanů.Technologická řešení krizí se všude nabízejí s tím, že jsou v soukromém i veřejném zájmu. Kdysi patentované nástroje sledování se stávají populárními spotřebitelskými produkty a technologické firmy se snaží využít našich obav. Sledování spoluobčanů se tak stává jen dalším zvykem, jehož pěstování nám umožňuje chytrý telefon. Jenže co se stane, když se budeme čím dál víc sledovat a budeme ochotni se sledování vystavit? Představit si důsledky takové budoucnosti nám umožňuje umění.
Nahlásili byste neopatrného chodce?
Belgický umělec Dries Depoorter zkoumal důsledky občanského dohledu dávno předtím, než jsme řadu těchto problémů vůbec zaznamenali. Jeho instalace Jaywalking (Neukázněné přecházení, 2015) divákům umožňuje sledovat živé záběry z dopravních kamer na přechodech. Když vidí chodce přecházet na červenou, mají možnost oznámit pachatele stiskem tlačítka, které anonymně odešle snímek obrazovky blízké policejní stanici. Diváci instalace tak mají až niterné dilema: máme svou novou moc použít ve jménu občanské povinnosti? Kde je hranice mezi práskačstvím, bezpečností a dohledem? Depoorterova díla si hrají se skutečností, že dnes jsme čím dál více zvyklí být také za kamerou, nejen před ní. Chce po nás, abychom zvažovali důsledky a závazky, které z využití takové moci vyplývají.Špehování nic netušících neukázněných chodců se sice může zdát jako něco téměř nezákonného, každý občan si však dnes může za laskavého přispění Amazonu snadno koupit vlastní sledovací zařízení. Domácí bezpečnostní systém Ring, který společnost Amazon získala v roce 2018, umožňuje vlastníkům domů nebo bytů instalovat vlastní „video zvonky“, jež sledují pohyb před jejich prahem. Přestože se produkt nabízí jako příslušenství, jeho slogan naznačuje, že naši sousedé mohou představovat nebezpečí: „U vašich dveří se toho děje spousta.“ Na webových stránkách systému je skutečný videozáznam zachycující (údajné) zloděje a vandaly při činu. Takové záběry přitom nejsou užitečné jen pro vlastníky nemovitostí: firma Ring si vyhrazuje právo na přístup ke všem datům a videím a dělat snímky údajně umožňuje také policii, aby mohla stíhat podezřelé zločince.
Instalace „Jaywalking“ (Neukázněné přecházení) Driese Depoortera na festivalu Mirage, 2019. | Foto: © Marion Bornaz
Stínoví stalkeři
Americká umělkyně Lynn Hershman Leeson se tématy policejní ochrany a dohledu zabývá od svých prvních děl ze 70. let. V poslední instalaci Shadow Stalker (Stínový stalker, 2018–2021) zkoumá, co se stane, když se spolehneme na to, že naši společnost budou sledovat a střežit technologie. Po vstupu do instalace diváci zadají svou e-mailovou adresu, a algoritmus vytvoří jejich „digitální stín“, který pak promítá na stěnu. Veřejně tak ukazuje, kolik osobních údajů lze z této jediné informace získat. Další obrazovka zobrazuje mapy, na kterých jsou určité čtvrti označeny červenou barvou vyjadřující pravděpodobnost, že jde o oblasti s vysokou kriminalitou. Mapy vznikají pomocí prediktivní technologie – patentovaných algoritmů, jež policie využívá k předpovídání možné trestné činnosti. Instalace průměrnému občanovi ukazuje, co všechno si mohou technologické firmy a vládní agentury dovolit díky přístupu k neviditelným technologiím, jež nás sledují, monitorují a hlídají.Lynn Hershman Leeson tyto mechanismy studovala ještě předtím, než podobná vyspělá technologická řešení vůbec existovala. Ve svém raném interaktivním díle Lorna (1979–1984) divákovi promítá záběry smyšlené postavy Lorny v jejím bytě. Lorna, jak nás video informuje, se bojí opustit svůj domov kvůli děsivým výjevům v televizi. Díky technologii LaserDisc mohou diváci odposlouchávat její rozhovory a ovládat některá zařízení v jejím bytě, včetně televizoru, zrcadla a telefonu; dílo tak působí jako předzvěst dnešních „chytrých“ domácích zařízení.
Interaktivní dílo Lorna umělkyně Lynn Hershman Leeson z roku 1979 | © Lynn Hershman Leeson / Hotwire productions LLC
V díle americké umělkyně Lauren Lee McCarthy s názvem Someone (Někdo, 2019) se Lorna stává skutečností, třebaže méně zlověstnou. Diváci dostávají přístup k notebookům, jež přenášejí živý zvuk a obraz z bytů čtyř jednotlivců. Tito čtyři dobrovolníci umělkyni umožnili, aby jejich virtuální domácí asistenty nahradila mikrofony a kamerami, k nimž mají přístup návštěvníci galerie, se kterými mohou mluvit, které však nevidí. Když něco potřebují, jednoduše „někoho“ zavolají, a divák s nimi může komunikovat, nebo jim nabídnout „pomoc“ ovládáním jejich světel, hudby a dalších domácích zařízení.Údajným tématem tohoto díla je možnost stát se „lidskou verzí [virtuální asistentky] Alexy“ – divák se ocitá v postavení všemohoucího, který vidí nebo slyší pomocí inteligentního zařízení pro zabezpečení domácnosti. Jenže sledování a čekání na to, až dobrovolníci „někoho“ požádají o pomoc, se rychle stává záminkou ke sledování těchto cizích lidí v jejich domovech, což vede ke stejně podivnému voyeurismu jako u Depoorterova „neukázněného přecházení“. Projekt také odráží skutečnost, jak ochotně si tento druh dohledu zveme do svých domovů, máme-li pocit, že ho provádí neutrální, netělesné stroje. Otázkou je, kdo má v této dynamice mezi sledujícím a sledovaným, mezi strojem a člověkem, moc.
Sousedská hlídka
Pokud jde o normalizaci pasivního – nebo aktivního – sledování spoluobčanů, nenajdeme zřejmě lepší moderní příklad než aplikaci Nextdoor. Její popularita ve Spojených státech během měsíců po začátku pandemie prudce vzrostla. Přestože se prodává jako komunitní nástroj s cílem „přivítat nově příchozí, vyměňovat si doporučení a přečíst si nejnovější místní zprávy“, hojně se využívá i k „donášení“ na sousedy a vedla také k rasovému profilování. Zneužívání aplikace vedlo ke vzniku twitterového účtu, který dokumentuje všechny projevy, od těch útočných (lidi označující černošské sousedy za „podezřelé“) po ty absurdní (uživatelku, která sousedy žádala, aby si auta nezamykali po osmé večer, protože jí vadí jejich „pípání“). Do nedávné doby měla aplikace i funkci „předat policii“, jež uživatelům umožňovala odesílat upozornění na podezřelou činnost přímo mužům a ženám zákona. Popularita aplikace Nextdoor ukazuje, jak se z bdělosti může díky technologii – vědomě či nevědomě – stát něco nebezpečnějšího.
Projekt „Someone“ (Někdo) Lauren Lee McCarthy divákům umožňuje nahlédnout do čtyř soukromých bytů. | Foto: © Stan Narten
V minulosti byly sítě a infrastruktury dohledu většinou neprůhledné či skryté – dnes se na nich viditelně podílíme. Valja Fetisov se ve své instalaci User Flow (Proud uživatelů) snaží v divákovi vyvolat zážitek, jenž by mohl připomínat společnost v budoucnosti, pokud budeme k řízení krizí i nadále využívat systémy sociální kontroly. Po vstupu do instalace je uživatel požádán, aby se podrobil nejprve fyzické prohlídce a poté psychologickému vyšetření. Nakonec se ocitne před monitorem s 3D kamerou a neuronovou sítí pro sledování pohybu a výrazu obličeje, který ho vyzve, ať přistoupí blíž, aby mu mohl vstříknout do úst kapalinu.Instalace ilustruje, jak se systémy dohledu a kontroly, jež považujeme za samozřejmost – například podrobení se prohlídce letištní ochrankou nebo rozpoznání obličeje – mohou stávat čím dál represivnější, zejména pokud využívají technologie. „Řadu a proces kontroly vidí i další lidé, nejen aby se tím chování při prohlídce normalizovalo, ale aby se prezentoval zájem a zdramatizovala a představa ‚bezpečí‘,“ píše Fetisov v článku o své instalaci. „Otázkou je, zda věříme systémům, jež chtějí kvantifikovat naše vzájemné vztahy a zavést nový společenský řád. Nebo snad konstrukce těchto systémů, jejich performativita a společenská normalizace získají takový vliv, že za nás převezmou rozhodování?“
Fetisov se tak snaží dostat na kloub zásadní otázce, o kterou dnes jde: s čím jsme ochotni se smířit ve jménu svého zdraví a vlastní bezpečnosti – a zejména v době krize – a co by se mohlo stát, pokud by s námi tato nová opatření zůstala ještě dlouho po skončení krize?
Tento článek je součástí Kulturtechniken 4.0, internetového projektu Goethe-Institutu v Austrálii, který se zabývá průniky umělé inteligence a tradičních kulturních technik.
říjen 2020