Vláda pomocí algoritmů
Totální dohled

Přecházení přes ulici na červenou: Lidé, kteří porušili dopravní předpisy, jsou v Číně veřejně pranýřováni.
Přecházení přes ulici na červenou: Lidé, kteří porušili dopravní předpisy, jsou v Číně veřejně pranýřováni. | Foto (výřez): @ picture alliance/dpa-Zentralbild/Klaus Grabowski

Algoritmy, které na základě nashromážděných dat odměňují nebo trestají občany nějaké země – v Číně nebo Indii je vláda pomocí algoritmů („algorithmic governance“) už dávno realitou. Také v Německu však už počítačové programy dělají rozhodnutí, která mají důsledky pro mnoho lidí.

Od: Arne Cypionka

Křižovatka jižně od mostu Čchang-hong (Changhong) v milionové čínské metropoli Siang-jang (Xiangyang) je přeplněná a chaotická. Auta troubí, chodci přecházejí ulici na červenou a elektrokoloběžky se proplétají dopravní zácpou. V ulici je instalována velká obrazovka s mnoha portrétními fotografiemi. Že by jen jedna z mnoha reklamních tabulí? Ne. Policie sem v roce 2017 umístila monitor kvůli zajištění pořádku. Na monitoru se objevují obličeje těch, kteří zde porušili dopravní předpisy – a byli odhaleni kamerami s automatickým rozpoznáváním obličejů. Jde o to „zostudit je před jejich sousedy a kolegy“, řekla mluvčí města listu New York Times. Vedle fotografií pranýřovaných jsou uvedena jejich jména a čísla osobního dokladu. Má jít o výchovné opatření.
 
Monitory, jako je ten v Siang-jangu, jsou jen malou částí vládního monitorovacího a kontrolního aparátu. Pro svůj nový systém sociálních kreditů spustila komunistická strana v uplynulých letech ve větším počtu měst pilotní projekty, prostřednictvím kterých shromažďuje a vzájemně propojuje údaje z monitorovacích kamer, ze soukromých chatů, online nákupů a mnoha dalších zdrojů. Cílem je zaregistrovat do roku 2020 do jednoho jediného hodnoticího systému veškeré obyvatelstvo země. S vynaložením obrovských výpočetních nákladů bude nakonec každému Číňanovi přidělen určitý počet bodů, který bude pomocí počítačových algoritmů neustále aktualizován. Pro autoritativní vládu je takový krok nasnadě – tímto způsobem lze totiž individuálně kontrolovat každého jednotlivce z celkového počtu 1,4 miliardy Číňanů.

Kontrola a trest prostřednictvím algoritmu

O vládnutí pomocí algoritmů („algorithmic governance“) se hovoří tehdy, když vlády nebo úřady využívají obrovské proudy dat ze sociálních sítí a jiných platforem a když rozhodnutí, zda bude občan na základě těchto údajů odměněn nebo potrestán, je ponecháno na strojích. Počítače rozpoznají vzory a rutiny a automaticky provedou disciplinární opatření. Kdo vrátí vypůjčené kolo nepoškozené, nepřechází ulice na červenou a přichází do práce vždy včas, je odměněn určitým počtem bodů. Kdo naopak na internetu kritizuje čínskou politiku nebo – i to stačí – kdo je častěji v kontaktu se špatně hodnocenými osobami, musí přihlížet, jak se počet jeho bodů neustále snižuje. To má drastické důsledky. Lidem s nízkým skóre je například odpírán vstup do letadel a vysokorychlostních vlaků. Nebo jejich dětem je odpírána návštěva soukromých škol.
 
Takhle detailně sledovat lidi nějaké země, shromažďovat o nich veškeré informace a používat je proti nim, je nejen útok na jejich soukromí, ale představuje to také značné omezení práva na osobní svobodu. Úřady však vyhodnocují osobní údaje nejen v Číně – také v Indii se úřady pokoušejí prostřednictvím individuální registrace získat přehled o obyvatelstvu.
 
Pod názvem jménem Aadhaar („základ“) byla založena databáze, která dnes zahrnuje 1,2 miliardy registrovaných uživatelů, což představuje většinu indického obyvatelstva. S pomocí dvanácticiferného čísla, ke kterému je přiřazeno jméno, věk, ale také snímek oční duhovky a veškeré otisky prstů, může dnes každý jednoznačně prokázat svou totožnost a požádat například o sociální dávky – taková je alespoň teorie. Indická novinářka Rachna Khaira odkryla začátkem roku slabiny tohoto systému. Navázala kontakt s hackery, kteří jí za pouhých 500 rupií, což je v přepočtu asi 6 eur, opatřili přístup ke kompletní databázi. Databáze Aadhaar, která by měla zabránit nespravedlivému rozdělování potravinové pomoci a podvodům při jejím přidělování, se stále více jeví jako problém. Údajně už došlo k případům, kdy lidé umřeli hlady, protože nemohli předložit žádné dokumenty nebo protože nefungovalo biometrické rozpoznávání. Kromě toho vedou trhliny v systému k vyzrazení milionů záznamů.

Ženy, které se v Indii registrují do databáze Aadhaar-Datenbank  Ženy, které se v Indii registrují do databáze Aadhaar-Datenbank  | Foto (výřez): © picture alliance / NurPhoto

Je načase zahájit debatu o osobních údajích v Evropě

Ani v Evropě není používání algoritmů k analýze dat nic výjimečného. Na rozdíl od obou nejlidnatějších zemích světa – Číny a Indie – , ve kterých se provádějí riskantní experimenty, však v Evropě s velkými počty osobních údajů nepracují nutně jen státní instituce. V Německu existuje například Ochranná společnost pro všeobecné zajištění úvěru, lépe známá pod názvem Schufa. Společnost Schufa uvádí, že má uloženo 864 milionů informací o zhruba 67 milionech lidí a 5 milionech podniků. Jak přesně funguje proces, který na konci může spolurozhodovat o tom, zda si někdo smí najmout byt nebo zda dostane smlouvu na mobilní telefon, je tajné. Také kritéria společnosti Schufa jsou neznámá. Existují náznaky, že například ženy bývají v hodnocení znevýhodňovány.
 
Německo je však daleko toho, aby hříšníky, kteří spáchali dopravní přestupek, veřejně pranýřovalo na monitorech. A přesto se vnucuje otázka, v jakém rozsahu smějí podniky jako Schufa nebo státní úřady osobní údaje shromažďovat a využívat. Je na čase diskutovat o legitimnosti vládnutí pomocí algoritmů. Jde koneckonců o otázku, zda chceme kontrolu nad společností svěřit strojovým procesům. Při správném nastavení by algoritmy mohly rozhodovat efektivně, rychle a spravedlivě. Když však pozorujeme jejich současné používání, zdá se, že tyto výhody jen stěží vyváží řadu nevýhod, jako je obrovský potenciál zneužití, zásah do soukromí jednotlivce a netransparentnost procesů.