ALGORITMY A SLOBODA ROZHODOVANIA Vyčíslené Ja

Počítačové dáta
Foto: © Dmitry Nikolaev – Fotolia.com

Počítačové programy vytvárajú užívateľské profily a určujú našu úlohu a naše správanie na sieti. Strácame prostredníctvom algoritmov svoju slobodu rozhodovania? Táto diskusia sa týka aj užívateľov v Nemecku, ktorí skôr vnímajú len výhody.
 

Algoritmy, programy založené na postupnosti krokov, kalkulujú na základe dátových stôp, ktoré zanechávame na internete, naše spotrebiteľské zvyky a komunikačné správanie. Riadia výsledky vyhľadávania na internete, alebo stanovujú typy platieb v internetových obchodoch na základe našej adresy, z ktorej možno predpokladať s istou pravdepodobnosťou našu finančnú situáciu.  

Aj v Nemecku sa stále viac diskutuje o vplyve algoritmov. Mnohí ľudia sa zaoberajú otázkou, či nás počítače môžu ovplyvňovať. Predstava, že nás ovplyvňuje niečo nehmatateľné a pre laika nepochopiteľné, vyvoláva neistotu a niekedy dokonca aj strach.

Stroje spolurozhodujú

Algoritmy sú efektívne: Matematicko-štatistickými postupmi možno podľa doterajšieho správania užívateľa určiť pravdepodobnosť akéhokoľvek skutkového stavu. Čo vidíme na Facebooku je to, čo pre nás algoritmus Facebooku vypočítal – na základe našej interakcie s obsahmi na platforme.

Tak by bolo teoreticky dokonca možné ovplyvňovať politickú mienku. Tento fenomén, nazývaný aj filter bubble, sa preslávil ako téza amerického aktivistu Eliho Parisera a dlho sa o ňom diskutuje. Vo svojej rovnomennej knihe z roku 2011 Pariser konštatoval, že personalizovaný news feed Facebooku mu zobrazil predovšetkým príspevky, ktoré súhlasili s jeho vlastným politickým názorom. Týmto spôsobom sa užívateľ izoluje v “bubline” ktorá vylúči informácie protirečiace jeho názoru. Vplyv algoritmov však siaha ešte ďalej: dnes počítačové prognózy spolurozhodujú aj o tom či má niekto úverovú bonitu a akú sumu má odvádzať na poistnom.  Podľa bydliska sa vypočítava riziko insolventnosti, podľa zdravotného stavu riziko ochorenia.   

Existuje ale noazaj dôvod na obavu, že ľudia stratili kontrolu nad svojimi rozhodnutiami? To, čo vedia vypočítať algoritmy, nie sú žiadne bezpečné prognózy, ale pravdepodobné hodnoty. Algoritmy nezobrazujú náš komplexný hodnotový systém, podľa ktorého sa situatívne rozhodujeme: zostávajú na úrovni jednoduchých úkonov, teda či klikneme na nejaký text alebo kúpime nejaký produkt.

Požiadavka transparentnosti

Ani filtrovaná realita facebookového streamu nie je problémom, ktorý nanovo stvorili algoritmy,. „V podstate je táto filter bubble len jednou z mnohých bublín. Aj naše sociálne prostredie veľmi konkrétnym spôsobom formuje naše vnímanie sveta,“ hovorí Ben Wagner, riaditeľ výskumného centra internetu a ľudských práv na európskej univerzite Viadrina vo Frankfurte na Odre. „Podstatné je, aby sme si toho boli vedomí.“ No mnohé algoritmy, ako napríklad algoritmy Facebooku a Google, nie sú transparentné.“ Užívatelia týchto služieb nevedia, ako sa za nich bude „vopred rozhodovať“. “Momentálne vzniká nebezpečenstvo, že sa vymedzia minoritné skupiny, teda napríklad ľudia, ktorí nedostanú na základe zdravotných údajov žiadne zdravotné poistenie,“ varujú vedci ako Ben Wagner. Požiadavka transparentnosti zostáva preto hlavnou úlohou “etiky algoritmu”.

Diskusia v Nemecku

V nemeckej verejnosti sú silno zastúpení kritici „algoritmizovania“ človeka. K najprominentnejším patril v lete 2014 zosnulý žurnalista a spoluvydavateľ Frankfurter Allgemeine Zeitung Frank Schirrmacher. Vo svojich bestselleroch Payback (2009) a Ego (2013) zastáva názor, že internet je droga a počítače menia naše myslenie. Aj nemeckí politici varujú už roky pred "diktatúrou dát“. Vo svojej knihe Finger weg von meinen Daten (2014) (Ruky preč od mojich dát) vidí europoslanec Strany zelených Jan Philipp Albrecht ľudí  zbavených svojprávnosti, degradovaných na seba optimalizujúci a matematicky vypočítaný systém.

A naopak sa objavujú pokusy, aby sa kriticky skúmala táto kritika. Aká veľká je naozaj moc algoritmov? Prečo smerujeme našu kritiku voči zdanlivo negatívnym vplyvom, ktoré sčasti vôbec nenastali, namiesto toho, aby sme zdôraznili aj pozitívne aspekty digitalizácie, pýta sa autorka  Kathrin Passig v časopise o sieťovej kultúre Berliner Gazette. Vedecký historik Klaus Mainzer, profesor na TU Mníchov, sa zasadzuje o „odtechnologizovanie“ diskusie. Algoritmy nie sú žiadnym objavom Silicon Valley, ani nie sú vo svojej podstate „zlé“. Majú pôvod, ako píše vo svojej v roku 2014 vydanej knihe Die Berechnung der Welt (Výpočet sveta), v hľadaní matematickej analýzy fenoménov a vedeckej túžby po teoretickom formovaní sveta. A toto ľudstvo praktizuje už tisícročia.

Súčasne je pozoruhodné to, že nemeckí občania sa sťažujú na netransparentnosť Google a Facebooku, ktorých služby stále intenzívnejšie využívajú. Naozajstné uvedomenie si rizík, či dokonca politické hnutie aktuálne nie sú na obzore. Prečo to tak je, sa Frankfurter Allgemeine Zeitung pýtalo nemeckej profesorky práva Indry Spiecker. Jej odpoveď: „Technika je jednoducho príliš krásna.“ A možno je to ešte jednoduchšie: Konkrétny osoh, udržiavanie kontaktov a sociálnych sietí s malou námahou na veľké vzdialenosti,  je pre mnohých dôležitejšie než pomerne abstraktné riziká.