AI a emoce  Musíme si připustit naši křehkost

Umělá inteligence (AI) nás podle sociologa Stanislava Bilera už dávno porazila a to tak úspěšně, že nám to ani nedošlo. Zatímco jsme se soustředili na souboje člověka s počítačem v případě šachů nebo hry Go, tedy v ryze racionálních hrách v umělém prostředí turnajů, AI si namazala na chleba naše emoce v každodenním světě.

Umělá inteligence (AI) nás už dávno porazila a to tak úspěšně, že nám to ani nedošlo. Zatímco jsme se soustředili na souboje člověka s počítačem v případě šachů nebo hry Go, tedy v ryze racionálních hrách v umělém prostředí turnajů, AI si namazala na chleba naše emoce v každodenním světě.
 
Člověk je tak namyšlený tvor, že se sám nazval rozumným. Osvícenstvím počínaje vyhlásil éru rozumu a potíral všechny stopy svědčící o tom, že rozumným příliš není.
 
Mysleli jsme si, že když dokážeme vymyslet a postavit něco tak malého a výkonného jako jsou třeba současné mobilní telefony, které nám umí ukázat cestu pomocí sítě družic obíhajících planetu, je to důkaz našeho důmyslu. A jistě je. Jen jaksi přehlížíme, že nám tato kouzelná zařízení nejsou nabízena na základě rozumných důvodů, ale pomocí marketingu, který cílí výhradně na emoce. O emoce se opírá celý globální obchod, všechno to, co s takovou hrdostí nazýváme civilizace.
  Stejně jako v tom pořekadlu s ohněm platí, že lze AI využít k různým účelům, jež jsou určeny lidskými záměry. Samotné počítače pomohly na svět bezpočtu skvělých věcí, od rozluštění genů po audiovizuální umělecká díla. Internet pak spojil svět a zpřístupnil informace nebývalého rozsahu. Nicméně stejně tak platí, že k nejvytíženějším patří servery distribuující porno či oblečení, čemž by rozuměli i naši prapředci z jeskyně.
 
Od umělé inteligence očekáváme esenci výkonné a čisté racionality, jenomže i ona, stvořena lidmi, se pohybuje ve světě lidí. Sama bez hodnot následuje hodnoty lidské, sama bez cíle sleduje cíle svých stvořitelů. A tak zatímco se v Číně cvičí v rozpoznávání obličejů a sledování pohybu režimu nepřátelských či jen podezřelých lidí, aby jim případně zakázala koupit si jízdenku na vlak, nebo jim naopak zajistila jízdenku do gulagu, v naší části světa se nás AI pokouší ubavit k smrti.
 
Pryč jsou časy, kdy jsme si mysleli, že Facebook je zde proto, abychom byli v kontaktu s přáteli a vystavovali si tam fotky z výletů. Že je tady Google od toho, aby pro nás našel, co potřebujeme, a Twitter nám sdělil, co je ve světě nového, přičemž všichni poskytují své služby zdarma a nezištně, aby byl svět hezčím místem a všichni si byli blíž.

Every breath you take

Všechny tyto platformy se ve skutečnosti staly cvičištěm umělé inteligence, která je dost chytrá na to, aby se nijak nezabývala naším rozumem, ale šla rovnou ke zdroji toho, co nás skutečně ovládá a kým jsme. K emocím. Den za dnem nás usvědčuje z našeho přeceňování vlastních rozumových schopností, z limitů naší racionality.
 
Zakladatel Facebooku je ve svých 35 letech sedmým nejbohatším člověkem na zemi a nestal se jím proto, že nás nechal si zadarmo posílat srdíčka přes messenger, ale proto, že nás těží a prodává. Algoritmy sociálních sítí sledují každý náš pohyb, každé písmenko, které napíšeme, každou naši fotku. Ví o nás to, co neví naši nejbližší - na čí fotky zíráme déle než na jiné nebo komu píšeme večer potají.
Algoritmy vymýšlí, jak nás ve svých sítích udržet co nejdéle, jak nás co nejefektivněji prodat inzerentům. Nesnaží se nás porazit v přímé hře, jako počítač, který porazil v Garyho Kasparova, ale naopak se tváří, že vůbec nejsou přítomné.
 
Nestojíme ve válce proti strojům, jak nás varovala sága Terminátor s Arnoldem Schwarzeneggrem, ale pohybujeme se přímo v jejich prostředí. Jednáme a žijeme v sítích umělé inteligence, aniž bychom ji spatřili. Je jako vzduch, který dýcháme. Jejich fyzická neexistence a zdánlivá nepřítomnost se vyjeví v okamžiku, kdy vám zablokují účet a nemáte se na koho obrátit. Jejich svět se nachází mimo svět lidské spravedlnosti, soudů a presumpce neviny.
 
Místo žaloby vyhlašují rovnou rozsudky. Ale pokud se ve světě těchto sítí rozhodují volby demokratických zemí, jak je vůbec možné, že jejich svět připomíná ze všeho nejvíc feudalismus či diktaturu?

Ani tvůrci algoritmů netuší, jak fungují

Byznys jako jediná hodnota současné AI velí, že zisku musí takové drobnosti, jako jsou soudržnost společnosti nebo výsledky demokratických voleb, ustoupit. Izraelský historik Yuval Noah Harari ve svém dva roky starém textu pro The Atlantic varoval, že AI může zničit hodnoty demokracie, svobody a rovnosti dalším přesunem moci k úzké elitě. Harari v textu píše, že stejná technologie, která učiní miliardy lidí ekonomicky bezvýznamnými, je dokáže také jednodušeji kontrolovat. K tomu však nedojde někdy v budoucnu, ale dochází k tomu již dnes.
 
V dokumentu Social dilema bývalý manažer Facebooku vysvětluje, že jen málokdo vlastně tuší, jak přesně algoritmy sociálních sítí fungují a to včetně jejich tvůrců. Jako lidé jsme nad nimi ztratili kontrolu, protože jsou to ony, kdo určují, co vidíme a jaké informace čteme. Samotní provozovatelé nedokáží říct ani předvídat, jaký obsah se před vámi objeví. Algoritmy postupují dle zadání, kdy jediným jejich cílem je, abychom viděli obsah, který se nám bude líbit nebo který nás rozhořčí a udrží nás na síti co nejdéle.
 
AI sleduje prioritu zisku a jiné hodnoty nezná. Nemá politické preference, je jí jedno, jestli máte rádi Gándhího nebo Stalina a komu jste fandili v amerických volbách. Ať už to byl kdokoli, algoritmy sociální sítě vám poskytly nekonečnou zásobu munice a důkazů, že je pravda na vaší straně, aniž by se vůbec zabývaly tím, zda jsou dané informace pravdivé. Něčím takovým by se musely trápit pouze v případě, že by měly co do činění s racionálními bytostmi a ne s uzlíky pochodujících emocí klikajících na koťátka.

Miliardářem díky výnosné charitě

Zatímco Facebook ždíme naše emoce, Google předstírá, že poskytuje informace. Sice poskytuje, ale každému trochu jiné. Sokratovský objev, že jsou otázky důležitější než odpovědi, nám tento přívětivý vyhledávač ukazuje již dvě dekády. Jaké otázky položíte, takové odpovědi dostanete. Stejně jako se algoritmy přizpůsobují lidem, musí se lidé přizpůsobit jim. A tak se metodou pokus a omyl učíme Googlu ptát tak, aby nám rozuměl, aby se mu to líbilo. A Google nám vychází vstříc. Sleduje každý náš dotaz a z odpovědí, na které jsme klikli minule, vyhodnocuje, co by se nám mohlo líbit dnes nebo zítra. Google a Facebook nám osvětlují problematiku subjektivity vnímání světa - každý vidíme a cítíme jiný svět. 
 
Stejně jako Facebook, také Google pro nás hledá zdarma, stejně jako nám pouští zdarma videa na youtube, stará se o poštu nebo zálohuje naše fotky. Díky této charitě se nachází dva zakladatelé společnosti na třináctém a čtrnáctém místě světových miliardářů a pokud by byli jedním člověkem, jako je tomu u zakladatele Facebooku (7.) nebo Microsoftu (2.), ocitli by se na druhém místě těsně za majitelem Amazonu, který dokázal ze všech nejlépe zpeněžit naši touhu mít všechno hned.
 
Tato čísla jsou důležitá pro pochopení, že tyto zdánlivě bezplatné služby jsou pověstný zlatý důl, přičemž dolovaným zlatem jsou data uživatelů - nás všech. Pokud je nějaký produkt zdarma, pak jste to vy, kdo je produktem k prodeji.

Člověk je jen pochodující peněženka

Jak zaznělo ve zmíněném dokumentu, představme si, že by na Wikipedii dostal každý jinou odpověď. Každé heslo by bylo upraveno tak, aby se vám osobně líbilo, abyste s ním souhlasili. Wikipedie by vás špehovala napříč internetem, aby zjistila, jak se chováte, co si myslíte a podle toho upravovala obsah pro vás. To vše jen proto, aby na vás vydělala. Dva lidé by se neshodli na jedné definici. Takový je svět sociálních sítí, které určují naše vnímání světa.
 
Snaží se nám vlichotit. Jako podomní obchodníci, kteří dají každému za pravdu. Jako ten typ lidí, co je s každým za dobře, každému pochválí to jeho, pomluví ty druhé, trošku zalichotí, podrbou za uchem. A když se otočí, tváře jim zkamení, protože když mají rádi každého, nemají vlastně rádi vůbec nikoho. Každý jeden člověk je jim jedno, protože každý člověk je pro ně jen pochodující peněženka. Tenhle přístup si osvojila umělá inteligence. Ne proto, že by sama chtěla, ale vychází vstříc hodnotám našeho světa. Té jediné, na které se lidstvo shodlo.
 
Daniel Kahneman nám v knize Myšlení rychlé a pomalé ukázal, jak snadno zmanipulovatelní ve skutečnosti jsme a že celá naše víra ve vlastní rozum je spíše chimérou. Jonathan Haidt šel v knize Morálka lidské mysli ještě o kus dál. Ukazuje, že většina našich rozhodnutí je dílem emocionálních popudů a bezprostředních reakcí, za kterými klopýtá rozum, aby unáhlené soudy a rozhodnutí oblékl do pláště racionality, aby zpětně rozumně zdůvodnil, proč jsme se rozhodli zrovna takto.
 

Festival selektivní argumentace

Sociální sítě jsou nekonečným generátorem podnětů pro naše emoce, krmí naši touhu po rychlých reakcích a okamžité odezvě. Důkazy můžeme sledovat na Facebooku nebo Twitteru každý den. Každá debata pod libovolným tématem se vždy zcela nevyhnutelné vyhrotí způsobem, kdy už nikdo nemůže nikam ustoupit. Každý se zahrabe do zákopu selektivních argumentů, které na požádání vychrlí Google v nekonečném množství. Nenechme se ale zmást, že sledujeme něco nového, že snad kdy debaty v minulosti vypadaly jinak.
 
Polský spisovatel Witold Gombrowicz ve svém deníku z roku 1953 zaznamenal svůj dopis Diskuznímu klubu Los Angeles: AI zesiluje nás samé, dělá, co nám vidí na očích. A pokud tak vášnivě debatujeme, živí nás obsahy a příspěvky, které vyostřené debaty podnítí. Nedělá to z lásky ani nenávisti vůči nám, jen nás chce na síti udržet co nejdéle, aby nás mohla prodat inzerentům, aby na nás vydělala. Protože jinou hodnotu nezná a nesleduje.

Hodnoty strojů

Proti AI jsme bezbranní. Nikoli proto, že je chytřejší, ale protože máme emoce, které neumíme ovládat, které si ani neumíme přiznat. Prohráváme, protože jsme lidé a nechceme si to připustit. Prohráváme, protože dnes vyznáváme hodnoty, které nejsou lidské, ale vyhovují strojům.
 
Honba za penězi nás přivedla ke kolapsu světa a našeho ekosystému. Stejná honba za ziskem nyní vede k rozpadu samotné lidské společnosti. Na prodej jsme my sami, naše přesvědčení, touhy, víra, demokracie nebo liberální právní stát. Nemůžeme vinit AI, ta pouze slouží cílům našeho světa, jehož hlavním cílem je zničení všeho.
 
Pokud se chceme vyhnout zotročení, musíme si připustit vlastní křehkost, přiznat nerozum. Regulovat sociální sítě stejně jako alkohol nebo cigarety a současně je chápat podobně, jako jinou základní infrastrukturu světa, jako je voda nebo elektřina. Pokud necháme AI bez dozoru korporacím, dopadne to s naším světem stejně, jako když jsme darovali nerostné zdroje těžařským firmám a nechali zničit planetu. Ale tentokrát jsme to my lidé, kdo jsme surovinou k těžbě, zatímco AI je důmyslným rypadlem v chamtivých rukách.

 

november 2020