AI jako výzva pro lidství  Make člověk great again

AI píše básně, zatímco planeta hoří. Milionáři sní o Marsu, chudí o klimatizaci. A my všichni máme pocit, že budoucnost se stala luxusem. Tahle krize není technologická. Je civilizační. Než nás nahradí stroje, možná bychom se měli ptát, proč jsme je vůbec vynalezli. Co když není AI problém, ale jen zrcadlo toho, kam jsme došli? Esej Stanislava Bilera.

Oblíbeným postupem hororové produkce je proměna noční můry v realitu. Cosi známého, co bylo doposud uzavřeno v samostatném světě, z něhož se bylo možné probudit, se zpřítomní ve světě, z něhož se už probudit nelze. Všechny temné obavy, které držíme na uzdě za zdí vědomí, se postaví před nás a my už nemáme, jak je zahnat. Podobně hrůzně působí část našich obav z nástupu umělé inteligence.

Ten druh snu, v němž vás nahradí někdo jiný, žije váš život a vás nikdo nepotřebuje, nikomu nechybíte. Ten druhý či druhá je dokonce ve všem lepší než vy a mezi vašimi blízkými je mnohem oblíbenější. Podobně to může dopadnout s námi. AI bude nejen efektivněji vykonávat „naši“ práci, ale může mnohem lépe naplňovat všechny cíle a hodnoty našeho světa, jež jsou v zásadě nelidské a k lidským potřebám hostilní. To nás znovu staví před otázku, kým vlastně jsme a co na této planetě vlastně pohledáváme.

Kdyby byly smyslem tohoto světa jiné hodnoty než zisk, akumulace, efektivita a ekonomický růst, možná bychom se tolik neobávali, že nás může AI nahradit či dokonce bezděky vyhladit. Jenomže tomu tak není a není potřeba mít k dispozici výpočetní kapacitu rozsáhlých datových center, aby si člověk spočítal, že nejslabším článkem v růstu produkce je on sám.

Sami sebe poměřujeme kvantitativními metrikami na úrovni jedince i státu. Vše se musí optimalizovat a zefektivňovat, včetně našich těl a osobních životů. Ovšem v určitý moment narazí optimalizace na limity biologické existence. Tu ostatně vykresluje padající demografická křivka všech ekonomicky úspěšných zemí. Růst ekonomiky si žádá optimalizaci „podružných“ volnočasových kratochvílí, jíž se stává také reprodukce lidí.

Demografický kolaps

Kdo se jí dobrovolně či nedobrovolně vzdá, může se těšit na potenciální příliv benefitů. Zmizí nadbytečné náklady ryze finanční. Všechny ty dětské potřeby trvající přes dvě dekády, kam patří jídlo, oblečení, volnočasové aktivity, školky a školy, kroužky. Pokračovat lze dlouho, náklady se počítají v milionech na jedno dítě, kdy v tom nejsou započteny náklady na bydlení ani problémy na tzv. trhu s bydlením, kde pronajímatelé odmítají pronajímat byty lidem s dětmi. To už raději psy nebo kočky, ti tolik nedupou ani neřvou.

Péče o děti vyřazuje obvykle ženy na kratší či dlouhý čas z pracovního zápřahu, což znamená nižší příjmy až do konce života. K tomu ten doprovodný stres pro všechny pečující spojený s dětmi, od nemocí po zoufalé shánění míst v jeslích, školkách a školách, permanentní nevyspání a únava…

V litanii lze pokračovat dlouho, ale je třeba alespoň naznačit, že každá společnost si své hodnotové žebříčky buduje a udržuje sama, a pokud je výsledkem ekonomické prosperity demografický kolaps, pak se jedná o vyústění určité logiky, v rámci níž lidé optimalizují své životy. To samozřejmě ještě neznamená, že by snad vymřel společenský, byť slábnoucí tlak na to děti mít. Věci nemusí být v souladu ani mít smysl. Ale protože je základní osou všeho ekonomické ohodnocení, je snadné určit, jaké jednání ekonomicky prosperující společnosti oceňují a jaké finančně trestají.

Mít hodně všeho

Podobně vypadá optimalizace našeho světa v případě klimatické změny. O jejích příčinách víme vše a průběh destruktivních změn jsme již po léta díky tunám studií schopní přesně modelovat rok za rokem. Víme, co bychom měli udělat, abychom katastrofické důsledky odvrátili, nicméně řešení, které nesleduje nic menšího než záchranu jediné nám známé obyvatelné planety v celém vesmíru, naráží na priority ekonomického růstu a hromadění statků. Výsledkem tohoto střetu jsou jen kosmetické změny, které nás udržují v kurzu ke zkáze světa a to jednoduše proto, že přednost mají jiné priority než životy lidí či alespoň většiny lidí.

Bohatství produkované globální ekonomikou vytrvale roste, ale neroste stejně na každém lidském dvorku. Nikdy v dějinách jsme nežili ve světě, v němž by existovaly tak obří nerovnosti v distribuci bohatství. Hromadění hmoty či symbolických statků přitom žádný další účel nemá. Počet miliardářů roste, ale svět díky tomu lepším místem není. Mít hodně všeho je konečným cílem, žádný další užitek z patologického hromadění bohatství neplyne.

Bezúčelná hra plodí utrpení a tíseň pod klenbou rozvráceného klimatu. Přesto v tomto nastavení pokračujeme. Těžko doufat v soucit od umělého „vědomí“ datových center. Představa, že nás umělá forma přemýšlení zachrání před námi samými, nemá daleko k víře dávných časů, kdy se proti moru či hladomoru bojovalo prosbou směřovanou k bohům a předkládáním obětin.

Věcně a bez emocí

Tehdy měly pohromy podobu přírodních jevů či lidem nesrozumitelných událostí, dnes se prosíme o záchranu před pohromami, které jsme sami stvořili a sami udržujeme v chodu. Z čeho máme obavy, jsme my sami a svět, který jsme si stvořili. Jeho základní hodnoty a cíle jsou v zásadě amorální a ryze technické. Může je sledovat a naplňovat cokoli, aniž by to potřebovalo vědomí v obvyklém smyslu. Naopak. Kapitalismu se nakonec daří lépe v péči autokratické Číny, kde stabilitu a priority trhu nezdržují nepředvídatelné volby a iracionální nároky lidí. Ty problémové lze dokonce kdykoli zavřít či popravit. Jaká úleva. Že demokracie jen zdržuje prosperitu je nakonec i aktuálně populární narativ mezi technologickými oligarchy Silicon Valley. K tomu později.

Směrem k optimalizaci vhodné pro umělou inteligenci jsme pokročili pomocí mechanismů, kdy jsme ekonomické zájmy vyčlenili a nadřadili lidské společnosti, kdy jsme morálku odstranili z byznysu coby patetický atavismus humanity. Znakem vážného a dospělého jednání se stalo spojení „věcně a bez emocí“. Vyřazením emocí coby čehosi dětinského z lidského jednání jsme naše jednání částečně dehumanizovali a umělá inteligence se tak již ničím lidským zabývat nemusí. Při škrtání nákladů a budoucí optimalizací se může skutečně věcně a bez emoci škrtnout vše, co z lidskosti zbylo. A nebudeme ji ani moci obviňovat z nelidskosti, vždyť jsou to naše vlastní cíle a hodnoty.

AI nás může kompletně nahradit, protože jsme vytvořili svět jako stvořený pro ni. Může nakonec chovat lidi pro své pobavení. Jako kočky honící světlo po zdi, jako pejsky panáčkující za pamlsek.

My a druzí

Eliminací lidstva by AI neudělala nic jiného, než akcelerovala lidské snažení o totéž, kdy chabý pokus o záchranu klimatu připomíná ponejvíce selhání a ostentativní rezignaci. Není možné s vážnou tváří chtít, aby nás cosi, co nazýváme umělou inteligencí, bralo vážně, když se vážně nebereme ani my sami. Jednáme, jako bychom biosféru a stabilní klima k životu vůbec nepotřebovali. Od AI se ovšem lišíme tím, že „ona“ ho nepotřebuje doopravdy, respektive jí stačí umělé klima datových center. Ani tam nemusí být kyslík.

Co za obavami z temných scénářů nástupu AI vyvstává, je rovněž obava, že by tato nová forma moci zacházela s námi stejně jako my s jinými. My a druzí jsou zde důležité termíny, protože tentokrát by oním objektem nadřazené moci byly také společnosti, státy a lidé z tzv. Západu. Náhle bychom se všichni mohli ocitnout v pozici Palestinců či jiných národů, s nimiž se zachází dle potřeby, jako by to ani nebyli skuteční lidé. V situaci blízké původním národům Ameriky, když pozorovali vyloďující se postavy ze zámoří. Aboridžincům v Austrálii, kmenům a společností Afriky, kterou si porcovala Evropa a mnoha dalším, kterým technicky pokročilejší společnosti operující s instrumentální racionalitou a morálkou vyřazující jiné a odlišné z lidské společnosti připravily peklo na Zemi. Nakonec v situaci všech s jinou pletí, jiným pohlavím, náboženstvím, s jiným aspektem lidskosti.

Možná proto se hovoří o umělé inteligenci na straně jedné a lidstvu na straně druhé. Jako by zde snad náhle bylo nějaké jedno homogenní lidstvo se společnými zájmy. Že nic takového není, víme z bezpočtu případů, kdy tím největším je změna klimatu, za niž největší měrou mohou nejbohatší a její důsledky odnesou ti nejchudší.

Akcelerace zkázy

Od dob společenského převratu, jaký způsobily po celém světě sociální sítě, asi nikdo nečeká, že by technologičtí miliardáři sledovali s lidmi empatizující cíle. Je to už dávno, co šéf Mety Mark Zuckerberg označil soukromí za překonané a co tehdy šokovalo, je dnes naším každodenním životem. Elon Musk si koupil Twitter, aby z něj udělal svou soukromou stoku pro šíření ultrapravicových, konzervativních a jiných konspiračních narativů. Regulace obsahu sociálních sítí je čirá fikce, respektive je regulují majitelé dle svých potřeb.

S tímto vstupujeme do éry čehosi mnohem mocnějšího a výkonnějšího, za čím v pozadí stojí podobné postavy, jako za sociálními sítěmi. Co zde bylo vylíčeno jako absurdní stav světa, považují za úrodnou půdu pro akceleraci zkázy, kdy ani zničení planety a světa lidí není v extrémních polohách jejich světa považováno za problém, ale ideální stav.

Začít lze slavným výrokem jednoho z klíčových investorů Silicon Valley, Petera Thiela, který prohlásil, že „už nevěří, že jsou svoboda a demokracie slučitelné“. Není to ani šokující, je to jen popis světa, v němž demokracie čím dál viditelněji obtěžuje svobodu nejbohatších. Během nástupu a upevňování pozic sociálních sítí se demokracií ještě zaklínalo, dnes už to nikoho nenapadne. Část technologických oligarchů se vůbec netají svým despektem k představě, že si jsou lidé rovni nebo by snad měli mít stejná práva. Vládnout mají nejbohatší a nejmocnější, svět se má vrátit k hierarchické struktuře, v níž je jasné, kdo rozkazuje a kdo poslouchá. Celý tento koncept se formuje pod názvy jako temné osvícenství a neoreakcionářství.

Staví se proti představě pokroku směrem k větší svobodě a rovnosti. Naopak volá po návratu autoritářských struktur. Spojují svobodný trh, technologie a autoritářský systém řízení po vzoru řízení korporací. Výsledkem jsou koncepty reakčního modernismu nebo techno-feudalismu. Nakonec podobně se podle historika Rogera Griffina před stoletím formoval fašismus coby fúze modernismu, reakcionářství a obrany před levicí, která prosazovala hodnoty lidské rovnosti.

Dnešní nejradikálnější postavy jdou dál, kdy za kýžený cíl vývoje považují eliminaci lidstva. Jako Nick Land, podle nějž intenzifikace kapitalistických procesů a technologických změn povede k radikální společenské transformaci a potenciálně k post-lidské budoucnosti. Tomuto cíli stojí v cestě rovnostářství a demokracie. Tomuto cíli stojíte v cestě vy.

Přežití na Zemi

Prohlášení jsou to radikální, ale ne šokující, protože nepřináší do našeho světa něco nového, jen naši současnost radikalizují. Co vypadá jako nezáměrný důsledek konzumního kapitalismu, tedy demografický a klimatický kolaps, považují za žádoucí cíl. Pomocí technologií chtějí toto směřování akcelerovat, ale pokud akceleracionisté minulosti chtěli skočit k utopické budoucnosti, oni nabízejí skok ke zkáze a rozvratu, kdy si výsledné trosky a sutiny rozparcelují novodobí feudálové nebo se z nich vznese umělé vědomí do vesmíru a za sebou nechá zcela zničenou a mrtvou planetu.

V takto pojaté vizi budoucnosti nejen že není nutné řešit klimatickou změnu, ale klidně ji můžeme urychlit a využít k destrukci stávajícího řádu. Přežití na Zemi není hodnota, pokud se upnete na postlidskou budoucnost nebo kolonizaci Marsu. Naopak, čím horší podmínky na Zemi, tím lépe.

Na kraj této propasti nás přivedly ekonomické nerovnosti, kdy hrstka lidí disponuje absurdním bohatstvím, ze kterého povstává absurdní moc, která se nemusí na nikoho ohlížet a hlavně se na nikoho ohlížet nechce. Vytváří proto mytologii světa, v níž by jejich jednání dávalo smysl, v níž by si za své nahromaděné peníze koupili transcendenci. Umělá inteligence má tento postup dle různých variant urychlit, pomoci uskutečnit, nebo má být konečným cílem transhumánního nebo dokonce posthumáního světa.

Zpět na pláně a doprostřed lesů

To ale ještě neznamená, že se to stane, nebo že je takový vývoj nevyhnutelný. Jejich ideologie ostatně není koherentní ani logicky neprůstřelná, šokuje spíše svou trivialitou, náhodným lepením věcí k sobě, jako když si straka sbírá lesknoucí se cetky, protože se jí prostě líbí.

Celý tento vývoj nám klade prastaré otázky: kdo vlastně jsme, když ne tohle. Zda když předáme část své technokratické mysli mohem výkonnějším strojů, bude to, co zbyde, ryze lidské. Jestli nám náhodou nezbydou všechny ty emocionálně biologicky náročné věci, které jsme se tzv. civilizací snažili kamsi uklidit. Zda nás přenechání kanceláří algoritmům nevrací zpět na pláně a doprostřed lesů, do prostředí, které jsme svou činností takřka zcela zničili, jako bychom se po staletí snažili zabít sami sebe.

Leccos lze o možné podobě žitelné budoucnosti odvodit inverzně. Technologičtí oligarchové chtějí kapitalismus, ne demokracii. Rovnost ohrožuje jejich svobodu. Planetu a život na ní považují za zbytečný. Na tom už lze leccos postavit. Ale nejdříve se musíme stát znovu lidmi, před čímž po celou historii různými kličkami utíkáme.

červen 2025