Rychlý přístup:

Přeskočit přímo k obsahu (Alt 1)Přeskočit přímo k sekundární navigaci (Alt 3)Přeskočit přímo k hlavní navigaci (Alt 2)

Umělá inteligence
Ten, který odpovídá

Umělá inteligence
Umělá inteligence: Obava, že by svéhlavé objekty mohly zničit lidstvo, má hluboké kořeny | Foto (výřez): © Adobe

O nepřeklenutelných rozdílech mezi lidmi a stroji – esej.

Od: Peter Glaser

V roce 1997 zahájil britský kybernetik Kevin Warwick svou knihu March of the Machines (Pochod strojů) pochmurným scénářem budoucnosti. Warwick zastává názor, že světová populace bude už v polovině 21. století ovládána propojenou umělou inteligencí a dominantními roboty, kterým může člověk v nejlepším případě posloužit už jen jako někdo, kdo do systému vnese trochu chaosu.

Bude strojům někdy trapné, že je vytvořil člověk, tak jako se člověk styděl, když zjistil, že pochází z opice? Edward Feigenbaum, americký průkopník v oblasti umělé inteligence, si v 80. letech minulého století představoval, jak v budoucích knihovnách budou knihy vzájemně komunikovat a přitom neustále rozmnožovat své znalosti. Jeho kolega Marvin Minsky to okomentoval slovy: „Možná si nás ponechají jako domácí mazlíčky.“ Minsky byl v roce 1956 spoluorganizátorem konference na Dartmouth College v New Hampshire, kde se poprvé objevil pojem „artificial intelligence“ – umělá inteligence.

Přísliby počítačového rozšíření inteligence byly velkolepé. Elektronické mozky měly už brzy vyřešit problémy všeho druhu. Většina těchto očekávání se však nenaplnila nebo byla realizována až po desítkách let a v úzce vymezené oblasti jako například v šachu nebo v rozpoznávání vzorů. Technický pokrok posledních let však propůjčil vývoji novou dynamiku. Nové technologie ukládání dat do paměti, stále výkonnější superpočítače, nové koncepty databází pro zpracování obrovského množství dat, milionové investice velkých internetových koncernů a dnes ještě i soupeření států o světovou nadvládu prostřednictvím „algoritmických výhod“ nechávají znovu ožívat starý strach z umělé inteligence.
V květnu 2014 se čtyři prominentní vědci – nositel Nobelovy ceny za fyziku Frank Wilczek, kosmolog Max Tegmark, počítačový vědec Stuart Russell a patrně nejslavnější fyzik světa Stephen Hawking – obrátili na čtenáře britského listu The Independent s výzvou. Varovali před zavrhováním inteligentních strojů jako pouhé vědecké fikce: „Úspěšné uvedení umělé inteligence do chodu by bylo největší událostí v dějinách lidstva. Bohužel to také může být to poslední, pokud se nenaučíme zamezit rizikům, která s tím souvisejí.“

Zničení lidstva?

Je nápadné, že ve výzkumu umělé inteligence převládají muži, u jejichž patetické touhy po stvoření by mohla hrát roli patrně i obrácená forma „závisti penisu“, nazvěme to „závistí porodu“. Je to nezkrotná touha postavit proti živému organismu (který evoluce zdokonaluje ve stále rafinovanějších podobách už asi 400 milionů let – od vzniku života) nikoli pouze počítačem vybavený, vlastními silami vytvořený stroj stejné úrovně, ale takovou umělou inteligenci, která člověka předčí a která ho degraduje na přechodného tvora mezi opicí a nejnovějším technickým vrcholem stvoření.

Tato vize se označuje jako „silná umělá inteligence“ (anglicky „strong artificial intelligence“ nebo také „true AI“) a je založena na předpokladu, že každá funkce lidské existence může být počítačově zpracována, především však na tom, že lidský mozek funguje jako počítač. Všechna varování před šílenými vraždícími stroji se setkávají v jednom bodě, v singularitě. Je to moment, od kterého se stroj může autonomně zlepšovat a jeho výkonnost začíná explozivně růst. Ti, kteří před tím varují, se obávají, že tento hyperstroj, jakmile se jednou spustí, si vytvoří svou vlastní podstatu. Inteligentní já.

Obava, že by svéhlavé objekty mohly zničit lidstvo, má hluboké kořeny. Souvisí to se strachem, ale také s nadějí, že neživé věci mohou ožít, například s pomocí magie. Staří Egypťané dávali svým zesnulým do hrobu malé figurky, takzvané „vešebty“ (slovo „vešebt“ bývá překládáno jako „ten, který odpovídá“), které měly za mrtvého vykonávat práci na onom světě. Poprvé v historii se zde objevuje myšlenka počítače – „toho, který odpovídá“, odpovědného zástupce, který vykoná každý příkaz. Pokyny, kterými jsou malé figurky popsány, se nápadně podobají algoritmické posloupnosti moderního počítačového programu:

Kouzelná panenko, slyš mě!
Až budu povolán,
abych vykonal práci...,
věz, že strážci onoho světa
určili místo mě tebe,
abys osila pole,
naplnila kanály vodou,
přenesla písek...


Na konci se praví:
Tady jsem a poslouchám tvé příkazy.

Zatím se ještě chováme ke strojům jako k domácím mazlíčkům. Bude to někdy obráceně?  Zatím se ještě chováme ke strojům jako k domácím mazlíčkům. Bude to někdy obráceně?  | Foto (detail): © picture alliance / dpa Themendienst / Andrea Warnecke

Něco takového bychom dnes nazvali „dialogově orientovaným uživatelským vedením“ – a víru v to, že kouzelné zaříkávadlo může oživit hliněnou figurku, bychom nazvali „pověrou“. Tato pověra si našla cestu až do současnosti. Zastánci „silné umělé inteligence“ jsou přesvědčeni o tom, že se v počítači jednou nějak vytvoří živé povědomí. Razí hypotézu, že myšlení lze zredukovat na zpracování informací, které je nezávislé na konkrétním materiálu nosiče. Takže mozek není bezpodmínečně nutný a lidská mysl může být nahrána do počítače. Pro Marvina Minského, který zemřel v lednu 2016, byla umělá inteligence pokusem, jak uniknout smrti.

Iluze strojového já

V roce 1965 vytvořil informatik Joseph Weizenbaum na Massachusettském technologickém institutu (MIT) program s názvem ELIZA, se kterým bylo možné – písemně – konverzovat. Nechal ELIZU hrát roli psychoterapeuta, který vede hovor s klientem. „Moje matka je divná,“ napíše člověk. „Jak dlouho už je vaše matka divná?“ zeptá se počítač. Znamená to snad, že se stroje probudily? Co to k nám mluví, že to působí tak, jako by se uvnitř počítačů vyvinula jakási jádra bytostí, která se téměř k nerozeznání podobají těm lidským? 

Dříve se přístroje vyjadřovaly pouze formou neosobních signálů – např. „tlak oleje klesá“ nebo „provozní porucha“. Weizenbaum byl ohromen, jak rychle si osoby, které se bavily s ELIZOU, vytvořily s algoritmicky kostýmovaným strojem emocionální vztah. Když program vyzkoušela Weizenbaumova sekretářka, už po krátké době požádala svého šéfa, aby opustil místnost, protože o sobě prozrazovala intimní detaily. Stroj, který je programátorem instruován, aby říkal „JÁ“, však ještě zdaleka nemá skutečné „já“.

Mozek jako počítač nemá nic společného se skutečnými znalostmi o mozku, o lidské inteligenci nebo osobním já. Je to moderní metafora. Nejdříve se předpokládalo, že člověk je vytvořen z hlíny a že bůh do něj vdechl svého ducha. Později se stal populárním hydraulický model – představa, že za tělesné a duševní fungování je zodpovědný tok „šťáv“ v těle. Když se v 16. století konstruovaly automaty z pružin a ozubených převodů, přišli přední myslitelé jako francouzský filosof René Descartes s myšlenkou, že lidé jsou složité stroje. V polovině 19. století přirovnal německý fyzik Hermann von Helmholtz mozek k telegrafu. Matematik John von Neumann konstatoval, že funkce lidského nervového systému je digitální a nacházel stále nové paralely mezi složkami tehdejších výpočetních strojů a složkami lidského mozku. Ale zatím nikdo nenašel v mozku paměťovou banku, která by alespoň přibližně fungovala tak jako datová paměť počítače.

Jen málo vědců zabývajících se výzkumem v oblasti umělé inteligence se obává jakési superinteligence toužící po moci. „Za celou komunitu mohu říct, že rozhodně neusilujeme o vývoj něčeho, co by mohlo veřejnost znepokojovat,“ uklidňuje všechny Dileep George, spoluzakladatel společnosti Vicarious, která se zabývá umělou inteligencí. „Jako vědci jsme povinni objasňovat veřejnosti rozdíl mezi Hollywoodem a realitou.“

„Ti, kteří odpovídají“: Takzvané „vešebty“, staroegyptské sošky vkládané do hrobů, měly za zesnulé vykonávat práci na onom světě. „Ti, kteří odpovídají“: Takzvané „vešebty“, staroegyptské sošky vkládané do hrobů, měly za zesnulé vykonávat práci na onom světě. | Foto (výřez): © picture alliance / akg / Bildarchiv Steffens

Společnost Vicarious, která získala 50 milionů dolarů mimo jiné od Marka Zuckerberga a Jeffa Bezose, pracuje na algoritmu, který má fungovat jako systém vnímání lidského mozku – což je nesmírně ambiciózní cíl. Největší umělé neuronové sítě, které dnes fungují v počítačích, mají zhruba miliardu vzájemných propojení, což je tisícinásobek toho, co bylo možné ještě před několika lety. Ve srovnání s mozkem je to však stále ještě mizivě málo – odpovídá to zhruba jednomu milimetru krychlovému mozkové tkáně. Na tomografii by to bylo méně než jeden voxel, což je trojrozměrný ekvivalent pixelu.

Ústředním problémem umělé inteligence je komplexnost světa. Člověk, který se s touto komplexností musí vypořádat, je už jako novorozenec při příchodu na svět vybaven evolučně odvozenými potenciály sebe sama – svými smysly, trochou reflexů, které jsou důležité pro jeho přežití, a – což je nejdůležitější – výkonnými mechanismy učení, které mu umožňují rychle se měnit, takže dokáže se svým světem postupně stále lépe komunikovat, i když je tento svět zcela jiný, než byl svět jeho vzdálených předků.

Počítač naopak neumí ani počítat do dvou, zná pouze nulu a jedničku a zkouší to se směsí hlouposti a rychlosti, možná ještě tak se základními pravidly, takzvanými heuristikami, a spoustou náročné matematiky (viz neuronové sítě). Abychom pochopili třeba jen základy toho, jak mozek ovlivňuje lidský intelekt, museli bychom znát patrně nejen aktuální stav všech 86 miliard neuronů a 100 bilionů jejich spojení, nejen různé intenzity, kterými jsou spojeny, a nejen stav více než 1000 proteinů, které existují v každém bodě spojení, ale také to, jak příslušná okamžitá aktivita mozku přispívá k integritě celého systému. 
K tomu se přidává jedinečnost každého mozku, která plyne z jedinečnosti životního příběhu každého člověka.

Stroj s občanskými právy: Humanoid Sophia konverzuje a projevuje emoce – a je prvním robotem se státním občanstvím. V roce 2017 byl Saúdskou Arábií uznán za právní subjekt. Stroj s občanskými právy: Humanoid Sophia konverzuje a projevuje emoce – a je prvním robotem se státním občanstvím. V roce 2017 byl Saúdskou Arábií uznán za právní subjekt. | Foto (výřez): © picture alliance / Niu Bo / Imaginechina / dpa

 

Umělá inteligence, domněle mocné algoritmy, společenské následky počítačového světa – na Goethe.de se nacházejí další texty, které se zabývají těmito tématy a otázkami a diskutují o nich.

Jsou naše základní práva v dobách velkých dat, sociálních sítí a algoritmů, které rozhodují, stále dostatečnou ochranou? Aby tato ochrana byla zaručena, usilují němečtí experti na digitální technologie o přijetí Charty digitálních základních práv Evropské unie.

Když inteligentní stroje přijímají rozhodnutí na základě své logiky, má to nejen právní a praktické, ale také etické důsledky. Etická komise se proto zabývá například odpovědností za rozhodování u autonomních vozidel.

Také moc názorových robotů je vnímána kriticky. Do jaké míry jsou tito roboti schopni ovlivňovat politické procesy? Minulé volební boje poskytly v tomto ohledu mnoho námětů k diskusi.

Debata o účinnosti algoritmů je celkově ovlivněna požadavkem transparentnosti na straně jedné a stále intenzivnějším využíváním služeb Googlu, Facebooku a ostatních poskytovatelů na straně druhé.

Rozmach digitálních technologií se projevuje v mnoha oblastech běžného života. Například roboty dnes používají stále častěji podniky všeho druhu – nejen ve výrobních halách, ale například také v pečovatelské oblasti. To skrývá některá rizika, která se týkají bezpečnosti na pracovištích, ale zároveň to nabízí šance pro větší svobodu a vyšší efektivitu.

Utopií už rozhodně není model chytrého města, tzv. smart city – města, které je díky inteligentním technologiím ekologické a zároveň odpovědné v zacházení se zdroji. Taková chytrá komunita však není jen tak a platí za to svou cenu – veřejný prostor a lidé, kteří v něm žijí, jsou téměř kompletně proměřeni.

A co dělá umění? Také umění využívá umělou inteligenci ke svým účelům. Stále více kreativních lidí se ve svých dílech věnuje vztahu mezi kódem, uměním a životem v digitálních světech.