Odborník na AI Toby Walsh  „Zlatý vek filozofie“

Skratka AI (angl. Artificial Intelligence) znamená umelú inteligenciu. Popredný odborník na technológie Toby Walsh však rád hovorieva, že písmeno A by mohlo rovnako znamenať aj „augmented“, teda rozšírenú inteligenciu. Ako môže človek spolupracovať s umelou inteligenciou pri hľadaní nových riešení a v umeleckej tvorbe?

Toby Walsh je jedným z popredných svetových výskumníkov umelej inteligencie, ktorý celý život skúma, ako fungujú a ako tvoria stroje aj ako nám môžu pomôcť robiť lepšie rozhodnutia napríklad v oblasti zdravotníctva či podnikania.
 
Autor nedávno publikovanej knihy s názvom 2062: Svet, ktorý vytvorila umelá inteligencia (2062: The world that AI created) tvrdí, že musíme prestať vnímať stroje ako konkurenciu a považovať ich skôr za spojencov a spolutvorcov. V rozsiahlom rozhovore s Goetheho inštitútom hovoril o kreativite, o ľudskej a umelej inteligencii a o budúcich rozhodnutiach, ktoré budeme musieť v súvislosti s umelou inteligenciou urobiť.

Nedávno ste spolupracovali s Uncanny Valley – skupinou hudobníkov a expertov na umelú inteligenciu, ktorá vyhrala prvú spevácku súťaž umelej inteligencie v štýle Eurovízie. Prečo si myslíte, že víťazná pieseň, ktorú napísal človek v spolupráci so strojom, bola pravdepodobne lepšia ako väčšina skladieb, ktoré napísali ľudia pre pôvodnú súťaž?

Myslím, že Uncanny Valley mali pomerne veľkú výhodu, pretože za svoj úspech skutočne vďačia spolupráci človeka so strojom. Nebola to skladba vytvorená len počítačom. A nebola to ani skladba vytvorená len človekom. Bola to akási syntéza oboch. Myslím, že práve v tejto oblasti v budúcnosti vznikne najzaujímavejší „priestor na hranie“, pretože človek si odjakživa rozširoval svoje schopnosti pomocou strojov.
 
Bude zaujímavé sledovať, ako sa chopíme počítačov a ako ich budeme využívať na rozšírenie svojich kreatívnych schopností. Nemáme žiaden dôvod predpokladať, že by sme sa pomocou strojov nemohli stať lepšími hudobníkmi či lepšími básnikmi. Vždy, keď sme strojom dovolili, aby nám pomáhali, sme robili veci lepšie. Súčasťou problému je aj to, že v skutočnosti nerozumieme podstate vlastnej tvorivosti, a stroje môžu byť nástrojom, ktorý nám môže pomôcť lepšie pochopiť ťažko polapiteľný fenomén kreativity. Toby Walsh počas rozhovoru v Goetheho inštitúte v Sydney | © Goethe-Institut

Keď sa pozriete na problematiku definície kreativity, v čom vidíte výhody umelej inteligencie oproti človeku, jej pridanú hodnotu? A v čom spočívajú naše jedinečné ľudské vlastnosti?

Jednou z charakteristických vlastností počítačov je, že nekompromisne a do posledného písmena plnia pokyny, ktoré im dáte. Stroju môžete prikázať, aby vytvoril všetky permutácie určitého pojmu, a keďže je to stroj a keďže je rýchly, vygeneruje vám doslova všetky existujúce možnosti. Človek nemusí byť taký dôkladný a systematický, môže sa aj unaviť a niektoré možnosti vynechať. Takže možno práve v tom spočíva jedna z výhod umelej inteligencie.
 
Má však aj množstvo nevýhod. Stroje nemajú naše emócie ani vedomie. V súčasnosti začíname programovať stroje tak, aby rozumeli ľudským emóciám, ale ich emocionálny život je v porovnaní s naším výrazne ochudobnený. Mali by sme im umožniť oveľa bohatší citový život. Mohli by sme do nich naprogramovať akési počítadlo premenných, ktoré by im hovorilo, kedy sú šťastné, smutné alebo nahnevané.
 
Ďalším mimoriadne dôležitým aspektom, ktorý sa týka aj väčšiny umení, je, že sme smrteľní. Nežijeme večne. Mnohí umelci skúmajú napätie, ktoré to v nás vyvoláva. Stroje nie sú živé a nemajú vedomie. Aj keď sa nám podarí dosiahnuť, aby stroje vytvárali umelecké diela, nikdy nebudú mať kolektívnu skúsenosť človeka, súčasťou ktorej je aj umieranie a prežívanie odchodu našich blízkych z tohto sveta. Stroje v skutočnosti nikdy naozaj nezažijú tieto neuveriteľne bolestivé skúsenosti ľudskej existencie.
 
Myslím, že je jednoznačné, že stroje v skutočnosti nikdy nebudú schopné prežívať niektoré časti umeleckého procesu, pretože nebudú nikdy smrteľné a nikdy sa nezamilujú tak, ako sa môžeme zamilovať my.

Máme sklon zameriavať sa na to, aby stroje boli čoraz múdrejšie. No ak napríklad dovolíme, aby namiesto nás písali stroje na písanie, nezačnú upadať naše schopnosti písať a čítať a naša schopnosť kriticky a analyticky myslieť? Vidíte nejaké riziko v tom, že keď sa umelá inteligencia stane neoddeliteľnou súčasťou nášho života, bude ľudstvo čoraz hlúpejšie?

Áno, domnievam sa, že toho sa musíme naozaj obávať. Ak určité činnosti prenecháme strojom, zlenivieme – to je typicky ľudská vlastnosť. A je jednoznačné, že to bude mať ďalekosiahle následky. Sme pravdepodobne posledná generácia, ktorá dokáže čítať mapy, pretože túto schopnosť sme už prenechali strojom. Lenže ak nebudeme študovať mapy, nebudeme si pamätať veci a budeme sa spoliehať len na rôzne prístroje, zmení nás to.
 
Dnes už vieme, že tento proces v nás vyvolá fyzické zmeny: pri čítaní máp sa totiž rozvíja hipokampus – časť mozgu, ktorá zodpovedá za priestorové myslenie. Myslím, že pri prenechávaní niektorých činností strojom musíme byť veľmi opatrní – mohlo by sa stať, že sa vzdáme niečoho veľmi dôležitého.
 
Pokiaľ ide o jazyk a našu ústnu tradíciu, ľudia v minulosti sedávali okolo ohňa a rozprávali si príbehy, ktoré sa tradovali z generácie na generáciu. Bola to dôležitá súčasť našej kultúry, o ktorú sme prišli, pretože tie príbehy si už nepamätáme. Na druhej strane sme však dostali niečo iné, niečo oveľa cennejšie: dostali sme literatúru, príbehy, ktoré prekračujú hranice času a priestoru. Dostali sme diela Goetheho, Shakespeara, Wordswortha a ďalších svetových spisovateľov, ktoré vznikli pred stáročiami a tisícročiami a ktoré by sme nikdy nespoznali, keby sme sa spoliehali len na ústnu tradíciu.
 
Tie príbehy by sme si nedokázali zapamätať a neprehovárali by ku všetkým ľuďom tak široko a ďaleko v čase a geografickom priestore. Takže v tomto prípade sme urobili veľmi výhodný obchod. Nie som však presvedčený o tom, že za prenechanie každej činností technológiám získame niečo lepšie. Mali by sme sa nad tým poriadne zamyslieť, keďže čoraz viac kultúrnych činností prenechávame strojom: dostávame za to niečo cennejšie? Toby Walsh s UNSW robotom Baxter | Foto: © Grant Turner UNSW

Tvrdíte, že počítače môžu robiť tie hnusné, nudné, zložité a nebezpečné činnosti a my sa môžeme pohodlne usadiť a tešiť sa z príjemnejších stránok života. Myslíte si, že vďaka umelej inteligencii sa zvýši kultúrna tvorba, kultúrna spotreba a budeme mať viac kultúrnych zážitkov?

Myslím, že myšlienka, že by sme mohli získať viac voľného času, nerobotovať od deviatej do piatej a mohli sa venovať dôležitejším veciam v živote ako umenie, rodina a naši blízki, je nádherná. Už doterajší vývoj technológií umožnil skrátenie pracovného týždňa, čím sme získali viac času, aby sme sa mohli venovať týmto záležitostiam.
 
Takže to možno povedie k druhej renesancii, obdobiu rozkvetu tvorivosti. Musím poznamenať, že víkend bol výdobytkom priemyselnej revolúcie. Kedysi sa pracovalo sedem dní v týždni. Ľudia vstávali za svitu, pracovali až do západu slnka a potom išli spať. Vďaka automatizácii a priemyselnej revolúcii sme mohli žiadať, aby sme mohli chodiť v nedeľu do kostola. Potom sme mohli žiadať, aby sme mali v sobotu popoludní voľno. Potom voľnú celú sobotu. A dnes má väčšina z nás dva dni v týždni voľné.
 
Je to len čisto ľudská konštrukcia. Na Novom Zélande, vo Veľkej Británii a v iných krajinách sveta je množstvo spoločností, ktoré skúšajú štvordňový pracovný týždeň. Zistili pritom dve zaujímavé skutočnosti. Prvou je, že výkonnosť ľudí je rovnaká. Človek prestane organizovať nezmyselné mítingy a venuje sa svojej práci. Ak sú ľudia rovnako produktívni, môžete im namiesto piatich odpracovaných dní zaplatiť štyri dni. A po druhé: ľudia sú spokojnejší, viac času venujú veciam, ktoré sú pre nich dôležité, či už je to čítanie, písanie, maľovanie, varenie alebo čokoľvek, čo im spôsobuje radosť, namiesto toho, aby svoj život premrhali v práci.
 
Ak sa na to pýtate ľudí na sklonku života, väčšina z nich vám nepovie: „Ľutujem, že som netrávil viac času v kancelárii.“ Ľudia vám povedia: „Kiežby som bol strávil viac času s rodinou, kiežby som bol venoval viac času dôležitým veciam v živote, a nielen tomu, aby som mal čo jesť, mal si čo obliecť a kde bývať.“ Technológie nám môžu pomôcť nielen rozšíriť naše schopnosti, ale nám môžu poskytnúť aj viac času. A čas je, samozrejme, to najcennejšie, čo máme. Jediná vec, ktorú si človek na tejto planéte nemôže kúpiť, je čas. Je to naše najväčšie bohatstvo. A ak nám stroje dokážu dať čas, nič cennejšie nám už dať nemôžu. Rok 2020 sa niesol v znamení protestov v USA a na celom svete. | Foto: Nathan Dumlao / Unsplash

Vaše knihy sú naliehavou výzvou pre spoločnosť, aby začala riešiť problematiku umelej inteligencie. Mohli by ste uviesť niektoré z najdôležitejších rozhodnutí, ktoré musíme urobiť v súvislosti s umelou inteligenciou a pre zlepšenie spoločnosti?

Myslím, že sú to dve kľúčové rozhodnutia. Jedno sa týka spravodlivosti: v našej spoločnosti vidíme stále väčšiu nerovnosť, čo spôsobuje ďalšiu eskaláciu sociálneho konfliktu, ktorému už dnes čelíme. Takto to nemôže pokračovať. Pre zdravé a funkčné spoločnosti by bolo príliš deštruktívne, keby sme sa vážne nezaoberali skutočnosťou, že veľmi bohatí sú stále bohatší a my ostatní zostávame pozadu. To nie je recept na dlhodobo fungujúcu demokraciu. Budeme svedkami toho, že sa ľudia vzbúria. Jeden z mojich kolegov povedal, že sa nebojí toho, že by nad nami prevzali moc roboti; oveľa väčšie obavy má z toho, že sa vzbúria ľudia, a to oveľa skôr, než by sa dokázali vzbúriť roboti.
 
Druhé rozhodnutie sa týka nášho roztriešteného politického diskurzu. Tu musím opäť konštatovať, že k tomu prispieva aj umelá inteligencia aj technológie. Sme svedkami výrazne polarizovaných diskusií v spoločnosti. Čoraz častejšie sa zdá, že naše demokracie nefungujú správne. Na mnohých miestach to vyzerá, že nemáme dobré vodcovstvo. A to, opäť zdôrazňujem, nie je udržateľné. A musíme sa obávať aj toho, že technológie posilnia niektoré z týchto trendov: zneužívanie sociálnych médií a strojového učenia na mikrocielenú reklamu, ktorá ďalej triešti náš politický diskurz. To sú dva znepokojujúce trendy, ktorým musíme venovať veľkú pozornosť.

Ako by sa teda mali vyvinúť stroje, aby boli v súlade s ľudskými hodnotami, o ktorých hovoríte?

To je veľmi zložitá otázka. Žijeme v mimoriadne zaujímavej dobe, lebo keď sa snažíme a programujeme stroje, aby nám pomohli urobiť niektoré z týchto rozhodnutí, dostávame sa opäť k tomu, že stroje sú pri vykonávaní pokynov až frustrujúco dôsledné. Preto musíme byť pri ich programovaní mimoriadne presní. A to si vyžaduje, aby sme sa dôkladne zamysleli nad otázkami, o ktorých sme v minulosti možno uvažovali príliš hmlisto. A preto si myslím, že možno vstupujeme do zlatého veku filozofie, keď sa budeme musieť dôkladnejšie zamýšľať nad otázkami ako „čo znamená spravodlivosť z hľadiska sociálneho zabezpečenia, určovania poistných sadzieb alebo obmedzovania pohybu ľudí“ pre prípad, že by sme chceli niektoré z týchto rozhodnutí prenechať strojom.
 
Nad týmito otázkami sa budeme musieť dôkladne zamyslieť za pomoci filozofov, antropológov, sociológov a politológov, ako aj počítačových vedcov.
 
Ako technológ som iba jedným z tých, ktorí by sa mali venovať týmto témam. Sú to mimoriadne závažné a ďalekosiahle otázky týkajúce sa celej spoločnosti. Je to aj jedna z hlavných myšlienok mojej knihy: do tejto diskusie sa musíme zapojiť všetci, nielen geekovia zo Silicon Valley, ktorí tieto technológie vyvíjajú, ako to bolo v minulosti. Odzrkadľujú naše základné hodnoty, a preto ide o veľmi hlboké a dôležité otázky, na ktoré neexistujú jednoduché odpovede.

Krízy a výzvy môžu byť silným katalyzátorom zmien. Myslíte si, že pandémia spôsobená koronavírusom bude dostatočným šokom umožňujúcim reformu spoločnosti pred blížiacou sa revolúciou, ktorú spôsobí umelá inteligencia?

Ak sa vrátime do sveta, v ktorom sme žili, ľudstvo nemá žiadnu nádej. Mali by sme si uvedomiť, že nie je možné zastaviť otáčanie Zeme okolo vlastnej osi, a pritom si myslieť, že sa vrátime do „normálu“. Je to jednoznačný budíček, ktorý nám kladie otázku: „V akej spoločnosti chceme žiť?“
 
Ja by som chcel žiť v spoločnosti, ktorá si váži starších ľudí, ľudí pracujúcich v zdravotníctve, ľudí upratujúcich naše kancelárie, ľudí zabezpečujúcich verejnú dopravu: všetkých ľudí, ktorých sme si v minulosti dostatočne nevážili. Preto dúfam, že nastal čas zmeny a že sa k nej postavíme radikálne.
 
Chcel by som len pripomenúť, že v minulosti sme to už urobili. Keď sa koncom 18. storočia začala priemyselná revolúcia, urobili sme niekoľko radikálnych zmien. Vo väčšine krajín sme zaviedli vzdelanie, sociálne zabezpečenie a zdravotnú starostlivosť pre všetkých. Uskutočnili sme mnohé zmeny v štruktúre sociálneho zabezpečenia, aby sme ľuďom pomohli a aby mali zo zmeny osoh všetci.
 
Aj tento proces si vyžadoval určité šoky. Mnohé z týchto transformácií odštartovali hrôzy dvoch svetových vojen a veľkej hospodárskej krízy, ale urobili sme aj niekoľko pomerne radikálnych zmien v spôsobe riadenia našich spoločností, aby sa nám v nich žilo lepšie.
 
A preto dúfam, že keď sa o takých 50 rokov obzrieme späť, budeme si môcť povedať: „Bol to ten správny okamih, ten šok, ktorý nás donútil zamyslieť sa nad tým, akú spoločnosť tu dlhodobo chceme vytvoriť pre naše deti a vnúčatá.“  
Tento článok je súčasťou Kulturtechniken 4.0, online-projektu Goetheho inštitútu v Austrálii, ktorý sa zaoberá súhrou umelej inteligencie a tradičných kultúrnych techník.