Social Robotics
Naučiť sa žiť s robotmi

Keď sa stroje podieľajú na živote, potrebuje spoločnosť nové pravidlá. Rozhovor s filozofkou Johanou Seibt, ktorá sa na univerzite Aarhus venuje výskumu v novej oblasti „robofilozofia“. Johana Seibt iniciovala konferenciu, ktorá sa konala online v termíne od 18. do 21. augusta 2020.

Von Stefan Heidenreich

Pani Seibt, čo nás čaká, keď sa roboti budú podieľať na živote?
 
Už skoro dve desaťročia existuje v rámci robotiky nová vedná oblasť -social robotics, sociálna robotika. Na rozdiel od priemyselných robotov sú „sociálni“ roboti konštruovaní a programovaní tak, že svojim vzhľadom, pohybovými vzorcami, jazykovými reakciami a interaktívnymi funkčnými výkonmi vzbudzujú dojem sociálnych interakčných partnerov.

Je zaujímavé, že pôvodné motivácie vedúce k vývoju robotov so „sociálnou inteligenciou“ boli čisto teoretické, čoskoro sa však prejavili ich praktické perspektívy. Roboti, s ktorými možno zaobchádzať tak „ako keby to boli osoby“, tak sformulovala „Cynthia Breazeal v roku 2002 „sen“ sociálnej robotiky, ponúkajú na prvý pohľad možnosť nahradiť ľudí, alebo minimálne individuálne ľudské výkony v rámci spolupráce s inými ľuďmi.
 
Zdá sa, že najnovší vývoj v oblasti umelej inteligencie Artificial Intelligence (AI), najmä v oblasti rozpoznávania emócií a spracovania jazyka, skutočne „sociálnu“ robotiku čoraz viac približuje tomuto snu. Na politickej úrovni sa už začína konkrétne rozmýšľať o nasadení sociálnych robotov v oblastiach, ako sú opatrovanie seniorov, výchova, určité servisné výkony komunálnej správy a podobne. V Japonsku sa vývoj sociálnej robotiky výslovne spájal s faktom, že spoločnosť starne, čo má za následok zodpovedajúci nedostatok odborných pracovných síl (viac o tejto téme v knihe autorky Jennifer Robertson Robot Sapiens Japanicus (2018).

Verejná diskusia sa v súčasnosti koncentruje predovšetkým na výkony a riziká používania softwarových programov umelej inteligencie, ale hneď ako tento software „dostane nohy“, začnú sa prejavovať úplne iné dimenzie zásahu do akčného priestoru človeka, a to pozitívne a negatívne. Slogan industry 4.0 pokrýva politickú dimenziu automation age (McKinsey, 2017, A Future that Works), v ktorom je pre každú činnosť vypočítaný automation potential. Aktuálne je automatizačný potenciál činností s vysokým podielom sociálnej interakcie skôr nízky, ale čím vyšší pokrok v oblasti sociálnej robotiky dosahujeme, tým viac stúpa automatizačný potenciál týchto sociálnych činností.
 
Pandémia COVID-19 otvorila úplne novú perspektívu možností nasadenia „sociálnych“ robotov, a to v oblasti telekomunikácie. Všetci sme zažili, aké je dôležité pre našu komunikáciu, aby náš mozog mohol pri interakcii vnímať partnera trojdimenzionálne, fyzicky. Jednoduché sprostredkovanie informácií je možné aj prostredníctvom Zoom, ale rozhodovacie procesy a kreatívne spoločné myslenie sú podľa mojich skúseností neporovnateľne ťažšie. Takzvaní komunikační roboti, ktorí umožňujú, aby sa signály fyzicky vzdialeného partnera, s ktorým hovoríme, dali na druhej strane „stelesniť“, ponúkajú nové formy „teleprezencie“.
 
Citujete „sen“ a spomínate heslo „robot revolution“ – ide v prípade „sociálnej“ robotiky o utópiu?

Veľmi dúfam, že sa nám podarí dosiahnuť, aby využitie takzvaných „sociálnych“ robotov neurčoval trh. Skôr ho treba zaviesť a regulovať ako politické opatrenie a demokraticky legitimizovať prostredníctvom verejnej hodnotovej diskusie. Aby to bolo možné, treba vytvoriť nové interdisciplinárne výskumné štruktúry, vzdelávacie odbory a profesie, ktoré môžu zaručiť, že sa spoločenská hodnotová diskusia nestratí vo vyvolávaní paniky alebo v techno-utopistických snoch, ale že bude založená na vedomostiach. Dnes sa vo viacerých európskych krajinách objavuje kombinácia riadenia inovácií na báze technológií na jednej strane a Humanities bashing na druhej strane, čo vedie k tomu, že sa humanitné vedy spoločensky považujú za nedôležité a tým aj menej oprávnené na financovanie. Ak sa má „sociálna“ robotika ako politické opatrenie vydariť, tak budeme ako centrálnu súčasť potrebovať kultúrnu expertízu. Jednoducho povedané: sociálne a humanitné vedy ešte nikdy neboli také dôležité ako práve teraz – čím viac preniká technológia priamo do úlohy sociálne konajúceho vo fyzických a symbolických priestoroch ľudskej interakcie, tým viac je potrebná expertíza, ktorou inžinieri nedisponujú.

Na vysvetlenie mi dovoľte ešte raz sa vrátiť k „snu“ o „sociálnych“ robotoch. O čom pritom vlastne snívame? Nejde tu o nič nové, ľudský sen o mechanických pomocníkoch je prastarý, ťahá sa západnou a východnou kultúrnou imagináciou už od ranej antiky až do dnešných dní. Je to sen o neúnavnom, nezničiteľnom pomocníkovi, ktorý často disponuje aj nadľudskými silami a zručnosťami. Hollywood nám dnes ponúka rôzne verzie tohto starého sna, ktorý sa z psychologickej perspektívy môže javiť ako infantilný, verzie dobrosrdečné ako je R2D2 a C3PO zo Star Wars alebo aj sebaironizujúce, viď TARS z Interstellar. Ale kultúrno-historická vytrvalosť sna nie je zárukou jeho politickej realizácie. Sny nie sú konzistentné, a najmä: sny nie sú úplné. Realita „sociálnej“ robotiky je nanajvýš zložitá a otvára hlboké sociálne a hodnotovo-politické otázky, ktoré dnes ešte ani nedokážeme rozumne sformulovať, nieto zodpovedať.
 
Stvárnenie našich budúcich sociálnych vzťahov nesmieme prenechať (len) kultúrnej imaginácii mladých robotikov, ktorí samozrejme majú len tie najlepšie úmysly. Existuje veľa individuálnych štúdií, v súčasnosti sme však ešte veľmi vzdialení od toho, aby sme vedeli odhadnúť psychologické, sociologické a politické následky širokého použitia. Zapojenie expertízy humanitných vied nám môže pomôcť vyvinúť kultúrne udržateľnú formu sociálnej robotiky, ktorá sa dá aj politicky presadiť.
 
„Human-Robot Interaction Research“ existuje už asi jeden a pol desaťročia, kde je diskusia o praktickom využití?
 
Malo byť vlastne jasné, že ak zasahujeme do sociálnej reality novým druhom kvázi sociálnych agentov, mali by sme využiť expertízu všetkých relevantných vedeckých disciplín. Napriek tomu sa na „sociálnej“ robotike a HRI – Human Robot Interaction Research do dnes pracuje prevažne s odbornými disciplínami, pričom je to robotika, psychológia a Design Studies, čo nezodpovedá rozmanitosti našej sociokultúrnej reality.
 
Veľmi zjednodušene povedané: antropológiu a filozofiu, ktoré by mohli prispieť k analýze nových sociálnych praktík, na počudovanie sotva brali vážne a naopak, prekvapujúco mnohí antropológovia a filozofi si doteraz nevšimli, aké dôležité úlohy v oblasti „sociálnej“ robotiky by bolo treba riešiť. G. Verruggio v roku 2004 vyzval k zriadeniu Robo-Ethics a ja som spolu s mojimi kolegami v roku 2014 etablovala nové odvetvie robofilozofie, pretože nejde iba o etické, ale aj o široké teoretické otázky. Robophilosophy Conference Series, ktorú som založila a ktorú organizujem s mojim kolegom Marcom Nørskov, sa medzičasom stala najväčším podujatím na tému Humanities Research in and on Social Robotics. Práve pripravujeme konferenciu Robophilosophy 2020: Culturally Sustainable Robotics, v termíne od 18. do 21.augusta 2020, tento krát virtuálnou formou. V Dánsku sme už dospeli k tomu, že aj v odporúčaniach ministerstva pre financovanie výskumu EÚ v oblasti robotických technológií je výslovne integrovaná kultúrna dimenzia, a aj v Nemecku sa začína presadzovať názor, že kultúrne udržateľné užívanie možno dosiahnuť pomocou interdisciplinárnych vývojárskych tímov, v ktorých majú od počiatku svoje pevné miesto humanitné vedy.
 
Viete vysvetliť na príklade, pred aké otázky náš stavia „sociálna“ robotika?
 
Predstavte si, že by v McDonalds zaviedli predavačov-robotov, ktorí by vyzerali ako atraktívne ženy. Aké kultúrne a sociálno-politické signály by sa tým vysielali? A aké signály vysielame ľuďom, odkázaným na opateru a ich príbuzným, keď v domove pre seniorov nakúpia zdvíhacích robotov, ktorí vyzerajú ako veľkí plyšoví mackovia? Na kompletné spracovanie týchto otázok sú potrebné analytické pojmy a metódy a aj kultúrna expertíza, ktorá ešte nie je pevne zakotvená v interdisciplinárnom repertoári sociálnej robotiky.

Robotethika už dávnejšie upozornila na toto sociopolitické signálne pôsobenie dizajnových rozhodnutí. Sú však aj hlbšie problémy. Sociálni roboti s určitými vlastnosťami vyvolávajú u ľudí mechanizmy predvedomej sociálnej kognície. Na základe nášho „sociálneho mozgu“ sme náklonní robotov s určitým výzorom a s určitými pohybovými vzorcami nesprávne chápať ako príslušníkov nášho druhu, ba dokonca ako morálne subjekty. Máme tendenciu takýmto robotom, ktorí ani nemusia vyzerať podobne ako ľudia, pripisovať zámery, pocity a dokonca aj práva. Sociálna robotika sa spočiatku usilovala túto tendenciu cielene využiť na antropomorfizáciu. Medzičasom sme už trochu opatrnejší. Skutočnosť, že tak ochotne začleňujeme robotov do okruhu sociálnych agentov či dokonca morálnych subjektov, že voči nim pociťujeme empatiu, ba dokonca aj sympatie, nás stavia pred fundamentálny problém, ktorý presahuje etiku, a to problém opisu. Sociálni roboti nie sú nástroje, sú niečo, pre čo ešte nemáme žiadnu kategóriu.

Naša sociálna kognícia nás disponuje používať opisy, ktoré sú nesprávne ako aj nie úplne nesprávne. Robot nič „nerozpoznáva“, „neodpovedá“, „nevidí“, „nedonesie“, „nevyberá“, veď na to by potreboval vedomie a iné kognitívne schopnosti, ktoré sme doteraz považovali za výlučne ľudské schopnosti. Takéto opisy sú teda nesprávne. Na druhej strane, ak by tieto opisy boli správne, tak by sme pojmy ľudského sociálneho konania zredukovali na výlučne vonkajšie správanie – robot ma „spoznáva“, je primeraný opis, ak má byť „spoznávanie“ to, čím je vykonanie určitého správania. Takéto reduktívne interpretácie často používame v prípade zvierat: pes spozná a pozdraví svojho majiteľa. Ale tu je jasné, že ide o iné metaforické „ spoznávanie“ a „zdravenie“, veď pes predsa nepovie: „Fajn, že si už konečne tu!“
 
V prípade „sociálnych“ robotov si naproti tomu musíme položiť otázku, ako tu máme pojmovo a normatívne pokračovať. Máme zrušiť úvodzovky v spojení „sociálni“ roboti? To znamená, že sa rozlúčime so starými pojmami sociálneho konania a pripustíme, že všetko, čo sa správa podľa určitých vzorcov, je sociálny agent? Ak majú práva zvieratá, prečo nie aj roboti? Alebo máme zachovať staré pojmové chápanie a trvať na tom, že len ten má práva, kto zažíva fenomenológiu vedomia a vie o tom?
 
Tu zachádzame do otázok teoretickej filozofie, teda filozofie ducha, a ontológie, ako aj politickej filozofie. Západné demokratické spoločnosti legitimujú politickú autoritu pomocou pojmu osoby, ktorý pochádza zo storočia osvietenstva. Tento pojem osoby, veľmi úzko súvisiaci so schopnosťami ľudskej sociálnej subjektivity, teraz „sociálna“ robotika spochybňuje. V máji 2016 Európsky parlament navrhol priznať sofistikovaných robotom status Electronic Person. Následná diskusia ukázala, ako veľmi sa otrasie naše politické myslenie, keď sa to, čo patrí spolu – teda osoba, sociálny subjekt, rozum, inteligencia, cit – zrazu roztrhne.
 
Často sa hovorí o tom, že roboti nám vezmú prácu. Ako to vidíte Vy?
 
To je sociálno-politická dimenzia „sociálnej“ robotiky, ktorú som už naznačila. V prípade uvážlivého nasadenia „sociálnych“ robotov, ktoré sú vyvinuté v súlade s princípmi kultúrne udržateľnej robotiky, to podľa môjho názoru bude skôr naopak. Vzniknú nové profesie, ktoré sa zamerajú na spoluprácu so „sociálnymi“ robotmi. Pôjde pri tom o to, aby sa presne preskúmalo, aké formy spolupráce v zmysle hesla čistá koordinácia verzus kooperácia verzus tímová práca sú možné a prínosné. Predovšetkým bude záležať na tom, ako budú opísané, pretože v podstate, a to je práve ten paradox, roboti (po nemecky: robotníci) nedokážu skutočne „pracovať“.

Expertíza filozofie bude čoraz žiadanejšia, najmä – ale nielen - keď sa politika rozhodne pre model integratívnej sociálnej robotiky. Firmy v oblasti umelej inteligencie ako Deep Mind už teraz hľadajú etikov. Ale, a to tkvie v definícii nového odvetvia robofilozofie ako philosophy of, for, and by social robotics, „sociálna“ robotika umožňuje filozofii prijímať aj nové formy. Filozofi v tejto oblasti môžu navrhovať technické riešenia a experimentálne ich skúmať. V Aarhus napríklad práve skúmame, že sociálnu nespravodlivosť, ktorá sa prejavuje v pracovných pohovoroch ako gender bias (rodová zaujatosť), alebo aj ako iné predsudky, týkajúce sa výzoru uchádzačov a uchádzačiek o zamestnanie, môžeme zmierniť tým, že rozhovor prebehne prostredníctvom telekomunikačného robota s neutrálnym ľudským výzorom.

Veľa sa hovorí o robotoch v politickej komunikácii. S čim tu máme do činenia v porovnaní s Vašim modelom?

Ide o rôzne veci. V prípade nášho modelu ISR (Integratívna sociálna robotika) ide o vývoj kultúrne udržateľných aplikácií fyzických, „sociálnych“ robotov, v transparentnom, participatívnom procese na báze hodnôt, ktorý zahŕňa expertízu všetkých relevantných disciplín a predovšetkým kultúrnu expertízu. V prípade týchto robotov, ktorí v súčasnosti rušia naše politické procesy, od komunikácie až po falšovanie volieb, ide skoro presne o opak toho, a to o skryté, manipulatívne procesy, ktoré sú vedené mocenskými záujmami.
 
Nezávisle od problémov politickej bezpečnosti, ktoré vytvára automatické profilovanie, podceňujeme podľa môjho názoru, ako veľmi by mohli algoritmy učenia súčasnej umelej inteligencie podkopať naše doterajšie chápanie základov politických a právnych rozhodovacích procesov. Doteraz sa tieto rozhodovacie procesy riadili podľa etických noriem, ktoré sa etablovali normatívnymi praktikami ako je odborná diskusia. Teraz začíname nahrádzať „reflektívne equilibrium odbornej diskusie“ automatickým procesom indukcie normy, ktorý sa riadi podľa etických intuícií množstva ne-expertov, ktorí možno ani nie sú reprezentatívni. Veľmi zásadnou je pritom otázka, nakoľko sa máme prakticky a aj teoreticky rozlúčiť s ľudským rozumom a diskurzívnymi procesmi, ktoré sme už od dávna používali pri vytváraní rozumných rozhodnutí.

Stefan Heidenreich (carta.info) viedol interview prostredníctvom emailovej komunikácie.