Sociální robotika
Naučit se žít s roboty

Často mají v sobě něco lidského
„Sociální“ roboti: Často mají v sobě něco lidského | Foto (detail): picture alliance / BSIP | BSIP

Když se stroje účastní života, potřebuje společnost nová pravidla. Přinášíme rozhovor s filozofkou Johannou Seibt, která na Aarhuské univerzitě v Dánsku provádí výzkum v nové výzkumné oblasti zvané „robofilozofie“ (robophilosophy). K tomuto tématu iniciovala Johanna Seibt také vznik konference, která se koná každé dva roky – v roce 2020 se konala online v době od 18. do 21. srpna.

Od: Stefan Heidenreich

Paní Seibt, co nás čeká, až se roboti budou podílet na životě?

Už asi dvě desetiletí existuje v rámci robotiky nové výzkumné odvětví zvané „sociální robotika“ (social robotics). Na rozdíl od průmyslových robotů jsou takzvaní „sociální roboti“ konstruováni a programováni tak, aby svým vzhledem, pohybovými vzorci, jazykovými reakcemi a interaktivními funkcemi vzbuzovali dojem partnerů pro sociální interakci.  

Zajímavé je, že původní motivace pro vývoj robotů se „sociální inteligencí“ byla ryze teoretická, ale praktické perspektivy byly nasnadě. Roboti, se kterými můžeme komunikovat tak, „jako by to byli lidé“ (jak v roce 2002 zformulovala „sen“ sociální robotiky Cynthia Breazeal), nabízejí na první pohled možnost nahradit lidi – nebo přinejmenším individuální lidské úspěchy v rámci spolupráce s ostatními lidmi.
 
Zdá se, že nejnovější vývoj v oblasti umělé inteligence (anglicky „artificial intelligence“, zkráceně „AI“), zejména v oblasti rozpoznávání pocitů a zpracování jazyka, stále více přibližuje „sociální“ robotiku tomuto snu. Političtí činitelé už začínají uvažovat o konkrétním využití sociálních robotů v oblasti péče o seniory, ve výchově a v určitých službách poskytovaných místní samosprávou atd. V Japonsku je vývoj sociální robotiky výslovně uváděn do souvislosti se stárnutím společnosti a odpovídajícím nedostatkem kvalifikovaných pracovníků – viz kniha Robot Sapiens Japanicus autorky Jennifer Robertson (2018).

Na rozdíl od průmyslových robotů jsou takzvaní „sociální roboti“ konstruováni a programováni tak, aby svým vzhledem, pohybovými vzorci, jazykovými reakcemi a interaktivními funkcemi vzbuzovali dojem partnerů pro sociální interakci.

Johanna Seibt

Veřejná diskuse se v současné době soustřeďuje především na výkony a rizika plynoucí z používání softwarových programů umělé inteligence. Jakmile však tento software „dostane nohy“, objeví se zcela jiné dimenze zásahu do lidské sféry činnosti, pozitivní i negativní. Označení „průmysl 4.0“ skrývá politickou dimenzi „věku automatizace“ (automation age, McKinsey, 2017, Future that Works), ve kterém se pro každou činnost vypočítává „potenciál automatizace“ (automation potential). Momentálně je potenciál automatizace činností s vysokým podílem sociálních interakcí spíše nízký, ale čím více pokroku v sociální robotice uděláme, tím více stoupne potenciál automatizace těchto sociálních činností.
 
Pandemie nemoci covid-19 otevírá zcela nový pohled na možné využití „sociálních“ robotů – v oblasti telekomunikace. Všichni jsme nyní zažili, jak je pro naši komunikaci důležité, aby náš mozek dokázal vnímat partnera při interakci trojrozměrně, fyzicky – snadné zprostředkování informací je možné prostřednictvím aplikace Zoom, ale na základě mé zkušenosti jsou rozhodovací procesy a kreativní myšlení dohromady nesrovnatelně obtížnější. Takzvaní „komunikační roboti“, kteří umožňují, aby se signály fyzicky vzdálených partnerů při konverzaci „ztělesňovaly“ jinde, nabízejí nové formy „teleprezence“.
 
Citujete „sen“ a zmiňujete heslo „robotická revoluce“ – jde v případě „sociální robotiky“ o utopii?

Pevně doufám, že nedopustíme, aby o použití takzvaných „sociálních“ robotů rozhodoval trh, ale že se nám to podaří zavést a regulovat jako politické opatření – prostřednictvím demokraticky legitimovaného veřejného diskurzu o hodnotách. Aby to bylo možné, musíme vytvořit nové interdisciplinární výzkumné struktury, vzdělávací směry a profesní profily, které dokáží zaručit, že společenský diskurz o hodnotách se neztratí v panice nebo techno-utopických snech, ale může být založen na vědomostech. V dnešní době existuje v politice – v několika evropských zemích – kombinace řízení inovací založených na technologiích na straně jedné a napadání humanitních věd (humanities bashing) na straně druhé, což znamená, že humanitní vědy jsou považovány za společensky nedůležité, a proto nezasluhují přílišnou podporu. Pokud má „sociální“ robotika uspět jako politické opatření, pak potřebujeme kulturní odbornost jako ústřední součást. Zjednodušeně řečeno – ještě nikdy nebyly sociální a humanitní vědy tak důležité jako právě teď – čím více technologie v roli sociálního agenta proniká přímo do fyzických a symbolických prostorů lidské interakce, tím nutnější je odbornost, kterou inženýři neposkytují.

Realita „sociální“ robotiky je mimořádně mnohovrstevnatá a vyvolává zásadní sociální a hodnotově-politické otázky, které dodnes nedokážeme ani rozumně formulovat, natož na ně odpovědět.


Chtěla bych to vysvětlit podrobněji, a proto mi dovolte vrátit se ke „snu“ o „sociálním“ robotu. O čem v tomto ohledu vlastně sníme? Nejde o nic nového – lidský sen o mechanickém pomocníkovi je prastarý, prostupuje západní i východní kulturní imaginací od raného starověku až do současnosti. Je to sen o neúnavném, nezničitelném pomocníkovi, který má často také nadlidské schopnosti nebo dovednosti. Hollywood dnes dodává tento starý sen v bezelstných (viz R2D2 a C3PO z Hvězdných válek) nebo sebeironizujících (viz TARS z Interstellar) verzích, které mohou z psychologického hlediska působit infantilně. Ale kulturněhistorická životnost snu není zárukou jeho politické realizovatelnosti. Sny nejsou konzistentní a především – nejsou dokonalé. Realita „sociální“ robotiky je mimořádně mnohovrstevnatá a vyvolává zásadní sociální a hodnotově-politické otázky, které dodnes nedokážeme ani rozumně formulovat, natož na ně odpovědět.
 
Utváření našich budoucích sociálních vztahů nesmíme nechat (pouze) na kulturní imaginaci mladých robotiků, kteří mají samozřejmě nejlepší úmysly. Existuje mnoho individuálních studií, ale v současné době zatím ještě nejsme schopni posoudit psychologické, sociologické ani politické následky širokého používání sociálních robotů. Využití expertíz z humanitních oborů nám může pomoci vyvinout kulturně dlouhodobě udržitelnou formu sociální robotiky, která se dá také politicky realizovat.
 
„Výzkum interakce člověka s robotem“ existuje zhruba už patnáct let. V jaké fázi je diskuse o praktickém využití?
 
Vlastně by mělo být jasné, že pokud člověk zasahuje do sociální reality novým druhem kvazi sociálních agentů, měl by využívat poznatky ze všech relevantních vědních disciplín. Přesto se na „sociálních“ robotech a na výzkumu interakce člověka s robotem (human robot interaction research, HRI) dodnes pracuje jen v některých specializovaných disciplínách, jako je robotika, psychologie a designové studie. To však neodpovídá mnohovrstevnatosti naší sociokulturní reality.
 
Velice zjednodušeně řečeno: Překvapivě nebyl brán vážně přínos, který může mít při analýze nových sociálních praktik antropologie a filozofie, a překvapivě si naopak mnoho antropologů a filozofů dodnes neuvědomilo, které důležité úkoly v oblasti „sociální“ robotiky je nutné vyřešit. G. Verruggio vyzval v roce 2004 k zavedení roboetiky a já jsem společně se svými kolegy v Aarhusu v roce 2014 iniciovala vznik nového oboru robofilozofie (robophilosophy), protože jde nejen o etické, ale i o dalekosáhlé teoretické otázky. Robofilozofické konference, které jsem iniciovala a které organizuji společně se svým kolegou Marcem Nørskovem, jsou dnes největšími akcemi v oblasti humanitních výzkumů v sociální robotice. V současné době připravujeme konferenci na téma Robophilosophy 2020: Culturally Sustainable Robotics, která se bude konat od 18. do 21. srpna 2020, tentokrát online. V Dánsku jsme mezitím dospěli tak daleko, že doporučení ministerstva k podpoře výzkumu v oblasti robotických technologií v Evropské unii výslovně zahrnují také kulturní dimenzi. A také v Německu se začíná prosazovat názor, že kulturně dlouhodobě udržitelné aplikace mohou být vytvářeny pouze interdisciplinárními týmy vývojářů, ve kterých mají od počátku pevné místo zástupci humanitních věd.
 
Můžete na nějakém příkladu vysvětlit, které otázky vyvolává „sociální“ robotika?
 
Představte si, že by McDonalds zavedl ve všech svých pobočkách prodejní roboty vypadající jako atraktivní ženy. Jaké kulturní a sociálně-politické signály by to vysílalo? A jaké signály jsou vysílány lidem závislým na péči a jejich příbuzným, když jsou do domovů důchodců pořizováni roboti, kteří vypadají jako velcí plyšoví medvídci? Pro kompetentní řešení těchto otázek je třeba analytických pojmů a metod etiky a kulturních znalostí, které ještě nejsou pevně zakotveny v multidisciplinárním repertoáru sociální robotiky.

Etika robotů již dlouho upozorňuje na tyto sociopolitické signální účinky rozhodování o designu. Existují však hlubší problémy. Sociální roboti s určitými vlastnostmi spouštějí u lidí mechanismy předvědomé sociální kognice. Kvůli našemu „sociálnímu mozku“ máme sklon vnímat roboty s určitým vzhledem a s určitými pohybovými vzorci nesprávně jako bytosti, které jsou stejného druhu jako my, nebo dokonce jako morální subjekty. Máme sklon připisovat takovým robotům – kteří ani nemusejí vypadat jako lidé – vědomé záměry, emoce a dokonce i práva. Sociální robotika se původně snažila tuto tendenci cíleně využít k antropomorfizaci. Dnes už jsou lidé trochu opatrnější. Skutečnost, že roboty tak ochotně začleňujeme do okruhu sociálních agentů a dokonce i morálních subjektů, že vůči nim projevujeme empatii, ba dokonce že k nim pociťujeme sympatie, nás staví před zásadní problém, který přesahuje rámec etiky – před problém popisu. Sociální roboti nejsou nástroje – jsou čímsi, pro co ještě nemáme vůbec žádnou kategorii.

Kvůli našemu „sociálnímu mozku“ máme sklon vnímat roboty s určitým vzhledem a s určitými pohybovými vzorci nesprávně jako bytosti, které jsou stejného druhu jako my, nebo dokonce jako morální subjekty.

Naše sociální kognice nás disponuje k používání popisů, které jsou chybné i ne zcela chybné. Robot nic „nerozpoznává“, na nic „neodpovídá“, nic „nevidí“, na nic „se neptá“, nic „nepřináší“ ani „nevybírá“ – k tomu by potřeboval vědomí a ostatní kognitivní schopnosti, které jsme doposud považovali za výlučně lidské schopnosti. Takové popisy jsou tedy chybné. Na druhou stranu: Pokud by tyto popisy byly správné, zredukovali bychom pojmy pro lidské sociální jednání na ryze vnější chování – „robot mě rozpozná“ je přiměřený popis, pokud „rozpoznávání“ ztotožňujeme s provedením určitého chování. Takové redukční interpretace používáme často u zvířat – pes rozpozná a přivítá svého majitele. Ale zde je jasné, že jde o jiné, metaforické „rozpoznávání“ a „vítání“, protože pes přece neříká: „To je prima, že jsi konečně zase tady!“
 
U „sociálních“ robotů se naopak musíme ptát, jak máme pojmově a normativně pokračovat. Měli bychom z označení „sociální“ roboti odstranit uvozovky? To znamená, měli bychom opustit staré pojmy pro sociální jednání a připustit, že všechno, co se chová podle určitých vzorců, je sociálním agentem? Pokud mají svá práva zvířata, proč by je nemohli mít také roboti? Nebo bychom měli zachovat staré chápání pojmů a trvat na tom, že práva má pouze ten, kdo zažije fenomenologii vědomí a umí o tom mluvit?
 
Dostáváme se zde k otázkám teoretické filozofie, tedy filozofie ducha a ontologie, ale i politické filozofie. Západní demokratické společnosti legitimizují politickou autoritu s pomocí pojetí osoby, které pochází z doby osvícenství. Toto pojetí osoby, které velice úzce souvisí se schopnostmi lidské sociální subjektivity, je nyní zpochybňováno „sociální“ robotikou. V květnu 2016 Evropský parlament navrhl, aby byl vysoce rozvinutým robotům přiznán status elektronických osob. Následná diskuse ukázala, jak silně je naše politické myšlení otřeseno, pokud náhle dojde k roztržení toho, co vždy patřilo k sobě – člověk, sociální subjekt, rozum, inteligence, emoce.
 
Často se mluví o tom, že nám roboti vezmou práci. Jak to vidíte?
 
To je sociálně-politická dimenze „sociální“ robotiky, jak jsem už naznačila dříve. Při obezřetném používání „sociálních“ robotů, kteří byli vyvinuti podle zásad kulturně dlouhodobě udržitelné robotiky, to bude podle mého názoru spíše naopak – vzniknou nové pracovní profily a pozornost se zaměří na spolupráci se „sociálními“ roboty. Bude důležité přesně prozkoumat, jaké formy spolupráce jsou možné a přínosné – heslo: pouhá koordinace versus kooperace versus týmová práce. Záleží především na tom, jak bychom je měli popsat, protože ve skutečnosti – což je paradoxní – roboti (tedy ti, co vykonávají robotu neboli práci) neumějí doopravdy „pracovat“.

Vzniknou nové pracovní profily a pozornost se zaměří na spolupráci se „sociálními“ roboty.

Johanna Seibt


Odborné znalosti filozofie budou stále více žádány, zejména pokud se politici rozhodnou pro model integrativní sociální robotiky, ale budou žádány i nezávisle na tomto modelu. Společnosti zabývající se umělou inteligencí, jako např. Deep Mind, hledají už teď odborníky na etiku. „Sociální“ robotika však také umožňuje filozofii nabývat nových forem, což je obsaženo v definici nového oboru „robofilozofie“ jako filozofie sociální robotiky a pro sociální robotiku. Takzvaní robofilozofové mohou navrhovat technická řešení etických problémů a experimentálně je zkoumat. Například v Aarhusu právě zkoumáme, zda sociální nespravedlnost, která se projevuje při přijímacích pohovorech genderovou zaujatostí („gender bias“) nebo jinými předsudky, jež se týkají vzhledu uchazečů a uchazeček o zaměstnání, lze zmírnit tím, že bude pohovor veden prostřednictvím telekomunikačního robota s neutrálním lidským vzhledem.

Hodně se mluví o takzvaných „botech“ v politické komunikaci. O co se v tomto případě jedná ve srovnání s vaším modelem?
 
Jde o různé věci. V případě našeho modelu integrativní sociální robotiky (ISR) jde o vývoj kulturně udržitelných aplikací fyzických, „sociálních“ robotů v transparentním participačním procesu, který je založený na hodnotách a který zahrnuje odborné znalosti všech relevantních odborných disciplín, zejména kulturní odbornost. V případě takzvaných „botů“, kteří v současné době narušují naše politické procesy od komunikace až po falšování volebních výsledků, jde v podstatě o pravý opak – o skryté, manipulativní procesy, které jsou řízeny mocenskými zájmy.
 
Bez ohledu na problémy politické bezpečnosti, které vznikají na základě automatického profilování, si podle mého názoru dostatečně neuvědomujeme, jak silně by učící se algoritmy současné umělé inteligence mohly podkopat naše dosavadní chápání odůvodnění politických a právních rozhodovacích procesů. Tyto rozhodovací procesy se doposud orientovaly podle etických norem, které byly zavedeny normativními postupy, jako je diskurz odborníků. Nyní začínáme nahrazovat „reflektivní rovnováhu diskurzu odborníků“ automatickým procesem indukce norem, který se orientuje podle etické intuice celé řady neodborníků, kteří případně nemusejí být vůbec reprezentativní. V zásadě vyvstává otázka, do jaké míry prakticky a také teoreticky přijímáme lidský rozum a diskurzivní procesy, které jsme už dlouhou dobu používali k vytváření rozumných rozhodnutí.

Stefan Heidenreich (carta.info) vedl rozhovor prostřednictvím e-mailové komunikace.