Vai drīkst darīt pāri humanoīdiem robotiem? Kad pirmais no viņiem pieprasīs pilsoņa tiesības, tad būs par vēlu, saka neiroētikas pētnieks Tomass Mecingers. Kāpēc humanoīdi roboti mūsos raisa „sociālas halucinācijas“, un ko tas dara ar mūsu psihi.
Morics Honerts
Mecingera kungs, Japānas viesnīcās humanoīdus robotus jau izmanto kā konsjeržus, amerikāņu firmas nesen iepazīstināja ar jaunu seksa leļļu paaudzi, kas prot runāt un reaģē uz pieskārieniem. Vai roboti kļūst arvien līdzīgāki mums?
Tajās nozarēs, kur cilvēki ir savstarpējā mijiedarbībā ar mašīnām, mēs arvien vairāk piedzīvosim šādas humanoīda izskata saskarnes vietas. Tā gan ir tikai neliela robotikas daļa, bet, kas attiecas uz šiem antropomorfajiem interfeisiem, tehnika ir tikusi jau ļoti tālu. Laboratorijā mēs 20 minūšu laikā varam izmērīt jūsu galvu un no iegūtajiem datiem izveidot fotoreālistisku avatāru. Mēs varam viņam piešķirt skatiena sekošanas kustības un emocionālus sejas vaibstus. Ja mēs vēl papildus no jūsu mobilā tālruņa nozagsim audio datus, tad avatārs pat varēs runāt kā jūs. Video sarunas laikā jūsu avatārs ne ar ko vairs neatšķirtos no jums.
Jūs jau vairākus gadus strādājat ar priekšstatiem, kādi cilvēkam ir izveidojušies pašam par sevi, un ar to, kā cilvēks šos priekšstatus veido. Vai Jūs kā neiroētikas pētnieks saskatāt problēmas, ka mūsu biļešu automāti drīz izskatīsies kā biļešu kases darbinieki?
Es baidos, ka šie humanoīdie roboti vairākumā gadījumu kalpos patērētāju manipulācijai. Galu galā robots jau arī analizēs jūsu mīmiku un mēģinās saprast: Vai klientam ir garlaicīgi? Ko viņš vispār grib dzirdēt?
Ja dators “sāk jukt prātā”, mēs tam uzkliedzam
Un, vai to var izmantot mašīna?
Mūsu smadzenēs atrodas tā sauktie spoguļneironi. Ja jums uzsmaida kāds cilvēks, jūs neapzināti atdarināt viņu ar savas sejas muskulatūru. To var izmantot ietekmēšanai. Cilvēkveidīgi roboti maskē to, ka pamatā ir pakļauti to programmētāju, nevis mūsu interesēm. Līdzīgi kā Google algoritms savus trāpījumus optimizē nevis lietotājiem, bet gan saviem reklāmdevējiem. Bet ja kādu no mašīnām jūs neapzināti uztverat kā kaut ko patīkamu, tad, iespējams, jūs vēlēsieties arī kādu atjauninājumu, jo tās smaids ir tik lipīgs.
Bet es taču zinu, ka man ir darīšana ar robotu.
Varbūt arī nē. Humanoīdi roboti mūsos raisa ko tādu, ko es dēvēju par „sociālajām halucinācijām“. Mums, cilvēkiem, piemīt spēja iztēloties, ka mums ir darīšana ar saprātīgu pretspēlētāju, pat ja tas tā nav. Tam ir pirmstadijas: bērni un pirmatnējās tautas bieži tic, ka dabā visam ir dvēsele. Ja dators „sāk jukt prātā“, mēs tam uzkliedzam. Kāds mīl savu automašīnu, cits savukārt pēc sava mobilā tālruņa ilgojas kā pēc dzīvas būtnes.
Izklausās dīvaini.
Bet no evolūcijas skatupunkta tam ir sava jēga. Iedomājieties, jūs naktī atrodaties tumšā mežā. Krūmos kaut kas čab. Izdzīvoja, protams, tie, kuriem tur teju desmit reizes rēgojās kāds plēsīgs dzīvnieks, nevis tie, kuri vienreiz šo plēsoņu nepamanīja. Evolūcija tādā veidā zināmā mērā atalgoja vajāšanas māniju. Tāpēc arī cilvēki mūsdienās vēl aizvien tik bieži izjūt iracionālas bailes. Evolūcijai taču ir vienalga, vai mēs esam laimīgi.
Viens no motīviem noteikti ir vēlme pašam nedaudz tēlot Dievu. Turklāt svarīgs punkts varētu būt bailes no nāves. Līdz ar transhumānismu ir radusies jauna reliģijas forma, kas iztiek bez Dieva un baznīcas, bet tomēr kā galveno funkciju piedāvā mirstības noliegšanu. Roboti un it īpaši avatāri suģestē cerību, ka nāvi mēs varētu pieveikt, turpinot dzīvot reiz mākslīgi radītā ķermenī. Bet dažam pētniekam vislielākais sasniegums savukārt būtu kā pirmajam izgudrot robotu ar cilvēka intelektu vai pat apziņu.
Kādā pētījumā 90 no 100 ekspertiem pieņem, ka mēs to piedzīvosim līdz 2070. gadam.
Es šādas prognozes nepārvērtētu. Arī pagājušā gadsimta 60. gados jau domāja, ka maksimums 20 gadu laikā būs radītas mašīnas, kas ir tikpat gudras kā cilvēks. Ar šādiem izteikumiem var labi iekasēt finansējumu pētniecībai, un kad šīs prognozes izrādās aplamas, eksperts jau vairs nav dzīvs.
Robežas starp cilvēku un mašīnu kļūst arvien plūstošākas
Kas tas robots vispār ir? Ar ko tas atšķiras no mašīnas?
Es to definētu saistībā ar autonomijas pakāpi. Mašīna mums ir jāieslēdz un jāizslēdz. Daudzi roboti to var izdarīt patstāvīgi. Turklāt roboti ir daudz elastīgāki nekā, piemēram, urbjmašīna – tie ir programmējami.
Ja dzīvība tiek definēta kā organizēta matērija ar vairošanās spēju, vai tie roboti, kas tiek programmēti jaunu modeļu būvēšanai, arī nav dzīvība?
Nē, jo tiem nav vielmaiņas. Bet noteikt atšķirību starp dabīgām un mākslīgām sistēmām nākotnē varbūt arī vairs nebūs tik vienkārši. Piemēram, ja mēs ražojam aparatūru, kas sastāv vairs nevis no metāla vai silīcija čipiem, bet gan no ģenētiski audzētām šūnām. Ļoti iespējams, ka drīz būs tādas sistēmas, kas nav ne mākslīgas, ne dabīgas.
Televīzijas seriāli kā „Westworld“ prognozē, ka mēs pret robotiem izturēsimies kā pret vergiem. Vai Jūs arī tā uzskatāt?
Iespējams. Bet ir stingri jānošķir divas lietas. Ir liela atšķirība, vai šīs sistēmas ir inteliģentas, vai tās patiešām spēj just sāpes. Vai drīkst nodarīt pāri Doloresai, androīdei no seriāla „Westworld“? Tā patiesā ētikas problēma ir tāda, ka šāda izturēšanās sabojātu mūsu pašmodeli.
Kā tā?
Tas ir līdzīgi kā ar virtuālās realitātes sistēmām. Ja šādā ceļā patērējama kļūst arī noziedzīga rīcība, viegli var gadīties, ka tiek pārkāpts paštraumatizācijas slieksnis. Cilvēks kļūst brutāls. Ir kaut kas pavisam atšķirīgs, vai, piemēram, vardarbīga pornogrāfija tiek vērota divdimensionāli jeb vai ar trīsdimensionālu “iegremdēšanos” un piedzīvojamām taustes sajūtām. Tātad ir pilnīgi iespējams, ka necienīga izturēšanās pret humanoīdiem robotiem novedīs līdz vispārēji asociālai uzvedībai. Turklāt cilvēks jaunākās tehniskās sistēmas vienmēr ir izmantojis kā metaforas, lai aprakstītu pats sevi. Kad 1650. gadā parādījās pirmie pulksteņi un mehāniskās figūras, Dekarts ķermeni aprakstīja kā mašīnu. Ja tagad mēs visur sastopam humanoīdus robotus, tad rodas jautājums, vai mēs nesāksim arī sevi izteiktāk uztvert kā ģenētiski determinētus automātus, kā biorobotus. Robežas starp cilvēku un mašīnu kļūst arvien plūstošākas.
„Kā? Mašīna? Tas ir mans draugs!"
Kādas sekas tam būs ikdienā?
Iztēlojaties: aug paaudze, kas spēlējas ar tik reālistiskiem un dabiskiem robotiem un avatāriem, ka spēlētāju smadzenēs atšķirība starp dzīvu un mirušu, starp īstenību un sapni vairs neizveidojas tādā mērā, kā tas vēl ir mums. Tam nav jānoved pie tā, ka šie bērni automātiski mazāk cienīs dzīvi. Tomēr es visnotaļ varu iedomāties, ka pēc gadiem 20 kādā disputā par ētiskiem jautājumiem kāds sit dūri galdā un saka: “Ne tik strauji, tā taču ir tikai mašīna!” Un atbilde skan: “Kā? Mašīna? Tas ir mans draugs! Vienmēr tāds ir bijis.”
Tādēļ filosofi kā Julians Nida-Rīmelins uzstāj, ka mums vispār nevajadzētu būvēt humanoīdus robotus.
Diferencētāka risinājuma iegūšanai būtu jājautā, kādas būtu patiešām lietderīgas pielietošanas iespējas. Piemēram, humanoīdi roboti-kopēji varētu ar demenci slimiem cilvēkiem sniegt sajūtu, ka viņi nav vieni. Protams, varētu diskutēt, vai tas savukārt nav pazemojoši vai aizbildnieciski attiecībā pret pacientiem.
Kādas robežas novilktu Jūs?
Man izšķirošais ir nevis tas, kā roboti izskatās, bet gan tas, vai tiem ir apziņa, vai tie spēj just sāpes. Tādēļ no pētnieciskās ētikas viedokļa es pilnībā esmu pret mašīnām, kas kaut tikai daļēji ir aprīkotas ar apzinātu pašmodeli, ar “es” sajūtu. Es zinu, tā vēl ir tāla nākotne. Taču, kad pilsoņa tiesības pieprasīs pirmais robots, tad būs par vēlu. Jo tad kontaktdakšas izraušana varētu jau būt slepkavība. Es pieprasu sintētiskās fenomenoloģijas moratoriju.
Tātad īstermiņā mums būtu vajadzīgs kaut kas tāds kā globālais robotikas ētikas kodekss.
Jā. Turklāt ir pilnīgi skaidrs, ka lielie spēlētāji to ignorēs, līdzīgi kā ASV mūsdienās ignorē Starptautisko krimināltiesu. Īpaši gribu atzīmēt to, ka vairākumā diskusiju, kas šodien jau veltītas šai tēmai, runa patiesībā ir nevis par ētiku, bet gan tikai par tiesisko drošību un atbildību.
Mākslīgais intelekts mūs konfrontē ar mums pašiem.
Jo citādi šaubu gadījumā tas var maksāt dārgu cenu?
Tieši tā. Patiešām rodas daudz jautājumu. Iedomājieties, pa apli brauc “Google” bezpilota automašīna, vēl trīs citas bezpilota un divas normālas automašīnas. Tad uz ceļa izskrien suns. Automašīnas atpazīst, ka notiks satiksmes negadījums, un tagad tām ir jāaprēķina mazākais kaitējums. Cik vērta ir viena dzīvnieka dzīvība? Cik vērta dzīvība ir cilvēkam, kurš nav “Google” klients? Kas notiek, ja viens no dalībniekiem ir bērns vai grūtniece? Vai tam ir dubultvērtība? Kā tas izskatās musulmaņu zemēs, kur sievietēm ir ierobežotas tiesības? Vai tur ir svarīgs izdzīvojušo vīriešu skaits? Kas notiek, ja otrajā automašīnā sēž kristieši? Tur jau slēpjas tas robotikas skaistums, ka beidzot mums ir jādeklarē savs viedoklis visos šajos jautājumos. Mākslīgais intelekts mūs konfrontē arī ar mums pašiem.
Filosofs Ēriks Sadēns laikrakstā „Zeit“ rakstīja, ka atteikšanās no lēmējvaras par labu algoritmiem esot uzbrukums “conditio humana”.
Tas patiešām ir vēsturiski vienreizējs process, ka mēs atsakāmies no autonomijas par labu mašīnām. Dziļākā problēma slēpjas tur, lai katrs atsevišķais solis būtu racionāla, pat ētiska pavēle. Bet pastāv, protams, briesmas, ka attīstība izslīd mums no rokām.
Kādas tam būs sekas?
Īpaša problēma ir militārā robotika. Droni jau drīz vien būs tik ātri un inteliģenti, ka vairs nebūs jēgas kaujas situācijā papildus jautāt vēl kādam virsniekam. Sākas bruņošanās sacensības, un kādā brīdī sistēmām būs neatkarīgi jāreaģē vienai uz otru. Ar to mēs jau tagad sastopamies biržas tirdzniecības sistēmās: 2010. gadā tika piedzīvots “Flash Crash”, kas dažu sekunžu laikā radīja miljardiem lielus zaudējumus. Kas zina, kādus zaudējumus radīs militārais “Flash Crash”.
Šausmu vīzija, ka mašīnas kādu dienu varētu kļūt mums bīstamas, ir iecienīta zinātniskās fantastikas tēma. Patiesībā šobrīd arī atzīti pētnieki kā Niks Bostroms no Oksfordas Universitātes brīdina par nekontrolējamu superintelektu.
Protams, var spekulēt par to, vai mēs esam tikai jauna evolūcijas līmeņa neglītie bioloģiskie pakalpiņi. Bet tas, ka roboti tagad sāks patstāvīgi būvēt fabrikas un mūs ieslodzīs rezervātos, manuprāt, ir pilnīgs absurds. No otras puses, patiešām varētu parādīties jauna veida problēmas, kad kāds ētisks superintelekts, kurš grib mums tikai to labāko, nonāks pie rezultāta, ka mums labāk būtu neeksistēt, jo mūsu, cilvēku, dzīve ir pārsvarā mokpilna. Lielākā problēma pašreiz noteikti ir nevis tā, ka ļaunās mašīnas mūs apsteidz, bet gan tas, ka šīs tehnoloģijas atver jaunas durvis attālinātai mūsu vadīšanai. Ja algoritmi sāk patstāvīgi optimizēt aktivitātes sociālajos tīklos vai ziņu plūsmu ceļus, tad, mums to nemaz nepamanot, var tikt manipulēti arī politiskie procesi.
Silikona ielejas attīstītājs Mārtins Fords savā grāmatā „Robotu uznāciens“ izsaka bažas par ekonomiskajām sekām.
Jā, ir pētījumi, kas vedina uz domām, ka līdz 2030. gadam pazudīs 47% darbavietu. Superbagātie un viņu analītiķi to uztver ļoti nopietni, jo viņi redz, ka robotu ieviešana viņus padarīs vēl bagātākus un nabadzīgos vēl nabadzīgākus. Un viņi redz arī to, ka valstis, kas paveiks pāreju uz mākslīgo intelektu, vēsturiski uz visiem laikiem atstās aiz sevis tās valstis, kurām tas neizdosies. Līdz šim pavisam naivi pastāvīgi tika apgalvots: „Vienmēr, kad cilvēces vēsturē radās jaunas tehnoloģijas, vienlaikus radās arī jaunas darbavietas.“ Šoreiz tā var izrādīties vientiesīga vēlme.
Tomass Mecingers, 59, interviju sniedz Maincas Universitātes birojā. Mecingers vada Teorētiskās filozofijas darba grupu, ir MIND grupas direktors un Neiroētikas pētniecības centra direktors, no 2005. līdz 2007. gadam bija Kognitīvo zinātņu biedrības prezidents. Viņa darbības centrā ir cilvēka apziņas pētīšana. T. Mecingers saka, ka mums nepiemīt ne apzināts „es“, ne „dvēsele“, mums galvā ir vien „pašmodelis“, ko mēs kā modeli nepiedzīvojam. Teorija, ko savā grāmatā „Der Ego-Tunnel“ („Ego tunelis“, izdota izdevniecībā “Piper”) viņš saprotamā valodā izskaidro arī neprofesionāļiem. Mecingers iestājas par apziņas filozofijas sasaisti ar smadzeņu pētniecību un turklāt vairāk nekā ceturtdaļu gadsimta nodarbojas arī ar mākslīgo intelektu. Viņam pašam ir robots – putekļu sūcējs, par ko viņš ir stāvā sajūsmā. Vārdu savam robotam viņš gan vēl nav devis.
