Vis labiau tobulėjant skaitmeninėms technologijoms žmonės pradeda dalytis atsakomybe su prietaisais. Kokius sprendimus gali priimti mašinos ir kaip mes sprendžiame šių sprendimų pasekmes? Vokietijoje šiuos klausimus nagrinėja etikos komisija.
Automobilis skrieja greitkeliu, tačiau staiga priešais jį išnyra lenkimo metu į priešingą eismo juostą išvažiavęs automobilis. Pirmojo automobilio vairuotojas turi tik dvi galimybes išsigelbėti: arba jis pasuks vairą ir nulėkęs nuo kelio pasileis lauku – tiesiai į žaidžiančių vaikų būrį. Arba važiuos toliau tiesiai, tikėdamasis, kad kitas vairuotojas pasuks į šoną. Kad ir ką jis bedarytų, vien dėl laiko stokos visi jo priimti sprendimai nebus sąmoningi, jie bus instinktyvūs. Joks pasaulio teismas nenuteis jo už tokius sprendimus.
Visai kas kita, jei vairuotojas būtų robotas. Jei automobilis būtų viena iš tų autonominių transporto priemonių, kurios jau keletą metų išbandomos Google ar Audi. Jo žaibo greičiu veikiantys procesoriai suteiktų kompiuteriui pakankamai laiko sprendimui priimti. Tačiau toks sprendimas jau turėtų būti įtrauktas į jo programą, algoritmą. Bet kokį sprendimą reikėtų priimti tokioje situacijoje? Ir kas prisiims už jį atsakomybę?
Algoritmų gairės
Norėdama išsiaiškinti tokius klausimus Vokietijos vyriausybė 2016 m. rudenį sukūrė vadinamąją autonominio vairavimo etikos komisiją. Vadovaujant buvusiam Vokietijos Konstitucijos teismo teisėjui Udo Di Fabio tuzinas mokslininkų, informatikų, inžinierių ir filosofų nagrinėja atsakomybės už priimamus sprendimus klausimus, susijusius su autonominėmis transporto priemonėmis, ir rengia standartus, kurių iki šiol nebuvo. „– Kol šioje srityje nėra teisinio tikrumo, jokia įmonė neinvestuos į šią technologiją“, – sako Arminas Grunwaldas. Šis fizikas ir filosofas yra etikos komisijos narys, be to jis vadovauja Vokietijos Bundestago Technologijų vertinimo biurui.
Visuomenei autonominis automobilio valdymas yra visiška naujovė. Žmonės perduoda atsakomybę kompiuteriui, valdančiam transporto priemonę. „– Mobilumo revoliuciją suvaldysime tik sukūrę aiškias gaires algoritmams“, – tvirtina Vokietijos transporto ministras Alexanderis Dobrindtas pirmajame etikos komisijos posėdyje 2016 m. spalio mėn. Remiantis jos rekomendacijomis turėtų būti priimtas įstatymas, leidžiantis valstybiniuose keliuose eksploatuoti autonomines transporto priemones. Juo reikės apibrėžti žmogaus ir kompiuterio atsakomybę, ir suteikti teisinį tikrumą klientams, vairuotojams, eismo dalyviams ir automobilių gamintojams. Po šio pirmo žingsnio, kuriuo užtikrinamos lygios žmogaus ir mašinos teisės, bus padaryti kiti žingsniai – Arminas Grunwaldas tuo visiškai tikras. „– Jau pats laikas kurti etikos standartus dirbtiniam intelektui.“
Pagrindą padėjo mokslinė fantastika
Šiems procesams pagrindą padėjo rusų kilmės amerikiečių biochemikas ir mokslinės fantastikos autorius Isaacas Asimovas. Dar 1942 m. apsakyme
Runaround jis paskelbė savo garsiuosius robotikos dėsnius. Pirmasis dėsnis: robotas negali daryti žalos žmogui arba savo neveikimu leisti, kad žmogui būtų padaryta žala. Antras ir trečias dėsniai sako, kad robotas turi klausyti komandų, kurias jam duoda žmogus, bet turi rūpintis savo saugumu. Jeigu tai neprieštarauja pirmajam dėsniui.
1983 m., atsižvelgdamas į tuo metu kuriamas pirmąsias savarankiškai veikiančias karybos priemones, I. Asimovas sukūrė viršesnį, vadinamąjį nulinį robotikos dėsnį: „– Robotas negali daryti žalos žmonijai arba savo neveikimu leisti, kad žmonijai būtų padaryta žala.“ Tai klastingas dėsnis, nes pagal jį mašinos gali užsitikrinti visapusišką laisvę, pavyzdžiui, priimdamos sprendimą nužudyti pavienius žmones, jei jie kelia grėsmę žmonijos gerovei.
Neišsprendžiama dilema
Vokietijos autonominio vairavimo etikos komisijai dar nereikia užsiimti tokiais išsamiais svarstymais. Ji pirmiausia nagrinėja riziką, susijusią su atsakomybe. Dabar tradiciškai valdytojas atsako už padarytą žalą: šuns šeimininkas atsako už savo šunį, tėvai – už savo vaikus. Tačiau kas atsitiks, jei žala atsiras dėl programavimo klaidos? Tokiu atveju atsakytų gamintojas. Todėl planuojama, kad jis automobilyje turės įdiegti vadinamąją juodąją dėžę, kuri fiksuos važiavimo parametrus. Todėl įvykus eismo nelaimei bus galima nustatyti, kas vairavo: žmogus ar kompiuteris.
Komisija jau suformulavo kai kuriuos principus: jei kompiuterio algoritmas gali pasirinkti, ar turi nukentėti žmogus, ar bus padaryti materialiniai nuostoliai, jis turi pasirinkti nuostolius. Be to, jis negali klasifikuoti asmenų, pvz., pagal dydį ar amžių. Jei eismo nelaimės nedidelės ir atsiperkama tik aplankstytu kėbulu, tuomet tokias sąlygas dar palyginti lengva įgyvendinti. Kitaip atrodo susidūrus su sudėtinga dilema, aprašyta pradžioje. Ar galima paaukoti kelis žmones gelbstint daugelio žmonių gyvybes?
Etikos komisija jau išsamiai diskutavo ir šiuo klausimu, pasakoja Arminas Grunwaldas. Problema yra ta, kad tokiu atveju neįsivaizduojamas etiškai pagrįstas sprendimas, nes jokiu būdu negalima žmonių gyvybių lyginti vieną su kita. Tam prieštarauja Visuotinėje žmogaus teisių deklaracijoje ir Vokietijos Konstitucijoje įtvirtintas lygybės principas. Norėdami techniniu būdu išspręsti šią dilemą gamintojai galėtų transporto priemonėje sumontuoti atsitiktinių skaičių generatorių. Tuomet jis priimtų sprendimą minėtose situacijose. Tačiau kas norėtų važiuoti tokiais automobiliais?
