Umělá inteligence Etika pro stroje

Co dělat, když rozhodují stroje – například v silniční dopravě?
Co dělat, když rozhodují stroje – například v silniční dopravě? | Foto (výřez): © RioPatuca Images – Fotolia.com

V rámci digitalizace odevzdává člověk odpovědnost technickým přístrojům. Která rozhodnutí smějí stroje přijímat a jak zacházíme s následky? V Německu se touto otázkou zabývá etická komise.
 

Řidič automobilu jede plynule po silnici, když se v protisměru náhle objeví předjíždějící vozidlo. Řidič má jen dvě možnosti, jak se zachránit – buď strhne volant ke straně a vyřítí se přes krajnici do pole mezi skupinku hrajících si dětí, anebo se bude dál držet ve svém jízdním pruhu v naději, že se mu druhý řidič vyhne. Ať už udělá to či ono, tak se vzhledem k časové tísni nerozhodne vědomě, ale instinktivně. A žádný soud na světě by ho za to neodsoudil.
 
Něco jiného by bylo, kdyby byl řidičem robot. Kdyby tedy šlo o jedno z takzvaných „autonomních vozidel“, která už léta testuje společnost Google nebo společnost Audi. Bleskurychle pracující procesory takového vozidla by daly počítači dostatek času na rozhodnutí. To by však muselo být už předem naprogramováno, tedy zadáno ve formě algoritmu. Ale jak by mělo být v takové situaci vlastně rozhodnuto? A kdo za to ponese odpovědnost?

SMĚRNICE PRO ALGORITMY

Za účelem vyjasnění takových otázek zřídila německá spolková vláda na podzim roku 2016 takzvanou etickou komisi pro autonomní ježdění. Pod vedením bývalého soudce Spolkového ústavního soudu Uda Di Fabia se skupina vědců, informatiků, inženýrů a filosofů zabývá otázkami odpovědnosti za rozhodování u autonomních vozidel a vypracovává standardy, které doposud ještě neexistovaly. „Dokud v této oblasti nebude existovat právní jistota, nebude žádný podnik do této technologie investovat,“ říká Armin Grunwald. Tento fyzik a filosof je členem etické komise a kromě jiného vede při Německém spolkovém sněmu kancelář pro odhadování následků techniky.
 
Zaváděním autonomního ježdění vstupuje společnost na neznámou půdu. Člověk postupuje odpovědnost počítači, který řídí vozidlo. „Revoluci mobility dostojíme pouze tím, že vytvoříme jasné směrnice pro algoritmy,“ prohlásil německý spolkový ministr dopravy Alexander Dobrindt u příležitosti úvodního zasedání etické komise v říjnu 2016. Na základě jejích doporučení má být přijat zákon, na základě kterého bude připuštěn provoz autonomních vozidel na veřejných dopravních komunikacích. Má vyjasnit odpovědnosti mezi člověkem a počítačem a nabídnout právní jistotu jak zákazníkům, tak i řidičům, účastníkům silničního provozu a výrobcům automobilů. Po tomto prvním kroku ke zrovnoprávnění člověka a stroje budou následovat další, o tom je Armin Grunwald přesvědčen. „Je na čase vyvinout etiku pro umělou inteligenci.“

SCIENCE-FICTION DĚLÁ PŘÍPRAVNOU PRÁCI

Přípravnou práci vykonal v této oblasti rusko-americký biochemik a autor sci-fi příběhů Isaac Asimov. Už v roce 1942 uveřejnil v krátké povídce Runaround (česky vyšla pod názvem Hra na honěnou) své později slavné Zákony robotiky. Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo, tak zní první zákon. Druhý a třetí zákon praví, že robot musí uposlechnout příkazů člověka a chránit sám sebe před poškozením, kromě případů, kdy je to v rozporu s prvním nebo druhým zákonem.
 
V roce 1983, souběžně s vývojem prvních samostatně konajících válečných nástrojů, zformuloval Asimov nadřazený, takzvaný „nultý zákon robotiky“: „Robot nesmí ublížit lidstvu nebo svou nečinností dopustit, aby mu bylo ublíženo.“ Je to zákon trochu záludný, protože stroje by si z toho mohly odvodit dalekosáhlé svobody – například rozhodnutí zabít jednotlivé lidi, pokud by bylo ohroženo blaho lidstva.

NEŘEŠITELNÉ DILEMA

Takto dalekosáhlými úvahami se však německá etická komise pro autonomní ježdění zatím zabývat nemusí. Zabývá se především riziky spojenými s odpovědností za škodu. Podle dnešního chápání odpovídá za škodu vždy vlastník, majitel – za psa jeho držitel, za děti jejich rodiče. Co když ale způsobí škodu nějaká programátorská chyba? Pak by nesl odpovědnost výrobce. Proto se plánuje, že výrobce bude muset do auta instalovat takzvanou černou skříňku, která bude zaznamenávat údaje o jízdě. Tak bude možné v případě nehody zjistit, kdo řídil – zda člověk, nebo počítač.
 
Několik zásad už komise zformulovala: Algoritmus počítače se má v případě hrozící nehody rozhodnout raději pro věcné škody než pro škody na zdraví. A nesmí osoby klasifikovat – například podle velikosti nebo věku. Při menších nehodách s poškozením plechu lze takové podmínky ještě poměrně snadno splnit. Jinak je tomu však ve vyhrocené situaci, která byla popsána v úvodu a která obsahuje dilema. Lze dát život mnoha lidí v sázku kvůli životu několika lidí?
 
Také o tomto případu se etická komise už podrobně radila, vypráví Armin Grunwald. Problém je v tom, že eticky obhajitelné rozhodnutí si zde nelze představit, lidské životy nesmějí být nikdy vzájemně vyvažovány. Proti tomu mluví už zásada rovnosti ve Všeobecné deklaraci lidských práv a v německém základním zákoně (ústavě). Technicky by se dalo zmíněné dilema vyřešit tak, že by výrobci zamontovali do vozidla generátor náhod. Ten by v takových situacích rozhodoval. Kdo by pak ale ještě chtěl v takovém autě jezdit?