Изкуствен интелект
Етика за машини

С настъпването на цифровизацията, хората прехвърлят своята отговорност на технически устройства. Но кои решения следва да бъдат оставени на машините и как да се справим с последиците? В Германия Комисия по етиката работи по този въпрос.
 

Моторист кара бързо по селски път, когато изведнъж вижда насреща си кола, която изпреварва. Има два начина да се спаси – или усуква кормилото и изскача от пътя в нивата – право в група деца, които си играят. Или решава да рискува и да запази курса си. Дали другият шофьор ще завие? Каквото и действие да предприеме, заради малкото време то няма да е съзнателно, а инстинктивно решение. Никой съд на света не би го осъдил за действията му.
 
Ако обаче шофьорът беше робот, би било различно. Ако например беше някоя от автономните, коли, които Гугъл и Ауди тестват по пътищата последните няколко години. Скоростта на процесорите му би дала на компютъра достатъчно време, за да вземе решение. За целта обаче трябва тази ситуация да е била предвидена в неговия алгоритъм. Каква тогава трябва да бъде присъдата? И кой трябва да понесе отговорността за нея?

Насоки за алгоритми

За да класифицира подобни въпроси, през есента на 2016 г. немското федерално правителство създава Ethik-Kommission für das autonome Fahren (Комисия по етика на автономното шофиране, б.пр.). Под председателството на бившия федерален конституционен съдия Удо ди Фабио дузина учени, инженери и философи обсъждат въпроси, свързани с отговорността за решенията на автономните превозни средства и разработват стандарти, каквито досега не са съществували. „Докато в тази област няма законова сигурност, няма да има инвестиции в тези технологии“, казва Армин Грюнвалд. Той е физик и философ, член на Комисията по етика и ръководител на Büro für Technikfolgen-Abschätzung (Служба за оценка на технологиите, б.пр.) в немския парламент.
 
Автономното шофиране отвежда обществото ни в нови територии. Хората предават отговорността на компютъра, който управлява превозното средство. „Революцията в придвижването изисква да разработим ясни насоки за алгоритмите,” заяви министъра на транспорта на Федерална република Германия Александър Добринт на откриващото заседание на Комисията по етика през октомври 2016 г. Въз основа на нейните препоръки предстои да бъде приет закон, който би позволил автономните превозни средства да се движат по обществени пътища. Законът трябва да изясни каква отговорност носят както човекът, така и компютърът и да даде законова сигурност на клиенти, шофьори, ползватели на пътя и производители на автомобили. Армин Грюнвалд е убеден, че това е само първата стъпка към равенството между човек и машина. Ще последват други. „Време е да разработим етика за изкуствения интелект.”

Научната фантастика полага основите

Руско-американският биохимик и писател на научна фантастика Исак Азимов полага основите. Още през 1942 г. той публикува прословутите си закони на роботиката в краткия си разказ „Хоро“. Първият закон гласи, че робот не може да нарани човешко същество или чрез бездействието си да позволи на човешко същество да бъде наранено. Вторият и третият закон гласят, че роботите трябва да се подчиняват на заповедите на човеци и да пазят себе си, стига това да не противоречи на първия закон.

През 1983 г., успоредно с разработката на първите автономно действащи оръжия, Азимов разработва и така наречения „нулев“ закон на роботиката – „Робот не може да навреди на човечеството или чрез бездействие да позволи на човечеството да бъде нанесена вреда.“ Закон с някои недостатъци, тъй като дава на машините значителна свобода, например решението да убиват отделни човеци, ако те са заплаха за благото на човечеството.

Неразрешима дилема

Досега на немската Комисия по етика на автономното шофиране не се е налагало да взима решения с толкова значителни последици. Тя се фокусира предимно върху рисковете, свързани с носене на отговорност. Настоящето схващане е, че собственикът винаги носи отговорност за нанесени щети: стопанинът – за кучето си, родителите – за децата си. Какво става обаче, ако грешка в програмирането нанесе вреда? Тогава отговорност би понесъл производителят. Затова се предвижда в тези коли да бъде поставяна т.нар. „черна кутия“, която да записва всички данни от движението на колата. В случай на злополука ще може да се установи кой е шофирал – човекът или компютърът.
 
Комисията вече е изготвила редица принципи: алгоритъмът на компютъра следва да предпочита материални щети пред нараняване на хора. И не бива да разграничава хора по признаци като размер или възраст. В случай на дребни злополуки, в които се стига единствено до изкривени ламарини, подобни условия лесно се прилагат. В случаи като гореописаната ситуация на остра дилема не е така. Могат ли животите на множество деца да бъдат сложени на везните срещу животите на неколцина пътници?
 
Комисията по етика е обсъждала и този случай в големи подробности казва Армин Грюнвалд. Проблемът е, че в случая не е мислимо етически оправдано решение; животите на човешки същества не бива никога да бъдат противопоставяни. Това постановява и принципът на равнопоставеност във Всеобщата декларация за правата на човека и в немската конституция. За да може дилемата да бъде разрешена технически, производителите биха могли да инсталират в превозното средство генератор на произволни решения. Тогава в подобни ситуации би решавал той. Но кой би искал да се качи на подобна кола?