Acesso rápido:
Ir diretamente ao contéudo (Alt 1)Ir diretamente à navegação secundária (Alt 3)Ir diretamente à navegação principal (Alt 2)

INTELIGÊNCIA ARTIFICIAL
ÉTICA PARA MÁQUINAS

O que devemos fazer quando as máquinas tomam decisões, como, por exemplo, no trânsito?
O que devemos fazer quando as máquinas tomam decisões, como, por exemplo, no trânsito? | Foto (detalhe): © RioPatuca Images – Fotolia.com

No rastro da digitalização, o homem delega cada vez mais responsabilidades a dispositivos tecnológicos. Mas que decisões as máquinas podem tomar, e como devemos lidar com as consequências disso?  Na Alemanha, uma Comissão de Ética discute essa questão.

Um motorista está dirigindo em alta velocidade em uma estrada, quando, de repente, surge no sentido inverso, vindo em sua direção, um veículo  em ultrapassagem. Ele só tem duas maneiras de se salvar: ou vira o volante e abandona o acostamento rumo a um campo aberto, exatamente onde brinca um grupo de crianças. Ou permanece na pista, na esperança de que o outro motorista desvie. Devido ao curtíssimo tempo disponível para a decisão, seja qual for, ela será instintiva e não consciente. Nenhum tribunal do mundo pensaria em penalizar esse motorista pelo que decidir praticar.

Isso seria diferente, entretanto, se o motorista fosse um robô. Se, por exemplo, o caso descrito ocorresse com um desses veículos autônomos que vêm sendo testados há anos pelo Google ou pela Audi, os processadores altamente velozes dariam ao computador tempo suficiente para tomar uma decisão. No entanto, isso já teria que estar predeterminado em sua programação, ou seja, no algoritmo. Mas qual seria a decisão em uma situação como essa? E quem assumiria a responsabilidade?

DIRETRIZES PARA ALGORITMOS

Para elucidar questões como essa, o governo alemão implementou, no segundo semestre de 2016, o que se chamou de Comissão de Ética para Direção Autônoma. Sob a coordenação do ex-juiz federal constitucional Udo Di Fabio, uma dúzia de pesquisadores, cientistas da computação, engenheiros e filósofos vêm discutindo questões como a responsabilidade legal pelas decisões tomadas por veículos autônomos, além de elaborar padrões inexistentes até o momento. “Enquanto não houver segurança legal nessa área, nenhuma empresa irá investir nessas tecnologias”, diz Armin Grunwald, físico, filósofo e membro da Comissão de Ética, além de coordenador da Agência de Avaliação dos Efeitos da Tecnologia no Parlamento Alemão.

Com a direção autônoma, a sociedade adentra uma terra incógnita: o ser humano transfere a responsabilidade para um computador que conduz um veículo. “Só podemos fazer jus à revolução da mobilidade se desenvolvermos diretrizes claras para os algoritmos”, afirmou o então ministro alemão dos Transportes, Alexander Dobrindt, na sessão de abertura da Comissão de Ética em outubro de 2016. Com base nas recomendações da Comissão, deverá ser aprovada uma lei, a fim de regulamentar a circulação de veículos autônomos em vias públicas.  Essa lei deverá determinar com clareza quais responsabilidades caberão ao homem e quais ao computador, e deverá prover segurança legal para clientes, motoristas, usuários de vias públicas e montadoras de veículos. Armin Grunwald está convencido de que este é apenas o primeiro passo em direção à igualdade entre homem e máquina, e outros se seguirão. “Chegou a hora de desenvolver uma ética para a inteligência artificial”, conclui ele.

FICÇÃO CIENTÍFICA ABRIU CAMINHO

O bioquímico e escritor russo-americano de ficção científica Isaac Asimov abriu caminho para a questão. Em 1942, ele já publicava suas famosas leis da robótica no conto Runaround (O círculo vicioso). A primeira lei diz que um robô não pode ferir um ser humano nem, por inação, permitir que um ser humano sofra algum mal. A segunda e a terceira leis dizem, respectivamente, que os robôs devem obedecer às ordens dadas por seres humanos e proteger sua própria existência – desde que tal proteção não entre em conflito com a primeira lei.

Em 1983, paralelamente ao desenvolvimento dos primeiros armamentos de guerra operados de forma autônoma, Asimov elaborou o que chamou de “lei  zero”, superior às demais leis: “um robô não pode causar mal à humanidade, nem, por omissão, permitir que a humanidade sofra algum mal”. Uma lei ardilosa, pois as máquinas podem depreender disso liberdades consideráveis, como, por exemplo, a decisão de matar pessoas individualmente, caso o bem-estar da humanidade esteja ameaçado por elas.

DILEMA INSOLÚVEL

A Comissão de Ética para Direção Autônoma da Alemanha ainda não precisou ir tão longe em suas delibarações, pois tem até agora abordado sobretudo os riscos de responsabilidade. Na atual compreensão da questão, o proprietário de um veículo é sempre responsável por danos que venham a ser por ele ocasionados, assim como o dono de um cão é responsável por danos causados por seu animal e os pais são responsáveis por danos causados por seus filhos menores. Mas e se um erro de programação causa danos? Quem é o responsável? Nesse caso, o fabricante seria obrigado a assumir a responsabilidade.  Por essa razão, planeja-se a instalação, em veículos autônomos, de “caixas pretas” capazes de registrar os dados relacionados à direção. Em caso de acidente, será então possível determinar quem estava dirigindo – se o ser humano ou o computador.

A Comissão já rascunhou alguns princípios básicos: o algoritmo do computador deve ser orientado a priorizar o dano material de forma a evitar lesões em humanos, e não deve diferenciar as pessoas, por exemplo, por tamanho e idade. No caso de pequenos acidentes que resultem em danos na carroceria dos veículos, tais condições podem ser implementadas de forma relativamente fácil. O mesmo não se aplica, entretanto, a dilemas agudos, como o da situação descrita acima. O peso das vidas de muitas crianças pode ser comparado com o peso das vidas de alguns ocupantes de veículos?
 
A Comissão de Ética também tem discutido esse caso de forma bastante detalhada, conta Armin Grunwald. O problema é que uma solução eticamente justificável não é concebível nesse caso, pois os pesos de vidas humanas não podem ser comparados. Esse princípio também é proferido pela Declaração Universal dos Direitos Humanos e pela Constituição Alemã. Para resolver tecnicamente esse dilema, os fabricantes poderiam instalar um gerador aleatório para situações como essa, mas quem desejaria entrar em um carro assim?

Top