Acesso rápido:
Ir diretamente ao contéudo (Alt 1)Ir diretamente à navegação secundária (Alt 3)Ir diretamente à navegação principal (Alt 2)

Governança algorítmica
Vigilância total

Atravessar no sinal vermelho: quem comete um delito no trânsito, é denunciado publicamente na China.
Atravessar no sinal vermelho: quem comete um delito no trânsito, é denunciado publicamente na China. | Foto (detalhe): © picture alliance/dpa-Zentralbild/Klaus Grabowski

Algoritmos que recompensam ou punem os cidadãos de um país tendo como base dados coletados: na China ou na Índia, a chamada governança algorítmica já se tornou há muito realidade. Mas também na Alemanha programas de computador tomam decisões que surtem efeitos na vida de muita gente.

O cruzamento ao sul da Ponte Changhong, na metrópole chinesa Xiangyang, é lotado e caótico. Carros buzinam, pedestres atravessam a rua no sinal vermelho e patinetes elétricas fluem em meio ao congestionamento. Ao lado da rua, uma tela grande exibe fotos de diversas pessoas. Um painel publicitário a mais? Não. A polícia instalou ali em 2017 um monitor, a fim de impor a ordem. O painel exibe os rostos daqueles que infringiram as leis de trânsito e foram imediatamente detectados através de câmeras com reconhecimento automático de rostos. A estratégia é “desmoralizar os infratores frente a seus vizinhos e colegas”, disse uma porta-voz da prefeitura da cidade ao jornal New York Times. Ao lado da foto dos denunciados, são estampados seus nomes e os números de suas identidades. Uma medida educativa, portanto.
 
Telas como essas em Xiangyang são apenas uma pequena parte do aparato de vigilância e monitoramento praticado pelo governo chinês. Para seu novo sistema social de crédito, o Partido Comunista iniciou projetos-piloto em várias cidades nos quais são coletados e cruzados dados de câmeras de vigilância, chats privados, compras online e muitos outros. A meta é ter registrado, até o ano de 2020, todos os moradores do país em um único sistema de avaliação. Através de uma enorme performance em termos de processamento de dados, cada chinês deverá receber um número de pontos a ser atualizado constantemente por algoritmos. Para o governo autoritário do país, esse passo parece ser óbvio: dessa forma, todo habitante, entre 1,4 bilhão de chineses, poderá ser controlado individualmente.

CONTROLE E PUNIÇÃO POR ALGORITMO

Fala-se em governança algorítmica quando governos ou autoridades fazem uso do enorme arsenal de dados coletados através de redes sociais e outras plataformas, transferindo para máquinas as decisões sobre eventuais recompensas ou punições para o indivíduo. Os computadores reconhecem modelos e rotinas e implementam automaticamente medidas disciplinares. Quem devolve sua bicicleta alugada sem ter causado nenhum dano a ela, não cruzou a rua no sinal vermelho e sempre chega pontualmente ao trabalho, será recompensado com pontos. Quem, por outro lado, critica o governo chinês na internet ou mantém contatos frequentes com alguma pessoa que tenha tido uma pontuação ruim, deverá saber que seus pontos vão cair constantemente. E isso traz consequências drásticas: pessoas com um número baixo de pontos terão seu acesso negado a aviões ou trens de alta velocidade, por exemplo. E seus filhos não poderão frequentar escolas particulares.
 
Monitorar as pessoas de um país com tanta exatidão, coletar informações sobre elas e usar isso contra elas próprias não é apenas um ataque à esfera privada, mas representa também um cerceamento considerável dos direitos pessoais de liberdade. Mas não é só na China que as autoridades avaliam dados pessoais. Também na Índia, tenta-se adquirir uma visão sobre a população através de registros pessoais.
 
No país, foi criado um banco de dados de nome Aadhaar (Fundamento). Com 1,2 bilhão de usuários registrados até agora, o banco abarca grande parte da população indiana. Cada indivíduo, através de um número de 12 dígitos conectado a nome, idade, registro de íris e diversas impressões digitais, pode ser identificado e está apto a requerer benefícios sociais – pelo menos em tese. A jornalista indiana Rachna Khaira demonstrou, no início de 2018, as fragilidades desse sistema: ela entrou em contato com hackers que lhe disponibilizaram todo o banco de dados perante um pagamento de apenas 500 rúpias – o equivalente a seis euros (aprox. 25 reais). O banco de dados Aadhaar, que deveria supostamente evitar a divisão injusta e os desvios na distribuição de cestas básicas, passou a ser visto como um problema. Consta que pessoas morreram literalmente de fome por não terem conseguido apresentar os documentos exibidos ou em função de falhas no reconhecimento dos dados biométricos. Além de tudo, os vazamentos levaram à publicação de milhões de dados pessoais.

Mulheres fazem registros voluntários no banco de dados Aadhaar, na Índia. Mulheres fazem registros voluntários no banco de dados Aadhaar, na Índia. | Foto (detalhe): © picture alliance / NurPhoto

HORA DE UM DEBATE SOBRE DADOS NA EUROPA

Também na Europa, algoritmos e análise de dados são procedimentos de rotina. Mas, ao contrário dos experimentos arriscados nos dois países mais populosos do mundo – a China e a Índia -, na Europa não são necessariamente os Estados os responsáveis pelo registro de grandes volumes de dados pessoais. Na Alemanha, por exemplo, há uma associação de proteção ao crédito geral, mais conhecida como Schufa, que se gaba de ter um registro de 864 milhões de informações sobre aproximadamente 67 milhões de pessoas e 5 milhões de empresas. Como funciona esse processo, que no fim leva a uma decisão se uma pessoa pode alugar um apartamento ou fechar um contrato de celular, permanece em sigilo. Os critérios da Schufa também não são revelados. Há indícios de que, por exemplo, as mulheres sejam desfavorecidas na avaliação.
 
A Alemanha está longe de estampar em telas públicas os rostos e os nomes de infratores das regras de trânsito. Mas, mesmo assim, fica a pergunta: até que ponto empresas como a Schufa ou autoridades públicas devem poder coletar dados da população e usá-los? Chegou a hora de discutir a legitimidade da governança algorítmica. Em última instância, trata-se aqui da questão sobre se queremos transferir para processos automatizados o controle sobre a sociedade. Se configurados corretamente, os algoritmos poderiam tomar decisões de maneira eficiente, rápida e justa. Mas da forma como eles têm sido usados atualmente, parece que essas vantagens são ofuscadas pelo enorme potencial de abusos, pela intervenção na esfera privada dos indivíduos e pela falta de transparência dos processos.

Top