Enganos e omissões
A opacidade no acesso à informação

Como bem público, a informação não deve ficar em poder das grandes empresas de tecnologia ou de governos, mas sim nas mãos dos cidadãos. Ao revelar conteúdos ocultos, a organização colombiana Datasketch procura democratizar o acesso a dados relevantes, facilitando assim o trabalho de jornalistas, ativistas e organizações sociais.

Por Juan Pablo Marín Díaz e Juliana Galvis

Do ponto de vista da transparência e do acesso à informação, um componente importante da opacidade é quando a informação está escondida a olho nu  entre as informações públicas de difícil acesso. Um exemplo disso são os dados de compras públicas. De acordo com a Open Contracting Partnership, um em cada três dólares gastos pelos governos corresponde a contratos públicos, totalizando cerca de US $ 13 trilhões no mundo. No entanto, quando falamos de trilhões poderíamos de maneira indireta estar escondendo informações, pois uma pessoa comum não é capaz de entender a dimensão dessa cifra e poderia não saber a quanto ela equivale na vida real.

Se, ao falar simplesmente dos volumes disponíveis de informações, podemos ficar confusos, o que acontece quando queremos descobrir e analisar as informações públicas disponíveis? Na Datasketch trabalhamos na busca de formas inovadoras de visualizar informações e de torná-las mais acessíveis e utilizáveis por organizações que não possuem equipes de cientistas de dados.

Oculto a uma simples visualização 

A ocultação de informações não se resume apenas à sua não publicação, pois na prática as informações permanecem escondidas na medida em que são inacessíveis aos cidadãos. Com a ajuda de tecnologias abertas, a Datasketch conseguiu coletar e descobrir informações para apoiar o trabalho de jornalistas, ativistas e organizações sociais. Graças ao trabalho colaborativo, conseguiu por sua vez transformar informações brutas ocultas em conhecimento cidadão, por exemplo, na exploração do financiamento de campanhas políticas e de sua relação com contratos públicos, entre os quais constavam coisas assustadoras, como pessoas já falecidas que doaram para  alguns candidatos.  Isto prova que, na Colômbia, além de doadores fantasmas na política, há também problemas de opacidade e transparência na informação.

Em outro caso, a  Datasketch acessou o registro de nascimentos na Colômbia e analisou as meninas (menores de 15 anos) que eram mães no país e que, sob a luz do código penal, foram, de fato, violadas sexualmente, razão pela qual poderiam, em princípio, acessar serviços legais de aborto. Nos registros, ao cruzar informações do Ministério da Saúde, foi possível detectar que as meninas que conseguiram acessar um serviço legal de aborto não chegam a 3% do total de meninas mães. Com essa informação foi possível criar histórias e visualizações com dados sobre a realidade das meninas no país.

A opacidade algorítmica

No entanto, se falarmos da opacidade na tomada de decisões automatizadas fazendo uso da inteligência artificial e dos algoritmos, outro espectro de preocupação se abre. Embora essas novas tecnologias permitam simplificar muitos processos e replicar em larga escala tarefas que antes só podiam ser feitas manualmente, elas também se tornam um risco na medida em que permitem reproduzir em escala não apenas os acertos, mas também os erros.

E é aqui que devemos manter nossos olhos abertos para desmascarar a ocultação dos algoritmos. Um exemplo disso são as ferramentas utilizadas para identificar padrões de positividade ou negatividade em informações não estruturadas, como as mídias sociais. Embora possa ser útil medir a percepção sobre uma questão específica, vimos recentemente que, em países como a Colômbia, o governo está usando essas tecnologias para traçar o perfil de jornalistas e organizações sociais que se manifestam contra ele. A própria aplicação da tecnologia é, em alguns casos, questionável por suas motivações, mas mesmo em casos de uso mais legítimo podemos encontrar importantes limitações técnicas.

Em algumas implementações de análise de sentimentos, como as mais estudadas pela academia na língua inglesa, podem surgir cenários como o seguinte: se compararmos frases neutras como “vamos comer comida italiana”, ou “vamos comer comida mexicana”, em princípio as duas frases devem ter o mesmo nível de positividade. Porém, como os algoritmos são treinados com dados que podem ser tendenciosos, acabam dando uma pontuação mais positiva ao italiano que ao mexicano.

Isso leva a abordar a opacidade algorítmica do ponto de vista dos sistemas que incorporam vieses que, eventualmente, podem perpetuar  segregações sociais em uma escala cada vez mais automatizada, difícil de controlar ou monitorar por parte dos usuários. Isso acontece em grandes empresas como o Google, que gerou uma ferramenta para medir comentários tóxicos nas mídias sociais, mas acabou avaliando que comentários que contêm a frase “sou um homem” são menos tóxicos do que aqueles que contêm a frase “sou uma mulher gay negra”.   

Múltiplos princípios

E se isso acontece com grandes empresas, que têm grande poder tecnológico e financiamento de sobra para criar os melhores projetos de inteligência artificial, o que podemos esperar de governos que têm o dever de preservar os direitos das pessoas? Várias soluções têm sido propostas para a opacidade algorítmica, com base  em múltiplos princípios, entre eles o de contar com uma inteligência artificial explicável, ou seja, que tais sistemas sejam abertos e que seus próprios usuários consigam entender como funcionam –  embora existam alguns exemplos nos quais os algoritmos podem não ser necessariamente explicáveis com resultados reais.

Nos princípios éticos de inteligência artificial também se faz referência à transparência algorítmica, mas isso pode ter consequências indesejáveis, como abrir as portas para que um pequeno grupo de pessoas capacitadas possa descobrir como usar os algoritmos em benefício próprio. Ou a busca constante por algoritmos justos, sendo que as noções de justiça em algoritmos variam e têm nuances diversas. Ou uma solução comum, que consiste em evitar um determinado viés ao não incorporar variáveis como raça ou gênero no uso de algoritmos; mas isso não garante necessariamente que resultados injustos não sejam obtidos para comunidades historicamente violadas, pois os vieses já estão incorporados nos próprios sistemas de captura de informações.

Um engano gráfico

E, finalmente, podemos falar do engano gráfico no momento de ocultar de maneira visual informações que podem ser relevantes para a tomada de decisões. A partir de visualizações de dados é possível comunicar informações de forma enganosa para promover uma determinada agenda. Por exemplo, aqueles que não acreditam no aquecimento global, podem usar um gráfico de variação anual de temperatura nos últimos anos onde a escala dos dados está em kelvin, o que permitiria facilmente dizer que a  temperatura geral não aumentou, uma vez que em percentagem os graus kelvin não variam substancialmente. 

Com o objetivo de comunicar informações de forma simples e acessível para as pessoas a Datasketch oferece ferramentas capazes de tornar as informações mais cotidianas, e para isaso realiza exercícios de comunicação da informação com dados que misturam arte e cultura com tecnologias de informação. Por meio de seus diversos projetos, como uma loja de produtos físicos de informação (Datasketch Store), a equipe levanta questões sociais que fomentam discussões informadas por parte dos cidadãos.

Dados desumanizados

Entre os produtos incluem-se, por exemplo, um modelo de camiseta que evidencia o aumento da temperatura global, ou um outro com o desenho de um cacho de bananas construído com 24 mil pontos, que representam cada uma das vítimas de massacres no conflito armado na Colômbia. Os dados de registro, por exemplo, nas tabelas do Excel, geralmente são desumanizados, sem um rosto que permita assimilar e comunicar problemáticas diversas para promover a ação coletiva. Na Datasketch acreditamos que é preciso dar poder aos cidadãos  com base na informação, e que esta não permaneça como um ativo que apenas poucos podem utilizar na solução de problemas difíceis em nossa sociedade.

Acreditamos que a informação, como bem público, não deveria ficar concentrada nas   grandes empresas de tecnologia ou nos governos, mas nas mãos das pessoas. Um grande desafio é transformar essas tecnologias em ferramentas de fácil utilização para pessoas com conhecimentos variados, e não apenas para especialistas com conhecimento quantitativo. É por isso que estamos trabalhando na democratização do acesso à informação e à ciência de dados com nossa solução Datasketch Apps, com a qual os usuários podem explorar e visualizar fontes múltiplas de informação com apenas alguns cliques.