Avanços e retrocessos
“A tecnologia não é neutra”

Especialistas discutem como algoritmos podem amplificar o racismo e o sexismo na sociedade, apontando que o preconceito racial está muitas vezes embutido em softwares de reconhecimento facial e nas inteligências artificiais.

Por Ana Paula Orlandi

A praticidade e o conforto proporcionados pela tecnologia inibem nossos movimentos de mudança e nos conduzem à inércia? Quais extratos sociais estão de fato se movimentando e usufruindo desses avanços tecnológicos? A tecnologia aprofunda as desigualdades em nossa sociedade? Essas foram algumas das questões levantadas por Silvana Bahia, diretora do Olabi, laboratório de inovação e tecnologia situado no Rio de Janeiro, durante o workshop online do projeto Tramas Democráticas sobre o tema “inércia” realizado no dia 20 de outubro último.

Substantivo feminino

Ao refletir sobre a democratização da tecnologia, Bahia apresentou alguns projetos realizados pelo Olabi, a exemplo do PretaLab, criado por ela em 2017. Trata-se de um guarda-chuva de iniciativas voltadas para estimular e inserir mulheres negras nas áreas de tecnologia e inovação. “É um projeto-causa que busca falar com essas mulheres que representam 28% da população brasileira. [A professora, filósofa e ativista norte-americana] Angela Davis diz que quando uma mulher negra se movimenta toda a sociedade se movimenta com ela”, aponta Bahia. “O PretaLab existe por isso: queremos sair da inércia e movimentar a sociedade”.

Um dos objetivos do projeto é conectar essas profissionais às empresas do setor. Por esse motivo, no site do PretaLab é possível encontrar cerca de 400 perfis de mulheres negras que atuam em tecnologia e inovação no Brasil. “Adoro dizer que a tecnologia é um substantivo feminino, que não está distante das mulheres como querem nos fazer crer”.

Homens, brancos e ricos do Hemisfério Norte

A plataforma também disponibiliza uma página de dados sobre esse mercado de trabalho no país. Entre novembro de 2018 e março de 2019, o PretaLab, em parceria com a consultoria multinacional ThoughtWorks, realizou a pesquisa #QUEMCODABR que investigou o perfil dos profissionais de tecnologia que atuam hoje no Brasil. Segundo o estudo, eles são, sobretudo, homens (68%), brancos (58,3%), jovens (77%) e oriundos de classes socioeconômicas média e alta (60%). Esse cenário, contudo, não é exclusividade brasileira, como alerta Bahia: “Os CEOs das grandes plataformas de tecnologia como Facebook, Waze, Spotify e Twitter são todos homens, brancos, ricos, do Hemisfério Norte”.

De acordo com Bahia, é necessário questionar a tecnologia o tempo todo. Segundo ela, muitos de seus estudos no momento estão sendo orientados pelo livro Algorithms of Oppression (ou “Algoritmos de Opressão”, inédito no Brasil), da pesquisadora da Universidade da Califórnia Safiya Noble. Lançada em 2018, a publicação investiga como os algoritmos podem amplificar o racismo e sexismo na sociedade. “Os projetos de inteligência artificial usam dados de um passado opressor que exprimem séculos de colonização e escravização”, observa Bahia.

Ela também chama atenção para o fato de que o avanço digital não necessariamente promove o bem-estar na sociedade. “Temos muita tecnologia hoje, mas nossos problemas sociais não diminuíram”, avalia. “É preciso pensar que a tecnologia não é neutra. Ela está ligada à política e à economia, pode aumentar as desigualdades e comercializar nossos dados. Precisamos estar atentos”.

Dados e privacidade

O encontro do projeto Tramas Democráticas trouxe também como convidado M. Radwan, do coletivo Tactical Tech, organização não-governamental sediada em Berlim que investiga e alerta sobre os impactos da tecnologia na sociedade. Radwan falou do projeto The Glass Room, exposição interativa desenvolvida a partir de 2016, que já foi vista em mais de 40 países, em diferentes formatos, tendo recebido uma nova edição em 2020. A versão de estreia, com mais de 50 itens e cinco blocos temáticos, atraiu cerca de 60 mil pessoas quando passou por Berlim, Londres, Nova York e São Francisco.

“Reunimos arte, design e tecnologia para falar sobre privacidade, dados e nossa relação com a tecnologia no cotidiano”, explica Radwan, coordenador do projeto. Segundo ele, “falamos de coisas reais, que estão acontecendo agora, como, por exemplo, o preconceito racial embutido nos softwares de reconhecimento facial e nas inteligências artificiais que se propõem a reconhecer pessoas”. Radwan também alerta para o fato de que “o projeto desmitifica questões em torno desses tópicos sem demonizá-las, como geralmente acontece, o que acaba afastando o público. Tentamos atrair o maior número de pessoas para que elas possam começar a discutir esses assuntos”.

Internet das coisas

O sucesso da primeira edição da mostra fez com que a Tactical Tech fosse procurada por profissionais de outros lugares do mundo interessados em receber The Glass Room. A partir dessa demanda, a ONG produziu uma versão pocket da exposição, que ganhou o título de Internet of Things (IoT). “É uma versão econômica, portátil e com menos itens. Assim, mais pessoas podem curtir a experiência e refletir sobre a tecnologia nos locais onde vivem”. Uma nova edição da mostra, também em formato pocket, estreou em 2020. Com o título Misinformation Edition a exposição pode ser visitada virtualmente e está disponível em nove idiomas.

Uma das metas dessa edição é ensinar o público a reconhecer e combater a desinformação. O totem Deepfake Lab, por exemplo, oferece pistas de como identificar um vídeo com conteúdo adulterado por ferramentas avançadas de inteligência artificial. Outro tema abordado pela exposição é o vício em tecnologia. Entre outros itens está um manual, o Data Detox Kit, que traz o passo-a-passo para o usuário reduzir sua exposição na internet.