Francamente... Pós-humano Por que precisamos finalmente de diversidade na área de tecnologia?

Muita gente ainda associa inteligência artificial a visões obscuras de futuro. Nossa colunista Aya Jaff explica o que realmente devemos ou não temer quando se fala sobre isso.

Por Aya Jaff

Precisamos de equipes mais diversas na área de tecnologia – só assim surgirão aplicativos e programas isentos de discriminação. Precisamos de equipes mais diversas na área de tecnologia – só assim surgirão aplicativos e programas isentos de discriminação. | Foto (detalhe): © picture alliance/AP Photo
Já trabalhei como programadora em projetos bastante variados e pude explorar muitas das novas tendências tecnológicas: seja usando códigos de quatro linhas para que drones girassem em loop ou projetando robôs consultores no setor financeiro, tive a oportunidade de experimentar muita coisa ainda bem jovem. Com o tempo foram aparecendo mais convites para participação em conferências conhecidas e tive a oportunidade de explicar meu trabalho para uma audiência mais ampla. Ao falar sobre temas como realidade aumentada e blockchain, sempre que eu abordava o tema inteligência artificial (IA), notava que o humor do público repentinamente piorava. Com essa coluna, gostaria de esclarecer o que realmente devemos temer quando o assunto é IA e quais temas podemos seguramente ignorar por enquanto.

Muita gente ainda conecta à inteligência artificial muita incerteza e, frequentemente, visões obscuras do futuro. Os preconceitos, que sugerem que a inteligência artificial tenha sido projetada apenas para tirar todos os empregos das pessoas, mantêm-se firmes. O conceito de inteligência artificial foi oficialmente mencionado pela primeira vez em 1955 – ela deveria principalmente facilitar certos processos. Hoje, a tecnologia tornou-se irrevogavelmente parte integrante de nossa vida cotidiana: de reconhecimento facial para desbloquear smartphones a banco online e ferramentas de mídia social, a IA já está sendo usada todos os dias e, portanto, está se tornando cada vez mais inteligente. Isso porque a IA, ou seja, um mecanismo de simulação da inteligência humana, funciona em tese como uma coleção de dados em constante crescimento. Com base nesses dados, a IA deve realizar avaliações e tomar decisões inteligentes. No entanto, essa informação deve ser disponibilizada primeiramente pelas pessoas – ou seja, pelos consumidores, usuários e pesquisadores.

Reprodução de estereótipos racistas

Para que a inteligência artificial realmente funcione para todos, a tecnologia por trás dela deve, contudo, funcionar da mesma forma. E isso só pode ser garantido se a tecnologia, como algoritmos ou filtros de rosto, for concebida da forma mais inclusiva possível. Como a inclusão ainda é uma grande lacuna na indústria de tecnologia, a plataforma de mídia social Snapchat, por exemplo, se envolveu-se com frequência em escândalos: um filtro facial que só funciona para brancos, mas não para negros? Ou um filtro que reproduz estereótipos racistas? Já aconteceu de tudo. O erro? É que nem todos os usuários foram considerados durante a programação.
 
O motivo? Falta de diversidade nas equipes das empresas de tecnologia. Os chamados pontos cegos, ou seja, aspectos de uma decisão que uma pessoa pode negligenciar, porque ela própria não foi afetada ou confrontada com isso, agora entram em jogo – e prejudicam a qualidade da tecnologia: se, como no caso dos filtros, não há representação étnica e cultural satisfatória dentro de uma equipe, faltará perspectiva e sensibilização acerca do racismo.

No início de 2020, por exemplo, aconteceu pela primeira vez de um afro-americano ter sido preso erroneamente nos EUA, porque os policiais confiaram nos resultados da IA – especificamente no reconhecimento facial. Esses casos me amedrontam pessoalmente, pois o racismo vai se firmando através da má colaboração entre pessoas e software.

Precisamos de equipes mais diversas

Deve-se pensar de maneira mais inclusiva em muitos níveis. Os argumentos para isso podem ser encontrados exemplarmente na indústria automotiva: aqui também mecanismos baseados em tecnologia de IA estão sendo cada vez mais usados, quando se trata, por exemplo, de projetar veículos autônomos ou tecnologias de estacionamento.

Para essas tecnologias, as medidas humanas são analisadas, a fim de se programar os movimentos de um carro. Se essas medidas, ou seja, as principais informações, das quais a tecnologia de IA precisa para funcionar para todos, forem ignoradas, cadeirantes, por exemplo, estarão potencialmente em risco no trânsito se não forem reconhecidos a tempo pelo mecanismo de detecção de um carro.

Na verdade, a coisa toda pode ser tratada de maneira muito simples: por meio de equipes mais diversas. Porque, e isso já foi provado várias vezes, a diversidade e a inclusão não só conduzem a espaços e produtos finais não discriminatórios, mas, via de regra, também aumentam o sucesso das empresas.

Espero realmente que as discussões para as quais serei convidada no futuro lidem mais com esses cenários realistas - e que falemos mais sobre possíveis soluções do que sobre problemas.
 

„Francamente…“

A cada semana, nossa coluna “Francamente…” é escrita alternadamente por Aya Jaff, Maximilian Buddenbohm, Dominic Otiang’a e Margarita Tsomou. Em “Francamente... Pós-humano”, Aya Jaff observa os avanços tecnológicos e como eles influenciam nossa vida e sociedade.