Algoritmos e liberdade de escolha O Eu calculado

Computerdaten
Computerdaten | Foto: © Dmitry Nikolaev – Fotolia.com

Existem programas informáticos que calculam os perfis dos utilizadores e determinam o nosso papel e comportamento na internet. Será que os algoritmos limitam a nossa liberdade? A discussão também diz respeito àqueles utilizadores alemães que apenas vêem os aspectos vantajosos.

Algoritmos, programas informáticos com base em séries de indicações, calculam os nossos hábitos de consumo e o nosso comportamento de comunicação através das pegadas de dados que deixamos na internet. Elas conduzem os resultados das buscas na internet ou dão informações sobre o modo de pagamento em lojas on-line através do nosso endereço, do qual certamente se pode deduzir com grande probabilidade a situação económica pessoal.

Esta discussão sobre o efeito dos algoritmos é frequente na Alemanha. Muitas pessoas questionam-se se estão realmente a ser conduzidas por computadores. A ideia de se estar a ser influenciado por algo que não é palpável nem entendível para leigos, produz insegurança e por vezes até medo.

As máquinas também decidem

Os algoritmos são eficazes: através de processos matemático-estatísticos é possível fazer afirmações de probabilidade em relação aos mais variados assuntos. Aquilo que consultamos no Facebook é aquilo que o algoritmo do Facebook calculou para nós e está sempre dependente da maneira como interagimos com os conteúdos dessa plataforma.

Assim, até seria teoricamente possível influenciar uma opinião política. Discutido desde há muito tempo, este fenómeno designado filterbubbleficou conhecido como a tese de Eli Parker, um activista americano da internet. No seu livro homónimo de 2011, Pariser verificou que o news-stream personalizado do Facebook lhe mostrava maioritariamente conteúdos que reflectiam a sua própria opinião política. Desta forma, o utilizador fica isolado numa "bolha", que bloqueia as informações que são contrárias às suas convicções. Mas a influência dos algoritmos vai mais longe. Hoje em dia já existem prognósticos feitos por máquinas que ajudam a decidir se uma pessoa tem condições para receber um crédito ou qual o valor da prestação de seguro que deve pagar. A partir da morada é feito um cálculo sobre o risco de falta de pagamento e a partir da situação de saúde um cálculo sobre o risco de doença.

Mas existem mesmo razões para ficarmos preocupados com a perda de controle das pessoas sobre as suas decisões? O que pode ser calculado com algoritmos são valores prováveis e não prognósticos certos. Os algoritmos também não representam o nosso complexo sistema de valores, através do qual tomamos decisões em certas situações. Os algoritmos mantêm-se ao nível de acções simples, quando clicamos um texto ou fazemos uma compra.

Exigência de transparência

A realidade filtrada através de um stream do Facebook também não é um problema novo produzido pelos algoritmos. "Na realidade, ofilterbubble é apenas uma bolha entre muitas. O nosso ambiente social também exerce uma influência específica sobre a nossa percepção", diz Ben Wagner, director do Gabinete de Investigação Internet e Direitos do Homem na Universidade Europeia Viadrina em Frankfurt an der Oder. "Decisiva é apenas a questão de ter consciência dessas situações." Além disso, muitos algoritmos não são transparentes, nomeadamente os do Facebook e do Google. Os utilizadores desses serviços não sabem como é que nestes casos são tomadas as "pré-decisões" por eles. "Neste momento existe o perigo de discriminação de grupos marginais, ou seja daquelas pessoas que não conseguem obter um contrato de seguro de saúde devido aos seus dados de saúde", alertam investigadores como Ben Wagner. Assim, a exigência para haver mais transparência continua a ser a tarefa principal de uma "ética algorítmica".

Um debate alemão

Na opinião pública alemã são muitos os críticos de uma "algoritmização" das pessoas. Frank Schirrmacher, jornalista e editor da Frankfurter Allgemeine Zeitung que faleceu no Verão de 2014, era um dos mais famosos admoestadores. No seus bestsellers "Payback" (2009) e "Ego" (2013), Schirrmacher defendia que a internet seria uma droga e os computadores mudariam a nossa forma de pensar. Alguns políticos alemães alertam há anos para a "ditadura dos dados". No seu livro "Finger weg von meinen Daten" (2014), o deputado europeu dos Verdes, Jan Philipp Albrecht, descreve as pessoas como sendo cada vez menos emancipadas ao deixarem-se degradar a sistemas auto-optimizadores e calculados matematicamente.

Por outro lado, existem tentativas de questionar essas advertências de forma crítica. Qual o verdadeiro poder dos algoritmos? Porque direccionamos as nossas críticas para supostos desenvolvimentos negativos, que ainda nem sequer tiveram início, em vez de sublinhar igualmente aspectos positivos como a digitalização, questiona a escritora Kathrin Passig no Berliner Gazette, um magazine de cultura na internet. Por outro lado, o historiador Klaus Mainzer, professor na Universidade Técnica de Munique, defende uma "destecnização" da discussão. Em sua opinião, os algoritmos não são nem uma invenção da Silicon Valley, nem "maus" por si só. De acordo com o que Mainzer escreve no seu livro "Die Berechnung der Welt", os algoritmos têm a sua origem na procura da possibilidade de uma descrição matemática desses fenómenos e num desejo cientifico de criação de uma teoria sobre o mundo. Algo que os homens já fazem há milhões de anos.

Ao mesmo tempo pode observar-se que os utilizadores alemães se queixam realmente da falta de transparência do Google e do Facebook, mas que utilizam cada vez mais os seus serviços. Actualmente não existe uma consciência mais alargada sobre os riscos ou mesmo um movimento político. "Qual a razão para tal?", foi perguntado à professora alemã de Direito, Indra Spiecker, do jornal Frankfuerter Allgemeine Zeitung. A sua resposta: "A técnica é simplesmente muito bonita." No entanto, a questão talvez seja muito mais simples. A utilidade concreta de manter contactos e redes a grandes distâncias sem gastar muito dinheiro é para muitas pessoas mais forte do que os riscos, que são bastante abstractos.