Algoritmes en beslissingsvrijheid Het berekende ik

Computerdata
Foto: © Dmitry Nikolaev – Fotolia.com

Computerprogramma’s creëren gebruikersprofielen en bepalen wie we zijn en wat we doen op het internet. Ontnemen algoritmes ons onze beslissingsvrijheid? Het is een vraag die ook Duitse gebruikers aanbelangt, die echter vooral de voordelen zien.

Algoritmes, programma’s op basis van opeenvolgende commando’s, maken gebruik van gegevenssporen die we online achterlaten en berekenen zo onze consumptiegewoontes en ons communicatiegedrag op het internet. Ze sturen onze online zoekresultaten of bepalen de betalingswijzen in onlinewinkels op basis van ons adres, waaruit met enige waarschijnlijkheid onze financiële situatie af te leiden valt.

Ook in Duitsland wordt over de werking van algoritmes gediscuteerd. Veel mensen vragen zich immers af of computers hun doen en laten bepalen. Het idee dat men wordt beïnvloed door iets dat niet tastbaar en voor niet-ingewijden niet te begrijpen is, zorgt voor onzekerheid en soms zelfs voor angst.

Machines beslissen mee

Algoritmes zijn doeltreffend: via wiskundig-statistische methodes kunnen op basis van ons voorbije gebruikersgedrag voorspellingen worden gedaan over allerlei zaken. Wat we op Facebook zien, is wat het algoritme van Facebook voor ons heeft berekend – afhankelijk van hoe wij met de inhoud op dat platform omgaan.

Op die manier zou men in theorie zelfs de vorming van onze politieke ideeën kunnen beïnvloeden. Dat fenomeen, door de Amerikaanse internetactivist Eli Pariser de Filterbubble genoemd, is felbesproken. In zijn gelijknamige boek uit het jaar 2011 stelde Pariser vast dat de gepersonaliseerde nieuwsstroom van Facebook hem vooral bijdragen liet zien die met zijn eigen politieke mening overeenkwamen. Zo raakt een gebruiker geïsoleerd in een “luchtbel”; informatie die niet bij zijn ideeën past, wordt uitgesloten. Maar de invloed van algoritmes gaat nog verder: machineprognoses beslissen nu al mee of iemand al dan niet kredietwaardig is of welke verzekeringsbijdrage hij moet betalen. De woonplaats bepaalt de financiële betrouwbaarheid, de gezondheidstoestand het ziekterisico.

Moeten we ons dan echt zorgen maken dat mensen de controle over hun beslissingen verloren hebben? Wat men met algoritmes kan berekenen, zijn geen betrouwbare prognoses, maar waarschijnlijkheidswaarden. Bovendien vormen algoritmes niet het complexe waardensysteem dat ons toelaat beslissingen te nemen op basis van de situatie waarin we ons bevinden. Ze gaan niet verder dan het niveau van eenvoudige handelingen: zouden we wel of niet op een tekst klikken, zouden we een product wel of niet kopen …

Eis tot transparantie

Ook de gefilterde realiteit van een facebook-stream is geen probleem dat door algoritmes nieuw gecreëerd werd. “In wezen is de Filterbubble maar één van vele luchtbellen. Ook onze sociale omgeving is in sterke mate bepalend voor de manier waarop we dingen waarnemen”, zegt Ben Wagner, directeur van de Onderzoeksgroep Internet en Mensenrechten aan de Europese Universiteit Viadrina in Frankfurt an der Oder. “Het belangrijkste is dat we ons van die dingen bewust moeten zijn.” Maar veel algoritmes, zoals die van Facebook en Google, zijn niet transparant. De gebruikers van die diensten weten niet in welke dingen hier voor hen ‘voorbeslist’ wordt. “Momenteel bestaat het gevaar dat men randgroepen gaat uitsluiten, bijvoorbeeld mensen die op basis van hun gezondheidsgegevens geen ziekteverzekering meer krijgen”, waarschuwen wetenschappers zoals Ben Wagner. Een sterkere transparantie blijft dan ook de belangrijkste opgave van een ‘ethiek der algoritmes’.

Een Duits debat

In de Duitse publieke opinie is er veel kritiek te horen op de ‘algoritmisering’ van de mens. Een van de bekendste critici op dat vlak was journalist en mede-uitgever van de Frankfurter Allgemeine Zeitung Frank Schirrmacher, die in de zomer van 2014 overleed. In zijn bestsellers Payback (2009) en Ego (2013) opperde hij dat het internet een drug is en dat computers ons denken veranderen. Ook Duitse politici waarschuwen al jaren voor de ‘dictatuur van data’. In zijn boek Finger weg von meinen Daten (Handen af van mijn gegevens, 2014) ziet Jan Philipp Albrecht, Europarlementariër van de partij die Grünen, hoe de mens steeds meer ontmoedigd geraakt en tegelijk gedegradeerd wordt tot een steeds nauwkeuriger wiskundig berekenbaar systeem.

Anderen proberen dan weer zulke kritiek zelf kritisch in vraag te stellen. Hoe groot is de macht van algoritmes echt? Waarom richten we onze kritiek op vermeend negatieve ontwikkelingen, die deels nog niet eens begonnen zijn, in plaats van ook de positieve aspecten van de digitalisering te benadrukken, vraagt schrijfster Kathrin Passig zich af in het internetcultuurmagazine Berliner Gazette. Wetenschapshistoricus Klaus Mainzer, professor aan de TU-München, pleit dan weer voor een ‘ont-technologisering’ van het debat. Algoritmes zijn volgens hem noch een uitvinding van Silicon Valley, noch per definitie ‘kwaadaardig’. Ze vinden hun oorsprong, zo schrijft hij in zijn boek Die Berechnung der Welt (De berekening van de wereld) uit 2014, in de zoektocht naar een mathematische beschrijfbaarheid van fenomenen en de wens van de wetenschappen om de hele wereld in een theorie te kunnen vatten. Dat laatste is volgens hem iets waar mensen al duizenden jaren mee bezig zijn.

Tegelijk valt het op dat de Duitse burgers weliswaar klagen over het gebrek aan transparantie bij Google en Facebook, maar dat ze tegelijk steeds intensiever van hun diensten gebruikmaken. Een algemeen verbreid bewustzijn van de risico’s of een politieke beweging zijn nog niet in zicht. Hoe dat komt, vroegen we aan de Duitse professor recht Indra Spiecker van de Frankfurter Allgemeine Zeitung. Haar antwoord: “De techniek is gewoon te mooi.” Maar misschien is het nog veel eenvoudiger: het concrete voordeel, dat men contacten en netwerken over grote afstanden zo gemakkelijk kan onderhouden, overstijgt voor veel mensen de abstracte risico’s.