Algoritmipõhine valitsemine
Täielik jälgimine

Kogutud andmete põhjal kodanikke premeerivad ja trahvivad algoritmid ehk nn algorithmic governance on Hiinas ja Indias juba ammu reaalsus. Kuid ka Saksamaal teevad arvutiprogrammid juba otsuseid, mis mõjutavaid paljusid inimesi.

Arne Cypionka

Hiina miljonilinnas Xiangyangis asuvast Changhongi sillast lõunasse jääv ristmik on ülerahvastatud ja kaootiline. Autod signaalitavad, jalakäijad ületavad teed punase tulega ja rollerijuhid nõeluvad ummikust läbi. Tänava kõrval ripub suur ekraan paljude portreefotodega. Kas see on üks paljudest reklaamtahvlitest? Ei. Politsei paigaldas ekraani 2017. aastal korra tagamise huvides. Sellel kuvatakse nende nägusid, kes siin ristmikul liikluseeskirja on rikkunud ja kelle automaatse näotuvastusega kaamerad on avastatud. Asja mõte on inimesi „naabrite ja kolleegide ees häbistada“, ütles üks linnavõimude esindaja New York Timesile. Hukkamõistetute fotode kõrval on nende nimed ja isikutunnistuse numbrid. See on kasvatusmeetod.

Sellised ekraanid nagu Xiangyangi linnas, on vaid väike osa valitsuse jälgimis- ja kontrolliaparaadist. Oma uue sotsiaalse krediidi süsteemi jaoks on kommunistlik partei käivitanud viimastel aastatel paljudes linnades pilootprojektid, kus kogutakse andmeid jälgimiskaameratest, eravestlustest, veebikauplustest ja paljudest muudest kohtadest ning viiakse need omavahel seosesse. Selle eesmärk on registreerida kõik riigi kodanikud 2020. aastaks ühtses hindamissüsteemis. Tohutute arvutuste tulemusel saab iga hiinlane punktiarvu, mida arvutialgoritmid pidevalt värskendavad. Arvestades, et tegu on autoritaarse valitsusega, on see samm mõistetav – nii saab iga hiinlast, keda on kokku 1,4 miljardit, eraldi kontrollida.

Algoritmipõhine kontrollimine ja trahvimine

Algoritmipõhine valitsemine tähendab seda, et valitsus või ametiasutus kasutab sotsiaalmeediast või muudelt platvormidelt pärit tohutuid andmevooge selleks, et masinad saaksid otsustada, kas kodanikku premeerida või trahvida. Arvutid tunnevad ära mustrid ja rutiinid ning rakendavad automaatselt distsiplinaarmeetmeid: kui inimene annab rendijalgratta heas seisukorras tagasi, ei lähe punase tulega üle tee ja jõuab alati õigel ajal tööle, saab ta punkte. Kui ta aga Hiina poliitikat kritiseerib või korduvalt halva punktiarvuga inimesega kontaktis on (jah, ka see on piisav põhjus), hakkab tema punktiarv järjest langema. Sellel on drastilised tagajärjed: madala hindega inimesed ei pääse näiteks lennukisse ja kiirrongidesse. Ning nende lapsed ei tohi minna erakooli.
Selline inimeste jälgimine, kõikvõimaliku info kogumine nende kohta ja nende vastu kasutamine ühes riigis pole mitte ainult eraellu tungimine, vaid seab olulisi piiranguid ka isikuvabadustele. Kuid ametiasutused ei hinda isikuandmeid mitte ainult Hiinas, ka India püüab individuaalse registreerimisega rahvastikust ülevaadet saada.
Nime Aadhaar (Vundament) all loodi andmebaas, milles on juba 1,2 miljardit registreeritud kasutajat ehk suur osa India elanikest. Kaheteistkohaline number, millega on seotud nimi, vanus, aga ka silmaiirise pilt ja kõigi sõrmede jäljendid, võimaldab nüüd igaühel oma isikut üheselt tõendada ja näiteks sotsiaalteenuseid taotleda – või vähemasti peaks see teoorias nii käima. India ajakirjanik Rachna Khaira paljastas aasta alguses süsteemi kitsaskohad: ta pöördus häkkerite poole, kes lõid talle 500 ruupia (u 6 eurot) eest juurdepääsu kogu andmebaasile. Andmebaas Aadhaar, mis peaks takistama toiduabi ebaõiglast jagamist ja sellega seotud pettusi, osutub üha suuremaks probleemiks. Väidetavalt on inimesi juba nälga surnud, kuna nad ei suuda dokumente esitada või kuna biomeetriline tuvastamine ei toimi. Peale selle kaasneb leketega miljonite andmekogumite avalikustamine.

India naised registreerivad ennast Aadhaari andmebaasis. | Foto (detail): © picture alliance / NurPhoto

Aeg andmedebatiks Euroopas

Ka Euroopas pole algoritmide kasutamine andmeanalüüsis midagi ebatavalist. Erinevalt riskantsetest eksperimentidest planeedi kahes kõige suurema rahvaarvuga riigis – Hiinas ja Indias – ei pruugi siin suurte isikuandmete hulkade arvutitöötlusega tegeleda tingimata riik. Näiteks Saksamaal tegutseb krediidikaitse ühing Schufa, mille käes on andmed ligi 67 miljoni inimese ja 5 miljoni ettevõtte kohta. Kuidas täpselt toimib protsess, mille käigus otsustatakse, kes tohib korterit üürida või mobiililepingut sõlmida, on saladus. Ka Schufa kriteeriumid pole teada. Kuid on märke sellest, et näiteks naisi diskrimineeritakse hindamisel.

Saksamaa on kaugel sellest, et liiklusrikkujaid ekraanidele häbiposti panna. Kuid ikkagi tekib küsimus: millises ulatuses tohivad Schufa-laadsed ettevõtted ja riigiasutused andmeid koguda ja kasutada? On aeg arutada algoritmipõhise valitsemise legitiimsuse üle. Lõppude lõpuks on küsimus selles, kas kontroll ühiskonna üle tuleks anda masinatele. Õigesti seadistatud algoritmid võivad teha tõhusaid, kiireid ja õiglaseid otsuseid. Kuid kui vaadata nende kasutamist praegu, paistab, et need eelised ei kaalu üles tohutut väärkasutamise potentsiaali, üksikisiku eraellu tungimist ja protsesside läbipaistmatust.