Ātrā piekļuve:

Pāriet tieši uz saturu (Alt 1)Pāriet tieši uz apakšizvēlni (Alt 3)Pāriet tieši uz galveno izvēlni (Alt 2)

Algoritmiskā pārvaldība
Totālā uzraudzība

Pāri ielai pie sarkanās gaismas: Ķīnā satiksmes noteikumu pārkāpēji tiek kaunināti publiski.
Pāri ielai pie sarkanās gaismas: Ķīnā satiksmes noteikumu pārkāpēji tiek kaunināti publiski. | Foto (Izkārtojums): @ picture alliance/dpa-Zentralbild/Klaus Grabowski

Algoritmi, kuri soda vai atalgo valsts iedzīvotājus, pamatojoties uz savāktajiem datiem, – Ķīnā un Indijā tā dēvētā algoritmiskā pārvaldība jau sen ir realitāte. Bet arī Vācijā jau ir datorprogrammas, kas pieņem cilvēku dzīvi ietekmējošus lēmumus.

Arne Cypionka

Ķīnas miljonpilsēta Sjanjana. Krustojums uz dienvidiem no Čanhongas tilta ir pārpildīts ar mašīnām, valda haoss: automašīnas taurē, gājēji iet pāri ielai pie sarkanās luksofora gaismas un elektro motorrolleri lavierē starp braukšanas joslām. Ielas malā iekārts liels ekrāns, pilns ar daudzām tuvplāna fotogrāfijām. Kārtējais reklāmas stends? Nē. Ekrānu 2017. gadā novietoja policija, lai rūpētos par kārtību. Tajā parādās kameras automātiski atpazītās sejas – to cilvēku sejas, kuri šeit nav ievērojuši satiksmes noteikumus. Runa esot par „šo cilvēku kaunināšanu kaimiņu un kolēģu priekšā,“ apgalvo pilsētas pārstāve laikrakstam New York Times. Blakus „kauna ekrāna“ fotogrāfijām ir šo cilvēku vārdi un personas kodi. Tas ir audzināšanas pasākums.
 
Tādi monitori kā Sjanjanā ir tikai neliela daļa no Ķīnas valdības pārraudzības un kontroles sistēmas. Lai īstenotu jauno sociālo kredītu sistēmu, Komunistiskā partija pēdējos gados vairākās pilsētās ir uzsākusi izmēģinājuma projektus, kuru funkcija ir savākt datus no novērošanas kamerām, privātajiem čatiem, tiešsaistes pirkumiem un daudziem citiem avotiem, un pēc tam tos strukturēt. Mērķis – reģistrēt visus iedzīvotājus vienotā reitinga sistēmā. Izmantojot milzīgu skaitļošanas jaudu, katrs ķīnietis galu galā saņem rezultātu, ko datoru algoritmi pastāvīgi atjaunina. Autoritāras valdības mērķis ir acīmredzams – iespēja atsevišķi kontrolēt ikvienu no 1,4 miljardiem iedzīvotāju.

Algoritma kontrole un sods

Kad valdības vai iestādes izmanto sociālo mediju un citu platformu milzīgo datu plūsmas priekšrocības un lēmuma pieņemšana par sodu vai atalgojumu tiek atstāta mašīnu ziņā, tad runa nepārprotami ir par algoritmisko pārvaldību. Datori, atpazīstot piemērus un ierasto kārtību, automātiski veic disciplinārus pasākumus: kurš iznomāto velosipēdu atdot atpakaļ bez defektiem, vienmēr šķērso ielu pie zaļās gaismas, savlaicīgi ierodas darbā – tam kā balva tiek piešķirti punkti. Turpretim cilvēkam, kurš internetā kritizē ķīniešu politiku vai kaut vai tikai biežāk kontaktējas ar slikti novērtētām personām, nākas pieredzēt, ka viņa punktu skaits samazinās. Sekas ir drastiskas: cilvēkiem ar zemu punktu skaitu tiek liegts, piemēram, pārvietoties ar lidmašīnu vai ātrvilcienu, vai viņu bērni nedrīkst apmeklēt privātskolas.
 
Tik cieši uzraudzīt valsts iedzīvotājus, ievākt par viņiem visu iespējamo informāciju un izmantot to pret viņiem – tā vairs nav tikai ielaušanās privātumā, bet ļoti nopietns personisko tiesību un brīvību ierobežojums. Bet Ķīna nav vienīgā valsts, kurā varas iestādes analizē personiskos datus. Tas notiek arī Indijā, kur, izmantojot personu reģistrāciju, tiek mēģināts iegūt pārskatu par visiem iedzīvotājiem.
 
Šim nolūkam Indijā ir izveidota datu bāze ar nosaukumu Aadhaar (tulk.: fonds), kurā jau piereģistrēti 1,2 miljardi lietotāju, t.i. lielākā daļa valsts iedzīvotāju. Ar divpadsmitciparu skaitli, kuram tiek pievienots vārds, vecums, varavīksnenes un visu pirkstu nospiedumu skenējums, var nepārprotami identificēt jebkuru personu, lai, piemēram, izvērtētu viņa tiesības saņemt sociālo pabalstu. Vismaz teorētiski. Taču Indijas žurnāliste Rahna Kaira šī gada sākumā norādīja uz sistēmas trūkumiem. Viņa sazinājās ar hakeriem, kuri tikai par 500 rūpijām, kas ir aptuveni seši eiro, nodrošināja viņai pilnīgu piekļuvi visai datu bāzei. Datu bāze Aadhaar tika izveidota ar mērķi novērst krāpšanu un negodīgumu pārtikas palīdzības programmās, bet tagad tā rada daudzas problēmas. Ir ziņas par cilvēkiem, kas nomiruši badā, jo viņi nebija varējuši uzrādīt nekādus dokumentus vai arī nebija darbojusies biometriskā atpazīšana. Un ir arī konstatētas datu noplūdes, kuru rezultāts ir miljoniem publiskotu audio un video ierakstu.

Sievietes Indijā reģistrējas Aadhaar datu bāzē. Sievietes Indijā reģistrējas Aadhaar datu bāzē. | Foto (Izkārtojums): © picture alliance / NurPhoto

Eiropā ir pienācis laiks datu debatēm

Arī Eiropā datu analīzē ir pierasts izmantot algoritmus. Atšķirībā no riskantajiem eksperimentiem divās apdzīvotākajās pasaules valstīs – Ķīnā un Indijā –, Eiropā ne vienmēr tie ir valsts interešu pārstāvji, kuru datori apstrādā milzīgu personisko datu plūsmu. Piemēram, Vācijā darbojas aizdevumu aizsardzības uzņēmums, kas pazīstams ar nosaukumu SCHUFA. SCHUFA atzinis, ka tā glabāšanā atrodas 864 miljoni datu ierakstu par aptuveni 67 miljoniem cilvēku un 5 miljoniem uzņēmumu. Noslēpumā tīts, kā precīzi šis process darbojas un kurš beigu beigās pieņem lēmumu par to, vai persona drīkstēs īrēt dzīvokli vai noslēgt līgumu par mobilā tālruņa pieslēgumu. Nav zināmi arī kritēriji, pēc kuriem uzņēmums izvērtē aizdevuma izsniegšanu. Ir tikai aizdomas par to, ka sievietes ir neizdevīgākā pozīcijā.
 
Vācija ir tālu no tā, lai satiksmes noteikumu pārkāpēju fotogrāfijas ievietotu ekrānos kā pie kauna staba. Un tomēr rodas jautājums: cik pamatoti tādiem uzņēmumiem kā SCHUFA vai valdības aģentūrām ir ļauts ievākt un izmantot personu datus? Ir pienācis laiks apspriest algoritmiskās pārvaldības likumību. Galu galā tā skar jautājumu par sabiedrību pakļaušanu mašīnprocesu kontrolei. Pareizi konfigurēti algoritmi var būt izšķiroši ātru, efektīvu un godīgu lēmumu pieņemšanā. Tomēr, ja paskatās uz to pašreizējo pielietojumu, šķiet, ka šīs priekšrocības diezin vai atsver milzīgais ļaunprātīgā pielietojuma potenciāls, iejaukšanās katra indivīda privātumā un procesu caurskatāmības trūkums.