Demokrātija digitālajā telpā
"Esi uzmanīgs ar to, ko tu radi!"

Cilvēktiesību juriste un autore Morīna Veba (Maureen Webb) skaidro, kā tehniskie risinājumi var saasināt diskrimināciju un kā hakeri ir apņēmušies digitālajā telpā saglabāt demokrātiskās pamattiesības. 

Johanness Cellers

Vebas kundze, savā grāmatā „Coding Democracy“ jūs aprakstāt hakerus kā produktīvus traucētājus, kas iebilst pret kontroli, varas koncentrāciju un autoritārismu. Jūs arī apgalvojat, ka hakeri var mums palīdzēt pārvarēt „informācijas disforiju“, kas šobrīd nomāc sabiedrību. Ko jūs ar to domājāt?

Informācijas disforija raksturo diskomfortu, ar ko Rietumi šobrīd saskaras – tas ir dezorientācijas stāvoklis, ko izjūtam digitālajā pasaulē, kur mūsu informāciju un sociālās attiecības arvien vairāk kontrolē neredzami spēki. Tas ir neitrālāks termins nekā „viltus ziņas“, maldinoša informācija, dezinformācija, aizspriedumi vai diskriminācija, lai gan tas ietver arī visus šos jautājumus. Patoloģijā „disforija“ attiecas uz trauksmes, depresijas un – manuprāt, tas ir ļoti būtiski mūsu pašreizējā politiskajā situācijā – „nepacietība ciešanās“ stāvokli. 

Kas ir šie "neredzamie spēki", par kuriem jūs runājat? 

Piemēru ir daudz: algoritmi, kas pieņem nepārskatāmus lēmumus un mūs sociāli šķiro. Lielie dati (Big Data) ar daudziem nepārbaudītiem pieņēmumiem, kas katru dienu veic arvien vairāk kontroles funkciju. Šaurraide (narrowcasting), kurā mediji apkalpo arvien specifiskāku sabiedrības daļu. Politiskā mikromērķēšana, kā mēs redzējām Cambridge Analytica skandālā saistībā ar 2016. gada ASV prezidenta vēlēšanām un Brexit balsojumu. Ietekmes kampaņas (sociālo mediju kampaņas, kuru mērķis ir ietekmēt cilvēku viedokļus un lēmumus; redaktora piezīme), kas slēpj viņu patieso izcelsmi. Vīrusu dezinformācijas kampaņas, dziļviltojumu (deepfake) pieaugums… un es te minēju tikai dažus piemērus. 

Cik lielā mērā informācijas disforija tiek izmantota kā politiska taktika?

Demokrātijai ir nepieciešams pārdomāts, uz faktiem balstīts diskurss. Iedzīvotāju iesaistīšana informācijas disforijā ir sena autoritāro režīmu taktika, kas pastiprinātā digitālo mediju ietekmē pēdējos gados ir iefiltrējusies arī Rietumu demokrātijās. Publisko telpu piepilda ar nepatiesību, nepārtraukti nonākot pretrunās. Pienāk brīdis, kad neviens nezina, kas patiesībā ir patiesība, un tiem, kam ir vara, tie nosaka dienas simbolus. Simboli apiet debates un diskursu, jo tie skar tieši cilvēku emocijas, viņu rūpes, vērtības, kā arī mītus par zaudējumiem un izpirkšanu. Informācijas disforiju izmanto arī, lai veicinātu masveida kontroli un cenzūru. Lai „salabotu“ informācijas pasauli, valdības un elite sāk cieši sadarboties ar monopolistiskām platformām, lai kontrolētu to, ko iedzīvotāji dzird, domā vai saka. Tā iznīcina diskursu un demokrātiju. 

Vai informācijas disforiju izmanto arī mazāk varenie? 

Varētu teikt, ka tā ir politiskās pretestības taktika iesaistīt valdošo eliti informācijas disforijā. Virknē emuāra ierakstu, ko Džūljens Asanžs (Julian Assange) rakstīja pirms WikiLeaks palaišanas, viņš paskaidroja savu teoriju, ka noplūde (īpaši plašā mērogā) ir emancipēta. Ne tikai tāpēc, ka tā atklāj noslēpumus, kas pilsoņiem ir jāzina, bet arī tāpēc, ka tā slāpē un saŗežģī komunikāciju starp varenajiem.

Vai tas ir tiesa, ka hakeru grupas, piemēram, Vācijas Haosa datoru klubs (Chaos Computer Club, CCC), jau sen ir cīnījušās pret kontroli un lielāku pārredzamību, vai ne?

Jā, un viņi izmantoja vēl vienu izcilu apjukuma radīšanas taktiku: humoru! Piemēram, kad daudzas valdības pirmajās „kara pret terorismu“ dienās vēlējās ieviest biometriskos ID. CCC nozaga toreizējā Vācijas iekšlietu ministra Volfganga Šoibles (Wolfgang Schäuble) pirkstu nospiedumus un publicēja tos žurnālā – uzdrukātus uz plastmasas plēves, ko lasītāji varētu izmantot, lai uzdotos par ministru drošības pārbaužu laikā. Tas bija ļoti humoristisks veids, kā izcelt šādu sistēmu vājās vietas un ietekmēt to, kā iedzīvotāji – un ministrs – uztver šādas sistēmas. 

Kā aizspriedumi un diskriminācija izpaužas digitālajās tehnoloģijās? 

Apskatīsim visvairāk apspriesto piemēru: algoritmus ap mums, kuri izlemj, kas saņem aizdevumu, darba interviju vai apdrošināšanu un par kādu cenu. Šie algoritmi nav automātiski godīgi. Tādējādi aizspriedumi un diskriminācija bieži tiek nekontrolēti atkārtotas. Analogajā pasaulē mēs esam izstrādājuši dažādus veidus, kā risināt un izsekot šādus aizspriedumus. Bet digitālajā pasaulē kods bieži vien ir „melnā kaste“, un tikai daži cilvēki saprot, kas tieši notiek šajā kastē. Ar mašīnmācīšanos dažreiz pat paši izstrādātāji ir neziņā.

Vai jums ir piemērs tam, kā digitālie aizspriedumi ietekmē cilvēku lēmumus un dzīvi?

Uzņēmums „Amazon“ izmantoja algoritmu, lai nolīgtu programmatūras inženierus, un ir pierādīts, ka mehānisms izvēlas tikai vīriešu CV. Iemesls tam bija tas, ka darbā pieņemšanas kritēriju noteikšanai tika izmantoti esošo darbinieku CV. Tātad novirze jau bija vēsturiskajos datos, un algoritms to atkārtoja.

Vai tas pats varētu notikt ar valdību izmantotajām tehnoloģijām, piemēram, sejas atpazīšanas programmatūru? 

Pētījumā, kurā tika aplūkotas divas galvenās sejas atpazīšanas programmas, tika konstatēts, ka algoritms nepareizi novērtēja personas dzimumu tikai vienā procentā gadījumu, ja persona bija baltādains cilvēks. Savukārt tumšādainām sievietēm kļūdu īpatsvars bija 35 procenti. Par iemeslu ir tas, ka programmētāji baroja algoritmu ar datu kopu, kas sastāvēja galvenokārt no cilvēkiem, kuri izskatījās kā viņi paši. Tas ir satraucoši, ja ņem vērā, ka mūsu krimināltiesību sistēma un citas izpildes sistēmas arvien vairāk paļaujas uz algoritmiem, lai pieņemtu lēmumus. Un ka pilnībā automatizētā sistēmā nav ne tiesiskās aizsardzības, ne cilvēka pieņemta lēmuma, ne žēlsirdības, ne diskrētuma.

Kāpēc sabiedrība neprotestē pret diskriminējošu tehnoloģiju izmantošanu?

No vienas puses, iemesls ir tas, ka viss notiek slepenībā un ir maz saprotams. Turklāt cilvēki ir nepacietīgi – viņi vēlas brīnumlīdzekli, kas atrisina visas problēmas, un ir pārāk gatavi reaģēt uz neliberāliem impulsiem. Tas ietekmē mūs visus. Lai uz notiekošo paskatītos objektīvi, mums ir jābūt drosmīgiem. Manuprāt, ir ārkārtīgi svarīgi, lai arī progresīvie saprastu, ka viņi ir neobjektīvi. Cenzūra, izmantojot meklēšanas algoritmus, ir kļuvusi par izvēles ieroci, veids kā pretoties viedokļiem, jautājumiem un debatēm, kas progresīvajiem nepatīk. Es šeit runāju kā daļa no kreisajiem, kā arodbiedrību un cilvēktiesību jurists. Mēs arī izplatām aizspriedumus par tehniskajiem procesiem. Ir situācijas, kad mēs domājam, ka rīkojamies pareizi, bet patiesībā mēs nodarām kaitējumu. 

Piemēram? 

Piemēram, bija Holivudas lietotne, kuras mērķis bija apkarot melnādaino diskrimināciju kino industrijā. Lietotne sākumā bija vienkārša šajā nozarē strādājošo melnādaino cilvēku datu bāze Nākamais solis, ko izstrādātāji bija plānojuši, bija nodrošināt studijām visu producēšanas darbinieku etniskās piederības demogrāfisko sadalījumu. Lekcijā Gētes institūtā Sanfrancisko es apgalvoju, ka tā varētu būt ļoti slikta ideja – no cilvēktiesību un darba tiesību viedokļa.

Kāda bija šīs Holivudas lietotnes problēma?

Es pilnībā atbalstu minoritāšu lielāku līdzdalību darbavietā visos līmeņos. Bet man bija jautājums: ja jūs piedāvājat visu darbinieku identitātes demogrāfisko sadalījumu, kādas kategorijas jūs izmantojat? Ne tikai etnisko piederību un dzimumu, bet arī ģimeni, reliģiju un sociālekonomisko statusu? Cilvēktiesības aizsargā šos datus. Vai jūs mērķējat uz proporcionālu līdzdalību, un kā to var panākt, ja ņem vērā, ka ikvienam cilvēkam ir vairākas, pārklājošas identitātes iezīmes, kas kopā veido daudz vairāk nekā 100 procentus? Turklāt darbiniekiem ir tiesības uz privātumu. Ir daudz iemeslu, kāpēc viņi nevēlas atklāt saviem darba devējiem visus savas identitātes iezīmes. Tas ietver bailes tikt nodotiem, kad studijas zina par invaliditāti vai sodāmību. Tas liek mums uzdot jautājumu: kā ir ar tiem, kas nevēlas piedalīties? Vai tiešām vēlaties piespiest katru darbinieku nēsāt līdzi ID – rases piederības karti – tikai tāpēc, ka mūsu informācijas sabiedrība spēj izveidot šādu sistēmu? Tas, kas sākas kā laba, progresīva ideja, var ātri pārvērsties par sliktu ideju ar nevēlamām sekām, ja mēs pārāk daudz paļaujamies uz „tehniskiem risinājumiem“. 

Progresīvās valdības tikko ir ieviesušas šādu „tehnisku risinājumu“ vakcinācijas sertifikāta veidā. Vai tam varētu būt arī nevēlamas sekas? 

Šis ir vēl viens būtisks piemērs, kur progresīvie var viegli neievērot savus aizspriedumus. Ļoti īsā laikā Rietumu valdības (pārliecinātas par savu tikumu un augstāko inteliģenci) ir pārliecinājušas lielu sabiedrības daļu pieņemt masveida kontroli un sociālo kredītsistēmu, kas veidota pēc Ķīnas parauga. Ja šīm valdībām būtu likumīgi sabiedrības veselības mērķi, tās būtu izmantojušas pagaidu vienreizlietojamās kartes ar aizsardzību pret viltošanu, piemēram, banknotes, autovadītāja apliecības vai apdrošināšanas kartes. Tā vietā viņi ir izvēlējušies mobilo lietotni ar QR kodu, kas glabā personas un medicīniskos datus. Viņi ir uzbūvējuši Rietumos nebijušu sistēmu, kas, ļoti iespējams, paplašināsies – gan satura, gan laika ziņā. Es vēlos uzsvērt, ka digitālie rīki, kas mūs šķiro sociāli, ir bīstami ikviena rokās. Tie ir sociālās kontroles rīki, kas darbojas ar mašīnu loģiku un bez humānisma jūtām, un to izmantošanai ir sekas, kas bieži vien pārsniedz izstrādātāju iztēli. Es steidzami iesaku: esiet uzmanīgi ar to, ko jūs radāt! Sabiedrībai rūpīgi jāapsver tās izveidotās sistēmas. 

Savā grāmatā jūs apgalvojat, ka tieši hakeri atrod labākos risinājumus visiem šiem demokrātiskajiem izaicinājumiem. 

Es domāju, ka hakeri ir uz pareizā ceļa, un uz pareizāka nekā citas grupas. Un es nedomāju, ka ierobežoti, tehniski risinājumi var atpestīt mūs no posta. Hakeri jau trīs gadu desmitus cīnās par pārvaldības un ētikas pamatprincipiem digitālajā laikmetā. Progresīvie hakeri vēlas dalītu varu, dalītu lēmumu pieņemšanu un dalītu demokrātiju. Viņi vēlas atvērtu piekļuvi internetam, decentralizāciju un uz kopību balstītus risinājumus. Viņu galvenais princips, kas pazīstams kā „praktiskais imperatīvs“, ka piekļuvei visam, kas varētu cilvēkiem iemācīt pasaules darbības principus, jābūt neierobežotai. Tas nozīmē, ka ikvienam ir jābūt iespējai analizēt, rediģēt un uzlabot datorsistēmas. 

Vai var teikt, ka hakeri pēc būtības ir skeptiski pret visām sistēmām, jo viņi zina, ka visas sistēmas var tikt ļaunprātīgi izmantotas? 

Jā, manuprāt, ļoti precīzs novērojums. 

Atgriežamies pie principiem, par kuriem tikko runājām. Šķiet, ka tie balstās uz „hakeru ētiku“, ko Stīvens Levijs (Steven Levy) aprakstīja gandrīz pirms 40 gadiem – ironiskā kārtā tieši 1984. gadā. 

Jā, ir veselas paaudzes, kas izaugušas ar šādām hakeru idejām, kas aizsākās pagājušā gadsimta piecdesmitajos gados. Levijs tās apkopoja 80. gados, un hakeri tās izstrādā vēl šodien. Mūsdienās „hakeru ētika“ ietver privātuma un datu pašnoteikšanās, pārredzamības, tīkla neitralitātes, bezmaksas programmatūras un „praktiskā imperatīva“ principus. Šie ir galveni principi, lai saglabātu mūsu demokrātiju digitālajā laikmetā un pārvarētu informācijas disforiju. 

Hakeru sauklis, kas, iespējams, jau ir pazīstams daudziem lasītājiem, ir – „privātums neaizsargātajām personām, pie varas esošo pārredzamība“. Kāpēc neaizsargāto personu privātums hakeriem ir tik svarīgs jautājums? 

Privātums garantē autonomiju un drošību privātajā dzīvē. Ja vēlaties aizsargāt mikromērķēšanas un dezinformācijas kampaņu lietotājus, jums ir jāaizsargā viņu privātums un jādod viņiem kontrole pār saviem personas datiem, lai tos nevarētu ļaunprātīgi izmantot. Hakeri gadiem ilgi ir strādājuši pie civiliem šifrēšanas rīkiem, lai nodrošinātu datu pašnoteikšanos. 

Un pie varas esošo pārredzamība? 

Pārredzamība ir līdzeklis, ar ko var cīnīties pret maldīgām un korumpētām valdībām. WikiLeaks ir iesācis jaunu bezprecedenta pārredzamības ēru pie varas esošajiem. Daudzas citas Leaking plaformas ir sekojušas šim piemēram, arī tās, kuras mūsdienās izmanto lielākā daļa galveno plašsaziņas līdzekļu organizāciju.
 
Kā ir ar pārējiem hakeru ētikas principiem? 

Tīkla neitralitāte pastāvēja sākotnējā internetā, kas bija decentralizēts un kas nebūtu kontrolējis vai diskriminējis lietotājus vai saturu. Katrs to varēja brīvi izmantot saviem mērķiem – vārtusargu nebija. Cilvēkiem ir jāsaprot, ka hakeru centieni panākt tīkla neitralitāti patiesībā ir cīņa par brīvu saziņu digitālajā laikmetā.

Jūs minējāt arī „brīvu programmatūru“.

Brīva programmatūra nenozīmē „brīva“ šī vārda „bezmaksas“ nozīmē. Tai ir jābūt brīvai tādā nozīmē, ka to var pārskatīt, modificēt, koplietot un tālāk attīstīt bez ierobežojumiem. Ideālā gadījumā „melnajām kastēm“ nevajadzētu būt vispār. Ideja, ka lietotāji kontrolē programmatūru, nevis otrādi, ir brīvības un demokrātijas stūrakmens digitālajā telpā.

Vācot materiālus savai grāmatai, jūs piedalījāties CCC organizētajā Haosa komunikācijas nometnē Berlīnē, kā arī apmeklējāt hakeru grupas Spānijā un Itālijā. Vai pastāv atšķirības starp Eiropas hakeru vidē un tās līdziniekiem otrpus Atlantijas okeānam? 

Man bija tas gods tikties ar hakeriem no daudzām un dažādām valstīm, un tās bija diezgan atšķirīgas, jo īpaši starp eiropiešiem un amerikāņiem, lai gan hakeru jomā notiek arvien lielāka internacionalizācija. Man radās iespaids, ka eiropieši – īpaši vācieši – ir gan bezbailīgāki, gan nopietnāki nekā amerikāņu hakeri. Maz ticams, ka no amerikāņu grupas varētu sagaidīt bezbailīgu, bet politiski nopietnu rīcību, piemēram, ministra pirkstu nospiedumu publicēšanu. Un Amerikā šāds joks nebūtu izpelnījies tik pozitīvu rezonansi kā Vācijā. 

Kādas vēl atšķirības jūs saskatāt amerikāņu hakeru kopainā? 

Amerikāņu hakeru vide šodien ir ļoti komercializējusies. Daudzus hakerus ir nolīguši militārie un drošības kompleksi, lielie tehnoloģiju uzņēmumi vai pat Demokrātiskā partija. Hakeru konferences, piemēram, Defcon un Black Hat, ir ļoti komerciālas. 2013. gadā kāds ASV Iekšzemes drošības departamenta darbinieks pat teica galveno runu Defcon. Daudzi cilvēki ASV, kuri sevi dēvētu par hakeriem, nerūpējas par savu tehnoloģiju ietekmi uz sabiedrību.

Vai Eiropas kopainā ir sociāla un demokrātiska apziņa? 

Tā tas noteikti ir Spānijā, Francijā un Itālijā. Vācu hakeri, piemēram, CCC, vienmēr ir nodarbojušies ar tehnoloģiju un sabiedrības attiecībām. Un ir redzams liels progress. Tāpat kā Nelsona Mandelas Āfrikas Nacionālajā kongresā, arī CCC reputācija laika gaitā ir mainījusies – no aizdomām par noziedzīgu, uz nopietnu rīcību. Mūsdienās viņi ir vērtīga grupa, ar kuru regulāri apspriežas Vācijas un Eiropas Parlaments.

Kāda, jūsuprāt, ir hakeru kustības nākotne? 

Progresīvā hakerudarbošanās kļūst par arvien plašāku starptautisku kustību. Tā arvien vairāk ir saistīta ar pilsoniskām grupām, kuras cīnās ar visiem šodien apspriestajiem jautājumiem. Hakeri arī cenšas izmantot savas prasmes un tehnoloģisko izpratni, lai risinātu problēmas, ar kurām saskaramies. Tagad demokrātijas izaicinājums ir saglabāt Rietumu liberālos principus, vienlaikus panākot plašu vienprātību. Izmantojot dalītās demokrātijas un lēmumu pieņemšanas modeļus, ko ierosinājušas dažas hakeru grupas, tas varētu būt iespējams.