Algoritmai ir apsisprendimo laisvė
Apskaičiuotasis Aš

Kompiuterių programos sudaro naudotojų charakteristikas ir apibrėžia mūsų vaidmenį bei mūsų elgesį internete. Ar algoritmai atima iš mūsų apsisprendimo laisvę? Šioje diskusijoje net Vokietijoje pasisako naudotojai, kurie pirmiausia įžvelgia privalumus.

Algoritmai, tam tikromis nurodymų sekomis pagrįstos programos, pagal duomenų pėdsaką, kurį paliekame internete, įvertina mūsų vartojimo įpročius ir komunikacijos būdus. Jie valdo paieškos rezultatus internete arba atsižvelgdami į mūsų adresą, iš kurio su tam tikra paklaida galima daryti išvadas apie mūsų finansinę padėtį, siūlo mokėjimo būdus interneto parduotuvėse.

Vokietijoje taip pat vis kyla diskusijos apie algoritmų poveikį. Daug žmonių rūpi, ar tik už juos sprendimų nepriima kompiuteris. Įsivaizdavę, kad mums daro poveikį kažkas neapčiuopiamo ir nespecialistams nesuprantamo, pasijuntame nejaukiai ir kartais net pajuntame baimę.

Mašinos dalyvauja priimant sprendimus

Algoritmai puikiai veikia: naudojantis matematinės statistikos metodais iš iki šiol užfiksuoto naudotojo elgesio galima apskaičiuoti bet kokio fakto tikimybę. Facebook platformoje matome tai, ką mums apskaičiavo Facebook algoritmas – atsižvelgdamas į tai, kaip mes reaguojame į šios platformos turinį.

Teoriškai net būtų įmanoma daryti įtaką politinėms pažiūroms. Šis jau senokai aptarinėjamas reiškinys, pavadintas Filterbubble (filtruojamos informacijos burbulu), išgarsėjo po JAV interneto aktyvisto Elio Pariserio pareiškimo. Savo to paties pavadinimo 2011 m. pasirodžiusioje knygoje E. Pariseris konstatavo, kad Facebook siunčiamame individualizuotame naujienų sraute jam pirmiausia rodomi įrašai, sutampantys su jo paties politinėmis pažiūromis. Todėl naudotojas izoliuojamas „burbule“, į kurį nepatenka informacija, prieštaraujanti jo nuomonei. Tačiau algoritmų įtaka aprėpia dar platesnį lauką: jau šiandien mašinomis sukurtos prognozės padeda nuspręsti, ar atitinkamam asmeniui verta suteikti paskolą arba kokią draudimo įmoką jis turi mokėti. Remiantis jo gyvenamąja vieta apskaičiuojama jo nemokumo tikimybė, o remiantis jo sveikatos duomenimis – tikimybė susirgti.

Tačiau ar tikrai verta susirūpinti, kad žmonės neteko galimybės kontroliuoti savo sprendimų? Algoritmais negalima apskaičiuoti realių prognozių, jie tik padeda nustatyti tikimybę. Be to, algoritmai neatspindi mūsų sudėtingos vertybių sistemos, kuria remdamiesi priimame sprendimus konkrečiose situacijos, – jie išlieka paprastų veiksmų lygmenyje, pavyzdžiui, sprendžiant, ar mes susidomėsime tekstu, ar įsigysime prekę.

Skaidrumo reikalavimai

Filtruojama Facebook informacijos srauto realybė taip pat nėra ta problema, kuri atsirado dėl algoritmų. „– Iš esmės Filterbubble yra tik vienas iš daugelio burbulų. Mūsų socialinė aplinka taip pat tam tikru būdu formuoja mūsų suvokimą“, – sako Benas Wagneris, Frankfurto prie Oderio Viadrinos Europos universiteto Interneto ir žmogaus teisių tyrimo centro direktorius. „– Svarbiausia – kad mes tai suprastume.“ Tačiau daug algoritmų, pavyzdžiui, naudojamų Facebook ir Google platformose, nėra aiškiai apibrėžti. Šių platformų paslaugų naudotojai nežino, kaip bus už juos „iš anksto nuspręsta“. „– Šiuo metu pastebimas pavojus, kad bus atskirtos marginalizuotos grupės, pavyzdžiui, žmonės, kurių sveikatos duomenys neleidžia sudaryti sveikatos draudimo sutarties“, – įspėja mokslininkai, kaip antai Benas Wagneris. Todėl reikalavimas užtikrinti daugiau skaidrumo išlieka pagrindine „Algoritmų etikos“ užduotimi.

Vokiška diskusija

Vokietijos visuomenėje žmogaus „algoritmizavimo“ kritikai yra labai matomi. Vienas iš garsiausių protesto balsų buvo 2014 m. vasarą miręs žurnalistas ir Frankfurter Allgemeine Zeitung leidėjas Frankas Schirrmacheris. Savo bestseleriuose Payback (2009 m.) ir Ego (2013 m.) jis išreiškė nuomonę, kad internetas yra narkotikas ir kompiuteriai keičia mūsų mąstymą. Net Vokietijos politikai jau seniai įspėja dėl „duomenų diktatūros“. Savo knygoje Finger weg von meinen Daten („Šalin rankas nuo mano duomenų“, 2014 m.) Europos Parlamento ir Žaliųjų partijos narys Janas Philippas Albrechtas mano, kad žmonių apsisprendimo laisvė vis labiau ribojama, jie degraduojami iki save optimizuojančios ir matematiškai apskaičiuojamos sistemos.

Tačiau tam vėlgi prieštarauja bandymai kritiškai įvertinti pačią kritiką. Kokia iš tiesų yra algoritmų galia? Kodėl su savo kritika mes užsipuolame tariamai neigiamas tendencijas, kurios iš dalies netgi dar neišryškėjo, užuot pabrėžę ir teigiamus skaitmeninimo aspektus, – klausia publicistė Kathrin Passig interneto kultūrą nagrinėjančiame žurnale Berliner Gazette. Mokslo istorikas Klausas Mainzeris, Miuncheno Technikos universiteto profesorius, ragina diskusijoje „atsiriboti nuo techninių aspektų“. Algoritmai nėra nei Silicio slėnio išradimas, nei automatiškai „blogi“. Jie atsirado, rašo jis 2014 m. pasirodžiusioje knygoje Die Berechnung der Welt („Pasaulio apskaičiavimas“), ieškant būdo, kaip matematiškai aprašyti įvairius reiškinius, ir tenkinant mokslininkų norą teoriškai apibrėžti pasaulį. O tokia veikla žmonės užsiima jau ištisus tūkstantmečius.

Be to, pastebėtina, kad nors Vokietijos piliečiai skundžiasi neskaidria Google ir Facebook veikla, jie vis intensyviau naudojasi šių platformų paslaugomis. Šiuo metu nematyti požymių, kad dauguma suprastų kylančią riziką ar net formuotųsi atitinkamas politinis judėjimas. Į Frankfurter Allgemeine Zeitung užduotą klausimą „kodėl taip atsitiko?“ Vokietijos teisės profesorė Indra Spiecker atsakė: „– Tiesiog technologija yra pernelyg patraukli.“ Bet gal atsakymas yra dar paprastesnis: konkreti nauda – galimybė be didesnių pastangų puoselėti tarpusavio ryšius ir bendrus tinklus per didžiulį atstumą – nusveria daugeliui pernelyg abstrakčią riziką.