Izglītība
Pamatīgi jāmācās
Kas jauniešiem jāzina par mākslīgo intelektu (MI), lai prastu to atbildīgi izmantot? Nevalstiskās organizācijas Tactical Tech līdzdibinātāja Stefānija Henkija stāsta par savu pieredzi ar digitālās paaudzes jauniešiem un nepieciešamību izglītības iestādēm un pilsoniskajai sabiedrībai kopīgi veicināt digitālo pratību.
Haralds Villenbroks
Henkijas kundze, 2020. gada decembra biļetenā EUNIC’s AI Week, jūs minējāt, ka taktisko tehnoloģiju mērķis ir “iepazīstināt jauniešus ar tehnoloģijām veidā, kas nebūtu ne pārāk entuziastisks, ne arī pārāk pesimistisks”. Ko tieši jūs ar to cerat panākt?
Mēs vēlamies veicināt kritisko domāšanu attiecībā uz tehnoloģijām un MI. Ja mēs esam pārāk optimistiski un pārvērtējam tehnoloģiju problēmrisināšanas spējas – vai arī otrādi, ja esam pārāk negatīvi un aizdomīgi, ka tās varētu iznīcināt mūsu ierasto dzīvesveidu –, tad mēs vairs nespējam reāli un pārdomāti tikt galā ar tehnoloģiju attīstības patiesajiem izaicinājumiem. Uzņēmumā Tactical Tech mēs uzskatām, ka sarežģītais vidusceļš patiesībā ir visauglīgākais un interesantākais. Tehnoloģijas dažkārt ir lieliskas, bet dažreiz – šausmīgas; dažreiz tās atrisina problēmas, bet gadās arī, ka tās visu tikai vēl vairāk sabojā. Mums ir jāanalizē abas galējības, ja gribam izstrādāt ētiski pamatotas, godprātīgas tehnoloģijas, kas kalpotu sabiedrībai.
Kad šā gadsimta sākumā tika dibināta Tactical Tech, daudzi uz digitālajām tehnoloģijām vēl raudzījās optimistiski. Tās tika uzskatītas par līdzsvarojošu spēku, kas varētu veicināt demokrātiju un sabiedrisko diskursu. Tas izrādījies nepareizi – kādēļ?
Šodien dominējošās datos balstītās tehnoloģijas būtībā ir paredzētas, lai palielinātu pārskatāma uzņēmumu skaita aktīvus. Tās netika izstrādātas sociāliem mērķiem. Tehnoloģiju izstrādi visvairāk ir ietekmējuši reklāmas un tamlīdzīga biznesa modeļi, kā arī uzvedības vai emociju profilēšanas un uzmanības algoritmi. Šīs tehnoloģijas ietekmē ne tikai minētie biznesa modeļi, tās tādējādi arī atspoguļo mūsu laika ideālus un vērtības, piemēram, patērētāju uzvedību, individuālismu, efektivitāti un mērogošanu. Turklāt tās tika radītas ideālai, arhetipiskai un standartizētai pasaulei, kas uzskicēta uz rasēšanas dēļa, un kurai nav nekā kopīga ar reālās pasaules sarežģītajām kopsakarībām.
Vai jūs varētu nedaudz konkrētāk izskaidrot atšķirības?
Daudzas no šīm tehnoloģijām ir izstrādātas īpašiem lietotāju scenārijiem, iedomātām idealizētām personām, dzīvei un scenārijiem, kam ir maz sakara ar reālās pasaules haosu un sarežģītību. Konkrēti tas nozīmē, ka uzņēmums attīsta, piemēram, WhatsApp, lai cilvēki varētu tīkloties, neapsverot (un ir grūti pateikt, vai naivuma vai nolaidības dēļ), ka cilvēki to varētu izmantot arī politiskām manipulācijām vai naida runai. Vai arī kāds izstrādā platformu tiešraides video straumēšanai, lai varētu pārraidīt dzimšanas dienas ballītes, neņemot vērā to, ka šajā platformā, ļoti iespējams, var pārraidīt arī noziedzīgas darbības un vardarbību. Diemžēl esam redzējuši, ka tieši tas var notikt.
Vai tas attiecas arī uz MI un mašīnmācīšanos (MM)?
Jā, tā ir tā pati problēma. Visbiežāk izmantotās programmatūras dizaina un izstrādes metodes ir kļūdainas pašos pamatos. Ir divas būtiskas problēmas. Viena no tām, kā minēts iepriekš, ir tas, ka tās radītas ideālai, nevis reālajai pasaulei. Piemēram, mašīnmācīšanās vajadzībām ar izkropļotiem datiem tika baroti neskaitāmi algoritmi, tostarp arī ar seksistisku un sievietes diskriminējošu saturu. Rezultātā šie izkropļojumi tiek pastiprināti vēl vairāk. Otrkārt jāatzīmē, ka tehnoloģijas tika izstrādātas individuāliem lietotājiem, bet mums faktiski ir vajadzīgas pieejas "sabiedrībai kā lietotājam". Kamēr mēs nebūsim pārvarējuši šīs divas problēmas, mēs atkal un atkal pieļausim un pastiprināsim tās pašas kļūdas.
Lai rosinātu diskusijas un veicinātu izpratni par tehnoloģiju ietekmi uz mūsu ikdienas dzīvi, Tactical Tech izgudroja radošus formātus, piemēram, Stikla istabu. Šī izstāžu zāle izskatās kā Apple Store, un tās darbinieki tiek saukti par “Ingeniuses” – mājiens uz Apple “Genius Bar”. Tomēr izstādē nekas netiek pārdots. Šī interaktīvā izstāde ir paredzēta, lai pārdomātu tehnisko sasniegumu ietekmi un tās radītos izaicinājumus, un palīdzētu atklāt iespējamās pieejas. Līdz šim vērienīgās Stikla istabas izstādes Berlīnē, Ņujorkā, Londonā un Sanfrancisko ir apmeklējuši un skolās, bibliotēkās un izstāžu telpās izveidotās pop-up versijas ir apskatījuši vairāk nekā 168 000 apmeklētāju. Kāpēc jūs izvēlējāties šo neparasto formātu?
Izmantojot šo formātu, mēs varējām ieinteresēt ļoti atšķirīgus cilvēkus diskusijai par to, kā tehnoloģijas maina mūsu dzīvi. Mēs izmantojam vizuālo un estētisko valodu, ko lieto, lai pārdotu sarežģītas tehnoloģijas, lai runātu par to, kas tehnoloģijā nav pareizi – tas ir vienkāršs un efektīvs rīks. Mēs uzskatījām, ka tas ir būtiski, lai ieinteresētu parastus cilvēkus un panāktu, ka viņi iepazīstas ar saturu.
Kāda bija aizraujošākā pieredze saistībā ar Stikla istabu?
Īpaši pārsteidzošs bija plašais cilvēku loks, kurus izstāde uzrunājusi, un tas, cik ļoti viņi jūtas ar to saistīti saturiskā ziņā. Mēs esam atklājuši, ka ikvienam ir iemesls domāt par to, kā tehnoloģijas ietekmē viņa dzīvi – no skolēna līdz pensionāram un no Sanfrancisko un Seulas līdz Sudānai.
Interaktīvās izstādes "Stikla istaba" mērķis ir mudināt cilvēkus diskutēt par to, kā tehnoloģijas maina mūsu dzīvi.
| Foto (fragments): © David Mirzoeff / Tactical Tech
Ko sadarbībā ar jauniešiem esat iemācījusies par viņu attiecībām ar digitālajām tehnoloģijām, sociālajiem medijiem un potenciālajiem riskiem?
Mēs vēl esam pašā darba sākumā, bet jau esam apzinājuši divas nozīmīgas lietas. Pirmkārt, jauni cilvēki patiešām labi izmanto tehnoloģijas, bet tas nenozīmē, ka viņi arī saprot, kā tās darbojas. Un to kvalitatīvai izpratnei viņiem parasti netiek piedāvātas nekādas iespējas. Otrkārt, viņus ļoti interesē tas, kā tehnoloģijas ir savienotas ar apkārtējo pasauli un sabiedriskajām diskusijām. Tomēr līdz šim tas vēl nav integrēts veidā, kādā viņi iepazīst vai piedzīvo pasauli. Kad viņi skolā uzzina par politiku, demokrātiju, vidi vai ģeogrāfiju, digitālās tehnoloģijas netiek iesaistītas – ne to ietekme uz tagadni, ne uz nākotni. Šai ziņā ir daudz iespēju uzlabojumiem. To Tactical Tech cer paveikt tuvākajos gados – procesā, ko attīstām kopā ar jauniešiem, sadarbojoties ar kultūras iestādēm, pastāvošajām kopienām un pedagogiem.
Saskaņā ar jūsu teikto Tactical Tech nodoms ir “nevis pateikt jauniešiem, kas ir pareizi un kas ir nepareizi, bet gan palīdzēt viņiem atrast pašiem savu ceļu”. Ko tas nozīmē MI kontekstā?
Mums jāsāk ar zināšanu un izpratnes rosināšanu par to, kā šīs tehnoloģijas darbojas un kāpēc tās tā darbojas. Mums ir arī jānodrošina pārredzamība attiecībā uz to, kad un kā MI un mašīnmācīšanās tiek izmantota sistēmās un pakalpojumos, ko izmanto jaunieši. Piemēram, jaunietim būtu jāzina, ka algoritms novērtē viņa eksāmenus vai ka mašīnmācīšanās tiek izmantota, lai viņu pamudinātu uz datorspēlēm, un kā tas viss darbojas. Tikai tad jaunieši var jēgpilni reaģēt un pieņemt paši savus lēmumus par to, kam viņi piekrīt un kam – nepiekrīt. Mums arī jādod viņiem iespēja piedalīties diskusijā, nevis vienkārši aizbildnieciski jārīkojas.
Ko jums nozīmē MI kompetence?
MI kompetence ir sarežģīts jēdziens. Praktiskāk būtu runāt par digitālo kompetenci. Manā skatījumā tas nozīmē izpratni par to, kā darbojas tehnoloģijas – neatkarīgi no tā, kādas konkrētās tehnoloģijas tiek lietotas,– lai spētu pieņemtu lēmumus, kuri balstīti labā informētībā. Runa ir arī par efektīvu reaģēšanu uz problēmām, ar kurām sastopamies, un, ja nepieciešams, pat uzņēmumu un valdību saukšanu pie atbildības. It īpaši MI kompetence ir kaut kas tāds, ko nevaram lietotājiem vienkārši uzspiest. Valdībām, valsts iestādēm, pētniekiem un pilsoniskajai sabiedrībai ir jāuzņemas atbildība, pat ja tām pašām vēl nav MI kompetences. Pretējā gadījumā tās citu interesēs nespēs pieņemt labus lēmumus. Es vēlētos lietotājos redzēt lielāku MI izpratni un sapratni par to, cik ļoti šīs zināšanas ir saistītas ar MI veidotāju atklātumu.
Kam būtu jāuzņemas atbildība par MI izmantošanas mācīšanu jauniem cilvēkiem – valsts iestādēm, kā skolām un universitātēm, privātām iniciatīvām, kā Tactical Tech, vai pilnīgi citām?
Es domāju, ka mums nepieciešama kombinācija no visa iepriekšminētā. Katra no šīm grupām nes līdzi dažādas prasmes, kas mums vajadzīgas, lai palīdzētu jauniešiem tikt galā ar šo milzīgo uzdevumu. Tactical Tech var specializēties neatkarīgu, pieejamu un aktuālu informatīvo materiālu izstrādē, kas uzrunā jaunus cilvēkus. Savukārt skolas, kultūras iestādes un bibliotēkas ir daudz labāk piemērotas šo materiālu atbilstošai apstrādei, tos pielāgojot, lokalizējot un papildinot. Mūsu skatījumā visu šo vienību sadarbība ir ideālais variants. Katrā ziņā mācīšanās vienam no otra grupā ir vissvarīgākā un droši vien iedarbīgākā metode, un tādēļ tai ir jābūt šo iniciatīvu pamatā.
Vai visas šīs iestādes ir gatavas un tām ir atbilstošais aprīkojums, lai īstenotu šo lomu?
Ja skolas, bibliotēkas, kultūras iestādes, kopienu grupas un jauniešu grupas sadarbojas ar īstajiem speciālistiem – ekspertiem, kas tehnoloģijām spēj noņemt to mistifikācijas auru – un fokusējas uz materiālu izstrādi un mācīšanos no līdzbiedriem, tad, manuprāt, tām ir labas izredzes spēt uzrunāt jauniešus un jēgpilni ievadīt viņus šajā tematikā. Protams, ir jādara vēl daudz vairāk – sākot ar radošām programmām līdz mācību programmas izveidei. Tā ir plaša joma nākotnes inovācijām. Tactical Tech šajā kontekstā cer kļūt par svarīgu katalizatoru.
Kādus nopietnus riska faktorus saistībā ar MI jaunieši, visticamāk, nepamanīs?
Es domāju, ka ir mazliet pāragri runāt par to, ka jauni cilvēki neievēro ar MI saistītās problēmas, jo es uzskatu, ka viņi līdz šim ar šo tēmu nav pienācīgi iepazīstināti. Mēs vēl neesam pilnībā izpētījuši priekšrocības un trūkumus, iespējas un izaicinājumus, tomēr, manuprāt, mums tas ir jādara.
Vai digitālo tehnoloģiju pieaugošās ietekmes kontekstā jūs saskatāt arī risku, ka plaisa starp jauniešiem varētu padziļināties atbilstoši viņu ienākumu robežlīnijai, ņemot vērā, ka viņu iespējas iegādāties modernu aparatūru, ir atšķirīgas?
Tas ir labs jautājums, un, loģiski spriežot, varētu pieņemt, ka tā notiks. Tomēr pretēji tam mūsu pētījums par viedtālruņiem kā būtisku sadzīves nodrošināšanas līdzekli ir parādījis, ka tehnoloģijas ir nepieciešamas arī cilvēkiem nestabilos dzīves apstākļos. Jaunieši no mazāk priviliģētas vides bieži vien iegulda lielus līdzekļus savās tehnoloģijās, jo tās ir būtiskas viņu piekļuvei pārējai pasaulei. Ierīces nereti ievērojami veicina šādu cilvēku spēju izvairīties no nabadzības vai netaisnības.
Vai MI var palīdzēt cilvēkiem labāk mācīties un labāk izprast, kā mēs mācāmies?
Noteikti. Tomēr, lai tas būtu patiešām efektīvi, MI ir nepieciešams daudz datu par katru atsevišķu izglītojamo. Sākotnēji nepieciešams atrisināt vēl tik daudz problēmu. To skaitā minami aizspriedumi, profilēšana, privātums, izglītības plūsmas, stigmatizācija, noteikti mācīšanās veidi, kas izglītības sistēmā tiek prioritizēti, un daudzi nepierādīti pieņēmumi. Visu vēl sarežģī jautājums, kā skolotāji, vecāki un aprūpētāji šīs atziņas varētu integrēt mācībās un kādu slodzi tas varētu radīt izglītojamajiem. Šai ziņā, manuprāt, mums nespētu palīdzēt pat vislabāk attīstītais MI pasaulē. Izstrādājot šīs sistēmas, mums ir jāņem vērā, kā šīs tehnoloģijas ietekmēs reālos scenārijus ar reāliem jauniešiem, nevis jābalstās tikai uz idealizētiem problēmu risināšanas modeļiem. Daži no nesenajiem skandāliem par tiešsaistes eksāmeniem ir atklājuši, kādu stresu tie rada skolēniem. Mums ir arī jāsaprot problēmas, ko datos balstītās tehnoloģijas rada neideālās mācību situācijās. Dažas no manis minētajām problēmām ir saistītas ar datu raksturu, bet citas – ar izglītības sistēmas būtību. Pēdējās ir jānovērš, pretējā gadījumā tehnoloģijas vienkārši tiks uzmauktas beigtai sistēmai.
Kādu skatījumu uz MI un MM jūs novēlētu saviem bērniem?
Man ir divi bērni, un abi ir pietiekami veci, lai nodarbotos ar MI un MM. Es cenšos likt viņiem saprast, kā tās ietekmē viņu dzīves telpu, pieredzi un citu cilvēku dzīves. Tehnoloģijas nav tēma, kas skatāma atrauti no pārējā – tās ir daļa no mūsu dzīves. Un neatkarīgi no tā, vai mums tas patīk vai nē, mums ir jāpieņem tehnoloģiju visuresamība, ja vēlamies tās saprast un efektīvi izmantot. Ir ļoti svarīgi, lai jaunieši saprastu, ka tehnoloģijas ir mūsu sociālo un politisko vērtību spoguļi un pastiprinātāji. Un ir svarīgi izvēlēties tādu mācīšanas pieeju, kas atklāj visas nepilnības un visus kompromisus – tikai tad mēs varēsim jauniešiem palīdzēt veidot jēgpilnu attieksmi pret MI un ML.