Vlády všech zemí Afriky rychle zavádějí neotřelé, nové technologie. Tyto platformy často pořizují od zahraničních dodavatelů na základě pochybných výběrových řízení. Celý kontinent se potýká s invazí umělé inteligence ze zahraničí a má-li být digitální budoucnost inkluzivní a etická, musí se mobilizovat feministická hnutí.
Data a na nich závislé systémy se staly nepostradatelnými nástroji zpochybňování moci a uplatňování sociálního vlivu v komunitách. Přehlížené skupiny obyvatel jsou však z procesů návrhu, kdy se určuje, jak se data budou využívat (a zneužívat), často vyloučeny.Data jsou nezbytná pro porozumění, plánování a stanovování cílů. Neovlivňují však jen různá hnutí, ale i technologie organizující digitální prostory a stále častěji také algoritmy, které dnes ovlivňují naše životy. Data se vytvářejí, zpracovávají a interpretují na základě nerovných mocenských vztahů, hrozí tedy, že se stávající represivní a diskriminační normy, ať už jde o kolonialismus, rasismus, třídní diskriminaci či patriarchát, budou i nadále reprodukovat.
Chceme-li dosáhnout skutečné datové spravedlnosti, obrovské objemy stále rostoucího množství dat musí být zpracovávány inkluzivními datovými postupy a zároveň je třeba uvědomit si potenciální digitální agresi, kterou s sebou produkce dat přináší – především možné zneužití údajů, možné epistemické násilí i možnou algoritmickou diskriminaci.
Socioložka Ruha Benjamin ve své knize Race after Technology (Zápas o technologie) popisuje, jak se technologie pod rouškou historických předsudků, podjatosti a nerovností tváří jako objektivní, aby mohly omezovat černošská a hispánská těla. Jako příklad uvádí iniciativu s názvem Beauty AI– vůbec první soutěž krásy posuzovanou roboty. Jak se dalo očekávat, přestože soutěž využila „nejpokročilejší technologii strojového učení“, téměř všech 44 vítězek v různých kategoriích byly bělošky. Jak píše autorka: „Krása záleží na vkusu cvičeného algoritmu.“ Přestože jde o triviální příklad, kniha uvádí i mnohem hanebnější případy využití softwaru při policejním dohledu, ve vězeňství a v oblasti poskytování sociálních dávek.
Africké země nové technologie zavádějí rychle, ovšem za jakou cenu? | Foto: Slim Emcee via Unsplash
Africký feminismus, technologie a role umění
Podle feministických vědkyň je důležité si uvědomit, že technologie a gender se vzájemně nevylučují, ale vznikají v „koprodukci“. Vztah mezi nimi neexistuje ve vzduchoprázdnu: technologie jsou utvářeny prostředím, ve kterém existují, a jsou regulovány také sociálními strukturami, jež ovlivňují genderové vztahy. Díky tomuto vztahu koprodukce se navzájem navíc neustále mění a tento proces nekončí jen produkcí technologií, ale týká se také designu, využití technologií a obsahu, který přinášejí. Proto se technologie a gender navzájem dynamicky ovlivňují.Odpovědnost za úsilí o spravedlivou a rovnou společnost chápou a přebírají zejména africké feministky. Feministická hnutí a hnutí za práva žen v celé Africe se od tradičních hnutí na Západě či na severní polokouli výrazně liší. V rámci afrického feministického myšlení existuje mnoho feminismů i oblastí, jež mohou mít své vlastní, lokalizované rámce i řadu společných rysů. Bereme-li v úvahu intersekcionalitu i další feministické teoretické rámce, je důležité pochopit, jak k utváření offline i online prostorů společnost pod rouškou patriarchátu využívá právo, tradice, sílu, rituály, zvyky, vzdělávání, jazyk i práce.
Africký feminismus vnímá jako radikálně transformativní činy umění a lásku. Jak uvádí Minna Salami ve svém díle 7 key issues in African feminist thought (Sedm klíčových témat afrického feministického hnutí), „africké feministické hnutí inspiruje představa, že láska a spravedlnost se doplňují s revolucí a změnou. Soustředí se na uzdravení a smíření a trvá na tom, že jazyk afrického ženství je z hlediska jeho celosvětového postavení jazykem, jenž může transformovat společnost do té míry, aby zaručovala sexuální, rasovou, duchovní, psychologickou a sociální rovnost.“ Umění má schopnost překonávat zažitou hantýrku a zaměřit naši pozornost na „AI governance“ – správu věcí veřejných využívající umělou inteligenci.
Moje organizace Pollicy získala v roce 2019 ocenění Creative Media Award od tvůrce internetových aplikací Mozzila, jehož cílem je podpořit umění a neziskové projekty osvětlující roli umělé inteligence v šíření dezinformací. Díky tomuto ocenění jsme vytvořili a představili hru Choose Your Own Fake News (Vyber si své vlastní fake news), v níž mohou uživatelé v roli jedné ze tří postav z východní Afriky procházet a zkoumat dezinformace a fake news. Společnost Mozilla od té doby své úsilí zdvojnásobila a nedávno vyhlásila ocenění 2020 Creative Media Awards zaměřené na technology, umělce a producenty médií, kteří mohou optikou černošské zkušenosti poukázat na to, jak se umělá inteligence protíná s online médii a pravdou i na to, jaké má dopady.
Organizace Pollicy vytvořila webovou hru s názvem „Choose Your Own Fake News“ | © @neemascribbles
Datová spravedlnost a transparentnost
Vlády všech zemí Afriky rychle zavádějí neotřelé, nové technologie. Tyto platformy často pořizují od zahraničních dodavatelů v pochybných výběrových řízeních, přičemž transparentnost fungování algoritmů a jejich využití v budoucnosti je malá až nulová. Abeba Birhane v článku s názvem Algorithmic Colonization of Africa (Algoritmická kolonizace Afriky) na řadě případů ilustruje, jak rychlý nárůst zásahů umělé inteligence připomíná dobu koloniálního vykořisťování. Uvádí například systémy rozpoznávání obličejů v Zimbabwe a v Ugandě, kořistnické poskytování mikropůjček v Keni a diskriminační národní systémy biometrické identifikace, jež se objevily po celém kontinentu.Sílí také názor, že data potřebujeme i přesnějšímu stanovení cílů žen a dalších marginalizovaných skupin obyvatel a k tomu, abychom se mohli bránit agresi vůči feministickým požadavkům. Zvláště důležité je to v situaci, kdy vlády a partneři rozvojové spolupráce reagují na pandemii onemocnění COVID-19 a chystají se rozhodovat i o tom, jak se bude navrhovat a poskytovat zdravotní, sociální a psychosociální podpora pro ženy a další zranitelné skupiny. Má-li se prosadit spíše proaktivní než reaktivní přístup a mají-li se rámce pro zavádění správy využívající umělou inteligenci rozvíjet s ohledem na genderovou otázku a se zaměřením na péči a bezpečnost, je třeba podpořit zásadní debatu feministických organizací a ženských skupin v Africe o systémech umělé inteligence.
Neema Iyer | © Neema Iyer
Feministická hnutí mají obrovskou příležitost působit na pomezí genderu, technologií, výzkumu a umění, a poukázat tak na sílící vliv umělé inteligence v našem každodenním životě. Problémy se správou využívající umělou inteligenci (AI governance) se často nechávají na technolozích, feministický pohled je však nezbytný k tomu, abychom společně mohli vytvářet inkluzivní a etickou digitální budoucnost, kde budou vítány všechny skupiny a skončí diskriminační a škodlivé postupy, které k softwaru tradičně patří. Musíme mít pravomoc klást ty správné otázky a kriticky přemýšlet o tom, jak může budoucnost s jinou umělou inteligencí a jinými modely datovými modely pro správu věcí veřejných vypadat, a to dnes, zítra i v daleké budoucnosti.
Tento článek je součástí Kulturtechniken 4.0, internetového projektu Goethe-Institutu v Austrálii, který se zabývá průniky umělé inteligence a tradičních kulturních technik.