Wie sieht die Zukunft der feministischen KI aus?
Afrika ist mit einer Invasion ausländischer KI konfrontiert, und die feministischen Bewegungen müssen für eine inklusive und ethische digitale Zukunft kämpfen.
Daten und die damit arbeitenden Systeme sind mittlerweile unverzichtbare Werkzeuge geworden, um die Mächtigen herauszufordern und soziale Veränderungen in den Gemeinden herbeizuführen. Doch marginalisierte Gemeinschaften sind oft von den Designprozessen ausgeschlossen, in denen entschieden wird, wie die Daten verwendet (und missbraucht) werden sollen.
Daten werden gebraucht, um Vorhaben zu verstehen, zu planen und zu messen. Aber nicht nur Bewegungen stützen sich auf Daten, sondern auch die Technologien, die zur Organisation des digitalen Raums eingesetzt werden, und dasselbe gilt zunehmend für die Algorithmen, die sich auf unser Leben auswirken. Daten werden unter ungleichen Machtverhältnissen erzeugt, verarbeitet und ausgewertet und reproduzieren daher die unterdrückerischen und diskriminierenden Normen der heutigen Gesellschaften, sei es, ob wir es mit Kolonialismus, Rassismus, Klassendenken, Patriarchat oder anderen Strukturen zu tun haben.
Um für wirkliche Datengerechtigkeit zu sorgen, müssen die unablässig wachsenden Datenmengen für inklusive Datenpraktiken verwendet werden, wobei potentielle digitale Gewalt in der Datenproduktion aufgedeckt werden muss, das heißt das Potenzial für Missbrauch, für epistemische Gewalt und für algorithmische Diskriminierung.
In ihrem Buch Race after Technology spricht Ruha Benjamin darüber, wie die Technologie hinter dem Schleier von historischen Vorurteilen, Voreingenommenheit und Ungleichheit als objektiv getarnt wird, um schwarze und dunkelhäutige Körper zu beherrschen. Als Beispiel nennt sie die Initiative Beauty AI, den ersten Schönheitswettbewerb, in dem Roboter als Jury eingesetzt wurden. Obwohl dort „die fortschrittlichste Technologie des Maschinenlernens“ eingesetzt wurde, waren erwartungsgemäß fast alle der 44 Sieger*innen in den verschiedenen Kategorien hellhäutig. Daraus zieht Ruha folgenden Schluss: „Die Schönheit liegt im trainierten Auge des Algorithmus.“ Dies ist ein eher triviales Beispiel, aber Ruha beschreibt auch schlimmere Anwendungsbereiche von Algorithmen in Bereichen wie Polizeiarbeit, Hafteinweisungen und Sozialleistungen.
Länder in Afrika übernehmen rasch neue Technologien, aber zu welchem Preis? | Foto: Slim Emcee / Unsplash
Die afrikanischen Feminist*innen verstehen und akzeptieren ihre Verantwortung für das Streben nach Gesellschaften, in denen Gerechtigkeit und Gleichheit herrschen. Die Feminist*innen und Frauenrechtsbewegungen Afrikas unterscheiden sich erheblich von den Mainstream-Bewegungen im Westen bzw. in der nördlichen Hemisphäre. Eine Auseinandersetzung mit dem feministischen Denken auf dem afrikanischen Kontinent zeigt, dass es dort eine Vielzahl von Feminismen gibt, die einen lokalen Kontext haben, gleichzeitig jedoch viele Gemeinsamkeiten aufweisen. Die Verknüpfung der Intersektionalität mit anderen feministischen theoretischen Rahmenkonzepten zeigt, dass Gesetze, Traditionen, Gewalt, Rituale, Bräuche, Bildung, Sprache und Arbeit eingesetzt werden, um sowohl die digitalen als auch die Offline-Räume patriarchalisch zu gestalten.
Doch Kunst und Liebe werden im afrikanischen Feminismus als radikale transformative Akte betrachtet. Wie Minna Salami in ihrem Werk 7 key issues in African feminist thought erklärt: „Das afrikanische feministische Denken beruht auf der Vorstellung, dass Liebe und Gerechtigkeit auf der einen und Revolution und Wandel auf der anderen Seite einander ergänzen. Im Mittelpunkt dieses Denkens stehen Heilung, Aussöhnung und die Gewissheit, dass die Sprache der afrikanischen Frauen dank ihrer globalen Stellung die Sprache ist, die unsere Gesellschaft in eine Gemeinschaft verwandeln kann, in der sexuelle, ethnische, spirituelle, psychologische und soziale Gleichheit gewährleistet sein werden.“ Die Kunst ist in der Lage, über den Fachjargon hinauszugehen und die KI-Governance in den Mittelpunkt der Aufmerksamkeit zu rücken.
Im Jahr 2019 wurde meine Organisation Pollicy von Mozilla, dem Anbieter von Internetanwendungen, mit einem Creative Media Award ausgezeichnet. Mozilla versucht, Kunstprojekte und Advocacy-Initiativen zu fördern, die beleuchten, welche Rolle die KI in der Verbreitung von Falschinformationen spielt. Wir entwickelten ein Spiel aus der Sparte „Wähle dein eigenes Abenteuer“, das die Benutzer*innen in die Lage versetzt, in die Rolle von einer von drei Figuren aus Ostafrika zu schlüpfen. Die Spieler*innen können Entscheidungen für ihre Figuren treffen und falsche Informationen und Falschmeldungen aufspüren und untersuchen. Mozilla hat seine Anstrengungen mittlerweile verdoppelt und vor kurzem die Creative Media Awards 2020 ins Leben gerufen, mit denen Technologen, Künstler und Medienproduzenten ausgezeichnet werden, denen es gelingt, die Interaktion der KI mit Onlinemedien und Wahrheit sichtbar zu machen und ihre Wirkung unter dem Gesichtspunkt der "schwarzen" Erfahrung zu beleuchten.
Pollicy hat ein webbasiertes Spiel namens „Choose Your Own Fake News“ entwickelt | Copyright: @neemascribbles
Überall in Afrika übernehmen Regierungen rasch neuartige Technologien. Diese Plattformen werden oft im Rahmen von unklaren Beschaffungsvereinbarungen bei ausländischen Anbietern gekauft, wobei wenig transparent oder vollkommen undurchsichtig ist, wie die Algorithmen funktionieren und wie sie in Zukunft eingesetzt werden sollen. In ihrer Arbeit Algorithmic Colonization of Africa beschreibt Abeba Birhane zahlreiche Beispiele dafür, dass das rasante Wachstum der KI-Interventionen überall in Afrika Parallelen zur Ausbeutung in der Kolonialzeit aufweist. Zu den von Birhane angeführten Beispielen zählen der Einsatz von Gesichtserkennungssoftware in Simbabwe und Uganda, die räuberische Mikrokreditvergabe in Kenia und diskriminierende biometrische Identifizierungssysteme, die überall auf dem Kontinent errichtet werden.
Es besteht zunehmender Konsens darüber, dass die Daten den Interessen von Frauen und Randgruppen besser entsprechen und der Feindseligkeit gegenüber den Forderungen des Feminismus entgegenwirken müssen. Besonders bedeutsam ist das für die Reaktion von Regierungen und Partnern in der Entwicklungskooperation auf die COVID-19-Pandemie, denn es wird darüber entscheiden, wie die medizinische, soziale und psychosoziale Unterstützung für Frauen und andere verwundbare Gruppen gestaltet und erbracht wird. In feministischen Organisationen und Frauengruppen in Afrika muss unbedingt ein kritischer Diskurs über KI-Systeme gefördert werden, um statt bloßer Reaktion einen aktiven Zugang anzuregen und für die Beaufsichtigung der KI-Implementierung genderinklusive Rahmenbedingungen zu schaffen, die Fürsorge und Sicherheit gewährleisten.
Neema Iyer | © Neema Iyer
Die feministischen Bewegungen haben eine große Chance, an den Schnittstellen von Gender, Technologie, Forschung und Kunst zu arbeiten, um den wachsenden Einfluss der KI auf das Alltagsleben zu beleuchten. Fragen der KI-Regulierung werden oft den Technologen überlassen, aber wir brauchen feministische Beiträge, um gemeinsam eine inklusive und ethische digitale Zukunft zu errichten, in der alle Gruppen eingebunden werden, um die diskriminierenden und schädlichen Praktiken zu überwinden, die traditionell in die Software eingebaut sind. Wir müssen die Möglichkeit haben, die richtigen Fragen zu stellen und kritisch darüber nachzudenken, wie die Gesellschaft mit verschiedenen Modellen für den Umgang mit KI und Daten heute, morgen und in der fernen Zukunft aussehen kann.
Weitere Stichworte von Neema Iyer über die Zukunft kreativer KI gibt es hier.
Daten werden gebraucht, um Vorhaben zu verstehen, zu planen und zu messen. Aber nicht nur Bewegungen stützen sich auf Daten, sondern auch die Technologien, die zur Organisation des digitalen Raums eingesetzt werden, und dasselbe gilt zunehmend für die Algorithmen, die sich auf unser Leben auswirken. Daten werden unter ungleichen Machtverhältnissen erzeugt, verarbeitet und ausgewertet und reproduzieren daher die unterdrückerischen und diskriminierenden Normen der heutigen Gesellschaften, sei es, ob wir es mit Kolonialismus, Rassismus, Klassendenken, Patriarchat oder anderen Strukturen zu tun haben.
Um für wirkliche Datengerechtigkeit zu sorgen, müssen die unablässig wachsenden Datenmengen für inklusive Datenpraktiken verwendet werden, wobei potentielle digitale Gewalt in der Datenproduktion aufgedeckt werden muss, das heißt das Potenzial für Missbrauch, für epistemische Gewalt und für algorithmische Diskriminierung.
In ihrem Buch Race after Technology spricht Ruha Benjamin darüber, wie die Technologie hinter dem Schleier von historischen Vorurteilen, Voreingenommenheit und Ungleichheit als objektiv getarnt wird, um schwarze und dunkelhäutige Körper zu beherrschen. Als Beispiel nennt sie die Initiative Beauty AI, den ersten Schönheitswettbewerb, in dem Roboter als Jury eingesetzt wurden. Obwohl dort „die fortschrittlichste Technologie des Maschinenlernens“ eingesetzt wurde, waren erwartungsgemäß fast alle der 44 Sieger*innen in den verschiedenen Kategorien hellhäutig. Daraus zieht Ruha folgenden Schluss: „Die Schönheit liegt im trainierten Auge des Algorithmus.“ Dies ist ein eher triviales Beispiel, aber Ruha beschreibt auch schlimmere Anwendungsbereiche von Algorithmen in Bereichen wie Polizeiarbeit, Hafteinweisungen und Sozialleistungen.
Länder in Afrika übernehmen rasch neue Technologien, aber zu welchem Preis? | Foto: Slim Emcee / Unsplash
Der afrikanische Feminismus, die Technologie und die Rolle der Kunst
Feministische Gelehrte sind überzeugt, dass beim Studium von Technologie und Geschlechterbeziehungen darauf geachtet werden muss, dass Technologie und Geschlecht sich nicht gegenseitig ausschließen, sondern „koproduziert“ sind. Sie existieren nicht in einem Vakuum: Die Technologie wird sowohl von der Umwelt, in der sie eingesetzt wird, als auch von den sozialen Strukturen geprägt, in denen sich die Geschlechterbeziehungen entfalten. Darüber hinaus verändern Technologie und Gender einander unentwegt in dieser koproduktiven Beziehung, und dieser Prozess endet nicht mit der Produktion von Technologie, sondern erstreckt sich auch auf ihr Design und ihren Einsatz und auf die von der Technologie vermittelten Inhalte. Daher besteht eine dynamische Wechselwirkung zwischen Technologie und Gender.Die afrikanischen Feminist*innen verstehen und akzeptieren ihre Verantwortung für das Streben nach Gesellschaften, in denen Gerechtigkeit und Gleichheit herrschen. Die Feminist*innen und Frauenrechtsbewegungen Afrikas unterscheiden sich erheblich von den Mainstream-Bewegungen im Westen bzw. in der nördlichen Hemisphäre. Eine Auseinandersetzung mit dem feministischen Denken auf dem afrikanischen Kontinent zeigt, dass es dort eine Vielzahl von Feminismen gibt, die einen lokalen Kontext haben, gleichzeitig jedoch viele Gemeinsamkeiten aufweisen. Die Verknüpfung der Intersektionalität mit anderen feministischen theoretischen Rahmenkonzepten zeigt, dass Gesetze, Traditionen, Gewalt, Rituale, Bräuche, Bildung, Sprache und Arbeit eingesetzt werden, um sowohl die digitalen als auch die Offline-Räume patriarchalisch zu gestalten.
Doch Kunst und Liebe werden im afrikanischen Feminismus als radikale transformative Akte betrachtet. Wie Minna Salami in ihrem Werk 7 key issues in African feminist thought erklärt: „Das afrikanische feministische Denken beruht auf der Vorstellung, dass Liebe und Gerechtigkeit auf der einen und Revolution und Wandel auf der anderen Seite einander ergänzen. Im Mittelpunkt dieses Denkens stehen Heilung, Aussöhnung und die Gewissheit, dass die Sprache der afrikanischen Frauen dank ihrer globalen Stellung die Sprache ist, die unsere Gesellschaft in eine Gemeinschaft verwandeln kann, in der sexuelle, ethnische, spirituelle, psychologische und soziale Gleichheit gewährleistet sein werden.“ Die Kunst ist in der Lage, über den Fachjargon hinauszugehen und die KI-Governance in den Mittelpunkt der Aufmerksamkeit zu rücken.
Im Jahr 2019 wurde meine Organisation Pollicy von Mozilla, dem Anbieter von Internetanwendungen, mit einem Creative Media Award ausgezeichnet. Mozilla versucht, Kunstprojekte und Advocacy-Initiativen zu fördern, die beleuchten, welche Rolle die KI in der Verbreitung von Falschinformationen spielt. Wir entwickelten ein Spiel aus der Sparte „Wähle dein eigenes Abenteuer“, das die Benutzer*innen in die Lage versetzt, in die Rolle von einer von drei Figuren aus Ostafrika zu schlüpfen. Die Spieler*innen können Entscheidungen für ihre Figuren treffen und falsche Informationen und Falschmeldungen aufspüren und untersuchen. Mozilla hat seine Anstrengungen mittlerweile verdoppelt und vor kurzem die Creative Media Awards 2020 ins Leben gerufen, mit denen Technologen, Künstler und Medienproduzenten ausgezeichnet werden, denen es gelingt, die Interaktion der KI mit Onlinemedien und Wahrheit sichtbar zu machen und ihre Wirkung unter dem Gesichtspunkt der "schwarzen" Erfahrung zu beleuchten.
Pollicy hat ein webbasiertes Spiel namens „Choose Your Own Fake News“ entwickelt | Copyright: @neemascribbles
Datengerechtigkeit und Transparenz
Überall in Afrika übernehmen Regierungen rasch neuartige Technologien. Diese Plattformen werden oft im Rahmen von unklaren Beschaffungsvereinbarungen bei ausländischen Anbietern gekauft, wobei wenig transparent oder vollkommen undurchsichtig ist, wie die Algorithmen funktionieren und wie sie in Zukunft eingesetzt werden sollen. In ihrer Arbeit Algorithmic Colonization of Africa beschreibt Abeba Birhane zahlreiche Beispiele dafür, dass das rasante Wachstum der KI-Interventionen überall in Afrika Parallelen zur Ausbeutung in der Kolonialzeit aufweist. Zu den von Birhane angeführten Beispielen zählen der Einsatz von Gesichtserkennungssoftware in Simbabwe und Uganda, die räuberische Mikrokreditvergabe in Kenia und diskriminierende biometrische Identifizierungssysteme, die überall auf dem Kontinent errichtet werden.
Es besteht zunehmender Konsens darüber, dass die Daten den Interessen von Frauen und Randgruppen besser entsprechen und der Feindseligkeit gegenüber den Forderungen des Feminismus entgegenwirken müssen. Besonders bedeutsam ist das für die Reaktion von Regierungen und Partnern in der Entwicklungskooperation auf die COVID-19-Pandemie, denn es wird darüber entscheiden, wie die medizinische, soziale und psychosoziale Unterstützung für Frauen und andere verwundbare Gruppen gestaltet und erbracht wird. In feministischen Organisationen und Frauengruppen in Afrika muss unbedingt ein kritischer Diskurs über KI-Systeme gefördert werden, um statt bloßer Reaktion einen aktiven Zugang anzuregen und für die Beaufsichtigung der KI-Implementierung genderinklusive Rahmenbedingungen zu schaffen, die Fürsorge und Sicherheit gewährleisten.
Neema Iyer | © Neema Iyer
Die feministischen Bewegungen haben eine große Chance, an den Schnittstellen von Gender, Technologie, Forschung und Kunst zu arbeiten, um den wachsenden Einfluss der KI auf das Alltagsleben zu beleuchten. Fragen der KI-Regulierung werden oft den Technologen überlassen, aber wir brauchen feministische Beiträge, um gemeinsam eine inklusive und ethische digitale Zukunft zu errichten, in der alle Gruppen eingebunden werden, um die diskriminierenden und schädlichen Praktiken zu überwinden, die traditionell in die Software eingebaut sind. Wir müssen die Möglichkeit haben, die richtigen Fragen zu stellen und kritisch darüber nachzudenken, wie die Gesellschaft mit verschiedenen Modellen für den Umgang mit KI und Daten heute, morgen und in der fernen Zukunft aussehen kann.
Weitere Stichworte von Neema Iyer über die Zukunft kreativer KI gibt es hier.