Blackbox AI

DA Fest 2023 © © DA Fest, 2023 DA Fest 2023 © DA Fest, 2023

Neunte Ausgabe des DA Festes 

BLACKBOX AI

Kunstinstallation von Mihaela Dobreva, Tea Rukavina, Vivian Stamou, Anastasia Nefeli Vidaki, Lida Zacharopoulou

24.10. — 03.11.2023

Goethe-Institut Bulgarien, Galerie, 
im Rahmen der 9. Ausgabe des DA Festes



Blackbox AI ist eine multidisziplinäre Kunstinstallation in Form eines Labyrinths, inspiriert von Bruno Latours Charakterisierung neuer Technologien als "Black Boxes", bei denen der Input und der Output nur dem Nutzer bekannt sind, während der Prozess undurchsichtig bleibt.

Das Projekt zielt darauf ab, das Bewusstsein für geschlechtsspezifische Vorurteile in Anwendungen der künstlichen Intelligenz (KI) zu schärfen, die zum (Selbst-)Ausschluss von Frauen aus der Technologie führen können. Es werden verschiedene Aspekte dieses Phänomens aufgezeigt, nämlich Vorurteile bei der Verarbeitung natürlicher Sprache und der algorithmischen Gesichtserkennung, Schönheitsnormen, Geschlechterstereotypen und der Zugang von Frauen zu MINT-Berufen. Zusätzlich zu den Forschungsarbeiten zu diesen Themen haben wir eine Umfrage durchgeführt, um Erfahrungsberichte über Vorurteile und Diskriminierung am Arbeitsplatz zu sammeln. Außerdem wurden Bilderzeugungssoftware, Gender Swap und Gesichtserkennungs-Apps verwendet, um neuartige und interaktive Inhalte zu erstellen, die die wichtigsten Ideen unserer Arbeit veranschaulichen.

Das Projekt wurde im Rahmen des Projekts EthicAI=Lab des Goethe-Instituts entwickelt und in Athen ausgestellt. Nach der Ausstellung nahm das Team an der International Conference on Human-Computer Interaction 2023 mit dem Beitrag "A Multimodal Installation Exploring Gender Bias in Artificial Intelligence" teil, der von Springer veröffentlicht wurde.

Das erwartete Ergebnis der Ausstellung ist die Stärkung der Handlungsfähigkeit von Frauen, indem sie auf die Vorurteile in KI-Anwendungen hinweist und alle Besucherinnen und Besucher auffordert, ihre Rolle bei der Gestaltung unserer gemeinsamen digitalen Zukunft zu überdenken, sei es als Verbraucher*inen oder als Entwickler*inen.


Das Projektteam besteht aus fünf Mitgliedern mit völlig unterschiedlichen akademischen Hintergründen und beruflichem Fachwissen, nämlich Mihaela Dobreva, Doktorandin in Digitaler Kunst und Assistenzprofessorin, Tea Rukavina, Datenwissenschaftlerin mit einem Doktortitel in Numerischer Mechanik, Vivian Stamou, Doktorandin in Computerpsycholinguistik und Forscherin, Anastasia Nefeli Vidaki, Juristin mit Schwerpunkt IKT- und KI-Recht, und Lida Zacharopoulou, Datenanalyse-Ingenieurin und kreative Programmiererin.
 
Blackbox AI Athen © © Goethe-Institut Athen Blackbox AI Athen © Goethe-Institut Athen
Top