Was KI übersieht

Künstliche Intelligenz wirkt oft wie ein wie ein Mensch, der aus vergangenen Daten lernt und daraus etwas Neues erschafft. Tatsächlich jedoch ist KI ein technisches System, das wiederkehrende Muster in vorhandenen Daten erkennt und auf dieser Basis die wahrscheinlichsten Ergebnisse berechnet – Ergebnisse, die einem repräsentativen Durchschnitt des Trainingsdatensatzes entsprechen. Abweichungen von diesen Mustern werden dabei eher übersehen. Die Künstlerin Jooyoung Oh konzentriert sich genau auf diese Abweichungen, also auf jene Daten, die von KI-Mustern vernachlässigt werden. 

Übersehen und Abweichung von Mustern

Beim Workshop „Shaping AI: Ethics, Power, Responsibility“, der am 28.–29. November 2025 am Goethe-Institut Korea stattfand, stellte die Künstlerin Jooyoung Oh die Frage, was passiert, wenn etwas nicht ins Muster passt. KI suche nach Mustern, erklärte sie, und tendiere dazu, alles zu marginalisieren, was nicht hineinpasst. Daraus ergibt sich die zentrale Frage: „Was darf bleiben und was wird aussortiert?“ Ihrer Meinung nach sollte jede Debatte über KI-Ethik mit der Entscheidung beginnen, welche Daten und Archivmaterialien berücksichtigt werden.

Während des Workshops präsentierte Oh auch ihre Zusammenarbeit mit dem Photo SeMA (Photography Seoul Museum of Art), für das sie ein „Image Similarity Network“ entwickelt hat, um alte koreanische Fotografien aus den 1920er bis 1980er Jahren zu analysieren. Das Netzwerk ordnet ähnliche Bilder nah beieinander an und positioniert Ausreißer weit weg vom Rest. Die fotografischen Werke des Künstlers Koo Bohnchang mit ihren charakteristischen „roten Punkten“ wurden beispielsweise an den Rand der KI-erkannten Muster platziert. Auf diese Weise wird „ungewöhnliches Datenmaterial“ aus dem „Mainstream“-Muster ausgeschlossen und erhält innerhalb der Gesamtstruktur weniger Aufmerksamkeit.

Unkritische Akzeptanz

Da KI-Antworten meist den plausiblen Durchschnitt aus vielen möglichen Antworten widerspiegeln, könnte das zuvor vorgestellte Werk des Künstlers Koo Bohn-chang leicht aus dem Raster fallen. Obwohl KI-Ergebnisse deshalb kritisch hinterfragt werden sollten, werden sie in der Praxis oft unreflektiert akzeptiert. Genau diese Haltung stellt Jooyoung Oh infrage.

Ihre Installation Machine Appreciation System (2025) ist ein partizipatives Werk: Besucher*innen wählen ein Bild aus und geben es ein, woraufhin die KI einen Text erzeugt, der wie eine Kritik klingt. Auf den ersten Blick scheint es, als würden Menschen der KI Trainingssignale geben. Tatsächlich aber basiert das System darauf, dass die Betrachter*innen am Ende den plausiblen Bewertungen der KI zustimmen. Jooyoung Oh warnt, dass solche Erfahrungen – insbesondere nach Wiederholung – die menschliche Urteilskraft untergraben und zu „quasi-wahnhaften Wahrnehmungen“ führen können.

Auf der Suche nach lange verlorenen Stimmen

Die Auswahl von Datensätzen kann je nach Geschlecht und sozialem Hintergrund variieren. Jooyoung Ohs Projekt Literary Girl 1974 Bot verbindet die Frage, wie weibliche Literatur erhalten bleibt – oder eben nicht – mit dem Problem der Datensatzerstellung. Zu einer Zeit, als „gebildete Frauen“ in Korea als gefährlich galten, haben einige Mädchen tatsächlich geschrieben – doch sind ihre literarischen Werke kaum erhalten geblieben. Aufgrund des Mangels an digitalem Material digitalisierte Oh die Texte schließlich selbst, indem sie jede Seite scannte oder abtippte.

Der für dieses Projekt entwickelte Chatbot wurde nicht geschaffen, um die Originaltexte zu überarbeiten oder zu verändern, sondern um sie in ihrer ursprünglichen Form zurückzubringen. Er wurde so programmiert, dass er ausschließlich auf Fragen antwortet, die sich direkt auf die vorhandenen Daten beziehen – statt auf jede Nutzerfrage eine freundliche Antwort zu generieren. Oh möchte zeigen, dass Technologie fehlende Narrative nicht erfinden muss: Sie kann auch genutzt werden, um lange verlorene Stimmen zurückzubringen und sichtbar zu machen, ohne sie zu verfälschen.

Bilder von Konsumidealen

Jooyoung Oh machte zudem auf das Problem verzerrter Bilddatensätze aufmerksam. Sie zeigte, dass eine KI, die auf Titelbildern koreanischer Mädchenzeitschriften der 1970er Jahre trainiert wurde, durchweg Bilder junger Frauen erzeugt, die den damaligen Konsumidealen entsprechen. Doch als heutige Studentinnen Selbstporträts machten und zu einem Fotowettbewerb einreichten, wirkten die Personen ganz anders: Sie zeigten eine viel größere Vielfalt an Gesichtsausdrücken und Gesten und erschienen lebendiger und dynamischer – ein deutlicher Kontrast zu den KI-generierten Bildern passiv posierender Frauen. Das macht sichtbar, wie stark KI-Bilder von Frauen durch die Trainingsdaten geprägt werden. Deshalb betont Oh die Notwendigkeit gemeinsamer kultureller und politischer Bemühungen, um vielfältige Perspektiven einzubeziehen – insbesondere durch diversere Trainingsdaten.

Unsere Verantwortung

Jooyoung Ohs Präsentation kehrt zu einer zentralen Frage der aktuellen KI-Debatte in Korea zurück: „Was wählt KI aus – und was lässt sie weg?“ KI lernt und wiederholt Muster. Alles, was nicht zu diesen Mustern passt, wird tendenziell an den Rand gedrängt. Und dennoch akzeptieren wir KI-Ergebnisse häufig bereitwillig, weil sie „plausibel“ erscheinen. Damit riskieren wir jedoch, unsere Fähigkeit zur eigenen Urteilsbildung und Verantwortung zu verlieren.

Deshalb müssen wir Datensätze neu denken, um fehlende Stimmen wiederzuentdecken und divergierende Perspektiven einzubeziehen. Dies ist eine Voraussetzung für einen ethischen und inklusiven Einsatz von KI und ermöglicht es öffentlich zugänglichen kulturellen Ressourcen, den Auswahlprozess von KI-Trainingsdaten kritisch zu hinterfragen.

Autorin: Soyoung Choi
Koreanisches Lektorat: Young-Rong Choo
Lektorat & Konzept: Leslie Klatte
Englische Übersetzung: Eric Rosencrantz
Deutsche Übersetzung: Star Korea AG