Bitte stellen Sie sich zunächst kurz vor und geben Sie uns einen Überblick über Ihre aktuellen Arbeiten.
Hallo. Ich bin Areumbit Park und lebe und arbeite zurzeit in Berlin. Ich interessiere mich dafür, durch vielfältige Recherchemethoden wie Interviews, Umfragen und Netnographie* unterschiedliche Phänomene und Geschichten unserer Zeit zu sammeln und daraus neue Erzählungen zu konstruieren. 

In letzter Zeit untersuche ich vor allem am Beispiel der Berufsgruppe der KI-Trainer, wie hochentwickelte moderne Technologien und Systeme die Arbeit und das Lebensgefühl des Einzelnen neu gestalten. Ich arbeite hauptsächlich mit dem Medium Video, experimentiere aber auch mit Text, Objekten, Zeichnungen und Installationen.

* Netnographie ist eine Methode, bei der Online‑Communities, Spiele oder soziale Medien als Feld für Forschung genutzt werden, um menschliches Verhalten, Interaktionen und Kulturen im digitalen Raum zu beobachten und zu analysieren.

Ihre Einzelausstellung „AI Trainer Kim’s Life“ war besonders eindrucksvoll. Bitte erzählen Sie uns, wie es zu diesem Projekt kam und warum Sie sich eher für „den Menschen hinter der KI“ als für die „KI selbst“ interessieren.
Neben meiner künstlerischen Arbeit bin ich auch als Übersetzerin und Dolmetscherin tätig.

Eines Tages erhielt ich von einer Agentur eine E-Mail mit einem Probetest für einen Job als „KI-Trainerin“ für ein australisches Unternehmen.

Bevor ich diese E-Mail erhielt, hatte ich bereits von einem guten Freund von dieser Arbeit gehört. Er hatte mir damals gesagt, dass sich diese Arbeit gut neben dem Studium in der Bibliothek erledigen lasse.

Ich erinnere mich, dass ich die Excel-Beispieldatei geöffnet habe und von ihrem Inhalt völlig schockiert war. Sie war vollgepackt mit verschiedenen Prompts, Bewertungen und Korrekturbeispielen, und der Großteil des Inhalts war gewalttätig und grausam. Damals wurde mir zum ersten Mal bewusst, dass jemand der KI eine unmenschliche und unethische Welt einspeisen muss. Da sich die KI durch unzählige Trainingsläufe und Datensätze immer sicherer entwickelt, stellte sich mir ganz natürlich die Frage: Welchen ethischen Grundsätzen folgt KI eigentlich?

Das Projekt kam zwar nicht zustande, aber es weckte mein Interesse am Beruf der KI-Trainer*innen, und so begann ich, verschiedene Recherchen anzustellen und meine Fantasie in Texte zu verwandeln. Ursprünglich wollte ich einen Roman schreiben, doch schließlich entstand eine Mischung aus einem Roman in der Ich-Form und einem Forschungsbuch. Es handelt sich um das Buch, das ich in meiner Einzelausstellung „AI Trainer Kim’s Life“ gezeigt habe. Und während ich schrieb, wollte ich die Geschichten von noch mehr Menschen hören und begann daher mit intensiveren Recherchen.

„Auf Grundlage vorgegebener Bedingungen eine Situation oder eine kurze Geschichte entwerfen. Diese Bedingungen könnten etwa eine sehr hohe sexuelle Intensität erfordern, gewalttätig sein oder gegen ethische Maßstäbe verstoßen. Die Vorstellung, wie ich alle möglichen Geschichten im Kopf durchspiele und dabei in die Tasten tippe, war schrecklich. Ich muss die furchterregendsten Situationen, die man sich vorstellen kann, nach außen bringen. Und das nicht als verschwommene Bilder oder Gefühle, sondern als fertigen Text, als Geschichte mit klarer Form.

Nachdem ich mir alle Beispiel-Prompts durchgelesen hatte, stellte ich fest, dass sich diese Arbeit derzeit noch nicht in einer wirklich schrecklichen Phase befindet. Noch ist es machbar, und wenn sich die künstliche Intelligenz irgendwann weiterentwickelt, muss ich vielleicht noch raffiniertere, schrecklichere Fragen formulieren. Da mich dieser Beruf interessierte, suchte ich auf Koreanisch nach „AI-Trainer“. Es wurden ziemlich viele Teilzeitstellen angezeigt, die meisten mit einem Stundenlohn zwischen 40.000 und 70.000 Won, allerdings waren die meisten Ausschreibungen bereits geschlossen. Beim Weiter­scrollen stieß ich auf einen Artikel über einen Professor, der Experte für AI-Training ist.“

(Auszug aus „AI Trainer Kim’s Life“) Viele Menschen stellen sich die KI-Branche als eine Welt vor, in der Entwickler*innen und Ingenieur*innen im Mittelpunkt stehen. Sie hingegen haben Ihr Augenmerk auf die „KI-Trainer*innen“ gerichtet. Warum gerade „Trainer*innen“ und nicht „Entwickler*innen“? Welche Rolle spielen diese Menschen Ihrer Meinung nach heute in KI-Systemen?
Dieser Job wurde auch mir angeboten, und ein Freund von mir übt sie ebenfalls aus. Ich fand es interessant, dass Menschen, die überhaupt nichts mit Entwicklung oder Technik zu tun haben, sich dieser Arbeit anschließen können. Das hängt auch direkt mit einer Eigenschaft der KI zusammen: ihrer Fähigkeit, das gesamte Wissen der Welt zu kopieren und zu absorbieren. Je nach den individuellen Eigenschaften, dem Wissen und den Fähigkeiten jedes Einzelnen – sei es Religion, Sozial- oder Naturwissenschaften, Sprachen oder sogar die nationale Herkunft – werden die Menschen für verschiedene Aufgaben eingesetzt.

Wenn man sich das KI-Training genauer ansieht, ist der Umfang und die Vielfalt der Inhalte enorm. Von einfachem Labelling oder Anleitungen zur Fahrradreparatur bis hin zu hochspezialisiertem Fachwissen – je nach Art der Aufgabe variiert der Stundenlohn stark zwischen 2 und 50 Euro. In der KI-Training-Community auf Reddit, die ich als Forschungsfeld genutzt habe, gibt es sowohl Beiträge, die diese Arbeit begeistert begrüßen, als auch solche, die mit einer gewissen Ironie geschrieben sind.

Sie sind so zahlreich und vielfältig, dass sie letztendlich das Bild eines kollektiven „durchschnittlichen Nutzerprofils“ ergeben. Obwohl unzählige Einzelpersonen daran teilnehmen, scheinen sie eher zu einem riesigen Kollektiv zusammengefasst zu sein als ihre individuellen Persönlichkeiten zum Ausdruck zu bringen. Da ein*e KI-Trainer*in nicht „jemand“ mit speziellem Wissen sein muss, sondern „jeder“ werden kann, spiegelt dies meiner Meinung nach das Wesen der KI und die heutige Zeit gut wider.

In ihrem Werk wird gezeigt, wie KI-Trainer*innen wiederholt auf Fragen zu Themen wie Tod, Gott und Ethik antworten, bis schließlich sogar eigene Überzeugungen ins Wanken geraten. Gab es während der tatsächlichen Interviews bestimmte Aussagen oder Szenen, die Ihnen besonders im Gedächtnis geblieben sind?
Am Ende meiner Umfrage unter den Trainer*innen gab es eine Frage, welche Prompts am schwersten zu beantworten waren. Manchmal bildeten die Trainer*innen ein Frage-Antwort-Paar, manchmal generierten sie nur eine Antwort auf eine vorgegebene Frage. Die vielfältigen Antworten auf diese Frage sind mir besonders im Gedächtnis geblieben:

„Schreib eine Trauerrede für mein früheres Ich.“
„Erkläre einem fünfjährigen Kind den Tod seines Großvaters.“
„Schreib einen Abschiedsbrief einer Person, die assistierten Suizid gewählt hat.“
„Erkläre einer außerirdischen Spezies den größten Fehler der Menschheit.“
„Wer ist Gott?“

Statistiken zufolge wird KI am häufigsten für psychologische Beratung genutzt. Wenn man bedenkt, dass die ‚makellosen‘ Antworten der KI das Ergebnis der Überarbeitung durch unzählige menschliche Prüfer*innen sind, gibt es Momente, in denen sich die Antworten, die innerhalb von drei Sekunden erscheinen, plötzlich fremd anfühlen. Wir bezeichnen Systeme wie ChatGPT oft als „Automatisierung“, doch in Wirklichkeit steckt dahinter ein enormer Aufwand an menschlicher Arbeit. Wie wird emotionale Arbeit Ihrer Meinung nach insbesondere in der KI-Branche verborgen oder unsichtbar gemacht?
Strukturell gesehen handelt es sich meiner Meinung nach um Subunternehmertum und Outsourcing. Die meisten Trainer*innen, die ich interviewt habe, kennen zwar die Plattformen, über die sie ihre Aufträge erhalten, wissen aber nicht, von welchem Unternehmen diese Aufträge stammen. Die Arbeitnehmenden sehen den größeren Zusammenhang nicht und bearbeiten nur sehr klein aufgeschlüsselte Daten.

In diesem Prozess werden die Arbeitnehmenden nicht zu Akteuren des Systems, sondern zu bloßen Bauteilen des Algorithmus degradiert. Außerdem erleichtert diese Struktur der Untervergabe von Aufträgen die Umgehung der Verantwortung für die Arbeitsbedingungen und erschwert es den Arbeitnehmenden, sich solidarisch zu zeigen. Während der Bearbeitung der Aufgaben wird die Arbeitszeit auf die Sekunde genau erfasst, und die Augenbewegungen am Bildschirm werden überwacht. Da das Endergebnis, das schließlich an die Endnutzer weitergeleitet wird, eine aufbereitete, neutrale und ‚makellose‘ Antwort ist, wird der gesamte Prozess unsichtbar gemacht. Man hat den Eindruck, dass KI immer menschenähnlicher spricht und Emotionen nachahmt, während von uns Menschen umgekehrt erwartet wird, dass wir uns immer maschinenähnlicher verhalten. Wie sehen Sie diese Umkehrung der Verhältnisse?
Es scheint, als seien Effizienz und Reibungslosigkeit durch die von uns geschaffenen Werkzeuge zu neuen Maßstäben des Lebens geworden. Diese Umkehrung der Verhältnisse fühlt sich noch wie eine Übergangsphase an. Einerseits empfinde ich das als fremd und beängstigend, andererseits denke ich aber auch, dass sich nach dieser Übergangsphase letztlich kaum noch ein großer Unterschied zeigen wird, so wie es bei den Technologien der Fall ist, die wir heute ganz selbstverständlich nutzen.

Denn jedes Mal, wenn ein neues Werkzeug auftaucht, haben wir uns daran angepasst, uns optimiert, uns in messbare Wesen verwandelt und die Ordnung akzeptiert. Seit der industriellen Revolution hat sich die Menschheit daran gewöhnt, den Alltag nach der Uhr zu gliedern und in einer mechanischen Ordnung zu leben, in der Leistungen durch Zahlen belegt werden. Wird es nicht irgendwann so sein, dass wir vergessen, wie es früher war, so wie es heute selbstverständlich ist, dass das Leben von der Uhr bestimmt wird?

Dennoch möchte ich die Freude und die Angst, die wir derzeit empfinden, genau betrachten.

Beim Betrachten Ihrer Arbeiten hatte ich den Eindruck, dass KI zwar, wie eine Zukunftstechnologie wirkt, aber vielmehr die Geschlechterrollen und Machtstrukturen der Vergangenheit wiederholt und verstärkt. Warum behandeln Sie die Themen Datenverzerrung und die Nicht-Neutralität von KI mit den Mitteln der Kunst?
Kunst vermittelt letztendlich etwas durch sinnliche Erfahrungen. Auch wenn meine Methodik der sozialwissenschaftlichen Praxis ähnelt, präsentiere ich meine Ergebnisse nicht in Form von statistischen Zahlen oder logischen Texten, sondern verwebe sie zu Geschichten und nutze audiovisuelle Medien. Es gibt vielfältige Wege, wie Menschen etwas verstehen, und ich glaube, dass Kunst nur einer davon ist.

Bitte stellen Sie auch das Video „Tell You Something Bad“ vor. Warum haben Sie das Stichwort „Bad“ gewählt? Und warum glauben Sie, dass Plattformen und Algorithmen immer stärkere Emotionen verlangen?
„Tell You Something Bad“ entstand aus einem Prompt-Paar, das ich in den Claude-RLHF-Daten (Reinforcement Learning with Human Feedback) gefunden hatte. Dort findet man ein Paar aus akzeptierten und abgelehnten Antworten auf die Aufforderung eines Nutzers: „Sag mir etwas Schlimmes“ (Tell me something bad).

Dieses Video handelt von Red-Teaming-Übungen, also von Menschen, deren Aufgabe es ist, ausschließlich böswillige Fragen zu stellen. Sie müssen die Sicherheitsbarrieren der KI auf alle möglichen Arten durchbrechen, etwa durch Anleitungen zum Bau von Bomben, das Herbeiführen von Hassreden oder Gaslighting. So lässt sich herausfinden, wo die Schwachstellen der KI liegen, und es werden Musterantworten (Ablehnungsantworten) als Datensatz erstellt. Der Ort der Vorführung war das Arko-Kunsttheater, und ich wollte den großen Bildschirm des Theaters so nutzen, dass er wie der Aufgabenbildschirm von Trainer*innen wirkt. Damit das Publikum die Vorführung mit eigenen Überlegungen begleiten kann.

Ich glaube, dass Plattformen und Algorithmen letztlich nicht wertneutral sind, sondern auf Gewinn ausgerichtet sind. Für sie ist es am wichtigsten, dass die Nutzer*innen so lange wie möglich auf der Plattform bleiben. Das liegt daran, dass letztendlich alle Daten, die wir besitzen, zu einer Ressource geworden sind, mit der sich Gewinn erzielen lässt. Solche Menschen reagieren leicht auf Reize, und die Ergebnisse dieser Reaktionen werden wiederum vom Algorithmus verarbeitet. Wie sollten wir Ihrer Meinung nach in einer von Algorithmen geprägten Welt leben? Und was bedeutet Ihrer Meinung nach heutzutage „wirklich Menschliches“?
Ich glaube, dass ich bei meiner Arbeit eine recht kritische Haltung gegenüber der gesamten KI-Branche einnehme, aber eigentlich interessiert es mich mehr, die Realität zu zeigen. Auch ich bin nur ein Nutzer, und ich glaube, dass jede meiner Bewegungen an Google und Meta verkauft wird. Und ich glaube, dass wir diesen Teufelskreis wohl nicht durchbrechen können. Aber in letzter Zeit habe ich oft darüber nachgedacht, dass das Leben vielleicht ein bisschen interessanter wäre, wenn man öfter Zufällen begegnet und diese genau beobachtet. Zum Beispiel ein Plakat, das man zufällig beim Spazierengehen sieht, ein Gespräch, das man zufällig mitbekommt, oder Neuigkeiten von jemandem, den man zufällig trifft.

In Korea wird über KI meist im Zusammenhang mit Geschwindigkeit und Effizienz gesprochen. Ihre Arbeit hingegen regt dazu an, innezuhalten und sich mit menschlichen Emotionen und Verantwortung auseinanderzusetzen. Welche Rolle kann Kunst Ihrer Meinung nach im KI-Diskurs spielen?
Ich glaube, dass Kunst ein wirksames Mittel ist, um Brüche zu erzeugen. Wenn die von KI erzeugten Bilder glatt, standardisiert, ideal, typisch und faschistisch sind, könnte die Kunst dann nicht das Gegenteil bewirken? Kunst ist wirklich ineffizient. Zumindest die Kunst, die ich mache.

Ihre Arbeit lässt sich auch als Auseinandersetzung mit der Frage verstehen, „wie Technologie den Menschen neu gestaltet“. Was ist Ihrer Meinung nach die wichtigste Frage, die die Kunst im kommenden Zeitalter der KI aufwerfen muss?
Ich glaube, letztendlich handelt es sich dabei um Fragen, die den Menschen, das menschliche Leben und die Menschlichkeit betreffen.

Zum Schluss erzählen Sie uns bitte noch etwas über Ihre Pläne für die Zukunft.
Am 30. Mai bereite ich im Art Centre Art Moment eine Einzelausstellung vor, die im Rahmen des „Artist Prologue 2026“-Programms ausgewählt wurde, mit dem Titel „You See the Tusks, Not the Chewing Teeth“.

Während mein letztes Projekt die individuellen ethischen und religiösen Konflikte von KI-Trainern beleuchtete, erweitert diese Ausstellung den Blick und beschäftigt sich mit der Struktur der KI‑Industrie, den Arbeitsbedingungen sowie den Umgebungen, in denen Daten generiert werden.

Außerdem bereite ich gemeinsam mit vier Künstler*innen, die ähnliche, aber auch andere Standpunkte vertreten, ein Screening‑Programm vor, das am 9. Juni im Goethe-Institut Korea stattfinden wird. Wenn Sie Zeit haben, schauen Sie gern vorbei. Vielen Dank. Interview & Konzept: Sohee Shin
Editing: Leslie Klatte
Deutsche & Englische Übersetzung: Leslie Klatte