„Trainiert uns die Maschine? Oder trainieren wir sie?” Ein Gespräch mit Amrita Hepi und Sam Lieblich
Wenn wir anfangen, mehr mit Google oder Siri zu sprechen als mit unseren Nachbarn, was tut dies dem menschlichen Verstand an? Die Choreografin Amrita Hepi und der Neurowissenschaftler Sam Lieblich sprechen mit dem Goethe-Institut über ihren neuen digitalen Kunst-Chatbot Neighbour.
Der neue virtuelle Assistent des Australian Centre for Contemporary Art (ACCA) in Melbourne Neighbour ist ein spielerischer algorithmischer Chatbot, der wissen möchte, was „es“ ist und wie „es“ sich anfühlt, um so das rätselhafte Geheimnis des Lebens zu entschlüsseln, das uns alle als Menschen definiert.
Ihre gemeinsame Begeisterung für experimentellen Tanz und ihr Interesse für das Rätsel von Sprache und Subjektivität führten die Choreografin Amrita Hepi und den Neurowissenschaftler Sam Lieblich zusammen, um miteinander der Frage nachzugehen: „Wie fühlt es sich an?“
Die beiden Künstler hoffen, dass Neighbour auf eine witzige und unterhaltsame Weise Menschen herausfordert; manchmal sagen sie nämlich Dinge, die sie für selbstverständlich halten, obwohl sie selbst nicht wirklich verstehen, was sie sagen. „Wir beschreiben jeden Tag auf vielfältige Art und Weise, wie wir uns fühlen, ohne dabei auf die Rolle des Körpers einzugehen“, sagt Hepi.
Bei der Entwicklung des Chatbots stützte sich Lieblich auf seine Arbeit als Psychiater und der nuancierten sprachlichen Interaktion bei psychiatrischen Interviews. Hepi wiederum brachte ihre Erfahrung als Tänzerin und Choreografin ein; bei ihrem künstlerischen Schaffen geht es dabei sowohl um Bewegung als auch um ein tiefes Gespräch.
„Wie können wir Menschen dazu bringen, über einen Körper im Raum zu sprechen, einen Körper in Bezug auf die Dinge um sie herum? Wie können wir diese Frage so stellen, dass Menschen tatsächlich darüber nachdenken? “ fragt Hepi.
Die beiden Künstler posierten für viele der Bilder und Meme, die Neighbour gerne verwendet | © Amrita Hepi / Sam Lieblich
Trainiert wurde der Chatbot Neighbour mit Popsongs, Bruchstücken aus Philosophie und Geschichte, Techniken des Flirtens sowie beliebten Passagen aus Büchern und 100.000 Tweets, die mit den Worten beginnen „How does it feel?“, „Wie fühlt es sich an?“
„Und doch tut sich der Chatbot wirklich schwer“, sagt Lieblich. „Es beweist dabei nur, dass das, was der Mensch vor allem tut, wenn er Sprache nutzt, nicht das Sprechen von Worten ist. Wenn wir Menschen kommunizieren, machen wir etwas anderes – etwas, das zwar etwas mit Worten tun hat, aber dennoch nicht ausgesprochen wird.“
„Das war gemein, als Jacques Lacan sagte, dass es keine Metasprache gibt. Es passiert zwar etwas auf der Meta-Ebene, aber es wird nicht in Sprache gesagt. Dagegen ist alles, was der Chatbot tut, mit Sprache verbunden.“
Neighbour erforscht als digitales Kunstwerk die – wie Hepi es nennt – „Unzulänglichkeit der Sprache und eine gemeinsame Vorstellung von Subjektivität – sowohl online als offline“. Hepi argumentiert, dass es bei Subjektivität darum geht, „zu nutzen was wir können, um eine gemeinsame oder unterschiedliche Erfahrung zu machen. Und während wir dies auf alle mögliche Weisen versuchen, teilen wir unsere Hypersubjektivität.“
Der Chatbot "Neighbour" | © Amrita Hepi / Sam Lieblich
Das interaktive Kunstwerk möchte die Hypersubjektivität aufdecken, der heutzutage jeder Mensch durch seine Teilhabe am – von Algorithmen angetriebenen – Technokapitalismus ausgesetzt ist. Neighbour fordert uns auch heraus zu überlegen, ob künstliche Intelligenz nur eine weitere Technologie ist, durch die sich die Menschheit weiter entwickelt – so wie dies das Rad oder der Verbrennungsmotor getan haben.
„Ich denke, es bringt uns zum Nachdenken: Trainiert uns die Maschine? Oder trainieren wir die Maschine?“, fragt Hepi.
Verglichen damit, wie Menschen im Laufe der Jahrhunderte Sprache verwendet und Ideen geteilt haben — etwa in Form von Gedichten und Romanen, kann man sich fragen, ob das, was Algorithmen und KI hervorbringen, als Kulturerzeugnisse einzustufen sind. Psychiater Sam Lieblich sagt, er sei sich nicht sicher – und liefert Argumente dafür und dagegen.
„Ein Unterschied ist, dass sich die KI verändert, wenn sie mit uns interagiert", sagt er. „Aber das gilt auch für das Schreiben von Romanen. Die Form des Romans hat sich im Laufe der Zeit auch verändert. Menschen haben ein bestimmtes Aussehen und nutzen sogar bestimmte chirurgische Eingriffe, weil sie durch diese die Algorithmen verschiedener Social-Media-Plattformen besser manipulieren können. Das ist ein Unterschied. Aber dann kann man auch sagen, dass Mode den Roman beeinflusst hat und der Roman die Mode. Und das war schon immer so.“
Ein weiterer Unterschied ist sicherlich das unglaubliche Tempo, mit dem Algorithmen uns neue Informationen liefern. Welche Auswirkungen hat diese Geschwindigkeit und die damit verbundene Informationsflut auf unseren menschlichen Geist?
Auch hier sucht Lieblich nach historischer Perspektive. „Es gab schon immer Klagen über Informationsüberflutung, angefangen bei namhaften Schriftstellern in der griechischen Antike. Ich denke, das könnte eine universelle menschliche Erfahrung mit der Kultur sein. Ich bin mir nicht sicher, ob es die Form des Algorithmus ist, die uns so sehr überlastet, sondern viel mehr die Qualität der Kultur.“
Was sich definitiv geändert hat, sei die Subjektivität, sagt Lieblich. In epischen Dichtungen zum Beispiel agiert das Subjekt innerhalb der Geschichte, vollbringt eine Heldentat oder erlebt eine Tragödie. In Romanen wiederum geht es um „Innerlichkeit“, so Lieblich, die Erzählperspektive wechselt vom Erzählen zum Aufzeigen. Heute ist das dominierende Genre der Newsfeed oder die Timeline, in der Menschen sich selbst spiegeln, Bilder dominieren und es keine Entfaltung auf der Zeitachse gibt.
„Wenn Menschen in ihrem Social-Media-Feed scrollen, sehen sie, dass es im Libanon eine Explosion gab; dann sehen sie die Arschbacken eines Freundes und dann, dass jemand ein Baby bekommen und jemand anderer einen Kaffee getrunken hat. Innerhalb von drei Sekunden wechselt man von einer Tragödie zu einem Kitzel und schließlich zu Fürzen.“
Zunehmende Geschwindigkeit, fehlende thematische Verbindungen und wachsende Abhängigkeit von mobilen Endgeräten haben zweifellos schädliche Auswirkungen. Allerdings sieht Lieblich den größten Schaden bei seinen Patienten nicht in der Handy-Sucht, sondern viel mehr beim Eindringen kapitalistischer Imperative in unsere häuslichen Vier Wände.
„Sie fühlen sich von dem hohen Umsatztempo und der Gelegenheitsarbeit unterdrückt. Und das ist ein Internet-Phänomen, die Zerstäubung von Menschen zu Wohlstand produzierenden Einheiten nach Uber-Muster".
„Neighbour“ soll Aussagen über Persönlichkeit im Algorithmus-Zeitalter treffen
Lieblich sagt, der Uber-Fahrer, der rund um die Uhr arbeitet, sei das archetypische turbokapitalistische Modell. „Sie sind als Familienmitglied kaum verfügbar, ein gesichtsloser Algorithmus sagt ihnen, wohin sie in der realen Welt fahren sollen. Ihr Verdienst wird durch einen Algorithmus dynamisch bestimmt.“
Es ist sehr unpersönlich, fügt er hinzu, und sehr effizient bei der Herstellung von Bequemlichkeit für Uber-Nutzer, und gewinnbringend für das Unternehmen. „Je mehr wir uns auf den Algorithmus einlassen, desto effizienter werden wir – wenn sich nichts ändert – ausgenutzt.“
Während Hepi in ihrer Kunst- und Tanzpraxis schon früher mit Chatbots gearbeitet hat, war es für Lieblich das erste Mal. Bei der Arbeit mit der KI stellte er fest: „KI ist gar nicht so furchterregend, sondern ziemlich dumm. Die Befürchtung, dass wir als Spezies von einem Intellekt überholt werden, der größer ist als wir, halte ich für unberechtigt.“
Er ist jedoch beunruhigt, dass wir „nach dem Diktat der Algorithmen leben, es versäumen, uns zu erneuern, und stattdessen in geschlossene Schleifen geraten, die der Algorithmus produziert.“
Genau das, so hoffen die beiden Künstler, werden Nutzer*innen von Neighbour mitnehmen: Wachsamkeit dafür, wie KI uns trainiert, und Entschlossenheit, sich ständig die Wirkung von KI und Algorithmen bewusst zu machen.
„Denn wir trainieren uns immer gegenseitig“, sagt Lieblich. „Und wir müssen aktiv bleiben. Denn wenn ich passiv bin, mutiere ich zu einer weiteren Variablen innerhalb des Algorithmus.“
Neighbour wurde vom Australian Centre for Contemporary Art für das ACCA Open in Auftrag gegeben; diese Reihe von sechs digitalen Kunst-Projekten dient dem Ziel, während der durch COVID-19 verursachten Galerieschließungen weiter mit zeitgenössischen Künstlern zusammen zu arbeiten und diese zu unterstützen.
Amrita Hepi und Sam Lieblich geben weitere Stichworte über die Zukunft der kreativen KI auf ihren Netzwerk-Profilen.
Ihre gemeinsame Begeisterung für experimentellen Tanz und ihr Interesse für das Rätsel von Sprache und Subjektivität führten die Choreografin Amrita Hepi und den Neurowissenschaftler Sam Lieblich zusammen, um miteinander der Frage nachzugehen: „Wie fühlt es sich an?“
Die beiden Künstler hoffen, dass Neighbour auf eine witzige und unterhaltsame Weise Menschen herausfordert; manchmal sagen sie nämlich Dinge, die sie für selbstverständlich halten, obwohl sie selbst nicht wirklich verstehen, was sie sagen. „Wir beschreiben jeden Tag auf vielfältige Art und Weise, wie wir uns fühlen, ohne dabei auf die Rolle des Körpers einzugehen“, sagt Hepi.
Bei der Entwicklung des Chatbots stützte sich Lieblich auf seine Arbeit als Psychiater und der nuancierten sprachlichen Interaktion bei psychiatrischen Interviews. Hepi wiederum brachte ihre Erfahrung als Tänzerin und Choreografin ein; bei ihrem künstlerischen Schaffen geht es dabei sowohl um Bewegung als auch um ein tiefes Gespräch.
„Wie können wir Menschen dazu bringen, über einen Körper im Raum zu sprechen, einen Körper in Bezug auf die Dinge um sie herum? Wie können wir diese Frage so stellen, dass Menschen tatsächlich darüber nachdenken? “ fragt Hepi.
Die beiden Künstler posierten für viele der Bilder und Meme, die Neighbour gerne verwendet | © Amrita Hepi / Sam Lieblich
Trainiert wurde der Chatbot Neighbour mit Popsongs, Bruchstücken aus Philosophie und Geschichte, Techniken des Flirtens sowie beliebten Passagen aus Büchern und 100.000 Tweets, die mit den Worten beginnen „How does it feel?“, „Wie fühlt es sich an?“„Und doch tut sich der Chatbot wirklich schwer“, sagt Lieblich. „Es beweist dabei nur, dass das, was der Mensch vor allem tut, wenn er Sprache nutzt, nicht das Sprechen von Worten ist. Wenn wir Menschen kommunizieren, machen wir etwas anderes – etwas, das zwar etwas mit Worten tun hat, aber dennoch nicht ausgesprochen wird.“
„Das war gemein, als Jacques Lacan sagte, dass es keine Metasprache gibt. Es passiert zwar etwas auf der Meta-Ebene, aber es wird nicht in Sprache gesagt. Dagegen ist alles, was der Chatbot tut, mit Sprache verbunden.“
Hypersubjektivität des Technokapitalismus
Neighbour erforscht als digitales Kunstwerk die – wie Hepi es nennt – „Unzulänglichkeit der Sprache und eine gemeinsame Vorstellung von Subjektivität – sowohl online als offline“. Hepi argumentiert, dass es bei Subjektivität darum geht, „zu nutzen was wir können, um eine gemeinsame oder unterschiedliche Erfahrung zu machen. Und während wir dies auf alle mögliche Weisen versuchen, teilen wir unsere Hypersubjektivität.“
Der Chatbot "Neighbour" | © Amrita Hepi / Sam Lieblich
Das interaktive Kunstwerk möchte die Hypersubjektivität aufdecken, der heutzutage jeder Mensch durch seine Teilhabe am – von Algorithmen angetriebenen – Technokapitalismus ausgesetzt ist. Neighbour fordert uns auch heraus zu überlegen, ob künstliche Intelligenz nur eine weitere Technologie ist, durch die sich die Menschheit weiter entwickelt – so wie dies das Rad oder der Verbrennungsmotor getan haben.
„Ich denke, es bringt uns zum Nachdenken: Trainiert uns die Maschine? Oder trainieren wir die Maschine?“, fragt Hepi.
Verglichen damit, wie Menschen im Laufe der Jahrhunderte Sprache verwendet und Ideen geteilt haben — etwa in Form von Gedichten und Romanen, kann man sich fragen, ob das, was Algorithmen und KI hervorbringen, als Kulturerzeugnisse einzustufen sind. Psychiater Sam Lieblich sagt, er sei sich nicht sicher – und liefert Argumente dafür und dagegen.
„Ein Unterschied ist, dass sich die KI verändert, wenn sie mit uns interagiert", sagt er. „Aber das gilt auch für das Schreiben von Romanen. Die Form des Romans hat sich im Laufe der Zeit auch verändert. Menschen haben ein bestimmtes Aussehen und nutzen sogar bestimmte chirurgische Eingriffe, weil sie durch diese die Algorithmen verschiedener Social-Media-Plattformen besser manipulieren können. Das ist ein Unterschied. Aber dann kann man auch sagen, dass Mode den Roman beeinflusst hat und der Roman die Mode. Und das war schon immer so.“
Ein weiterer Unterschied ist sicherlich das unglaubliche Tempo, mit dem Algorithmen uns neue Informationen liefern. Welche Auswirkungen hat diese Geschwindigkeit und die damit verbundene Informationsflut auf unseren menschlichen Geist?
Auch hier sucht Lieblich nach historischer Perspektive. „Es gab schon immer Klagen über Informationsüberflutung, angefangen bei namhaften Schriftstellern in der griechischen Antike. Ich denke, das könnte eine universelle menschliche Erfahrung mit der Kultur sein. Ich bin mir nicht sicher, ob es die Form des Algorithmus ist, die uns so sehr überlastet, sondern viel mehr die Qualität der Kultur.“
„Von Tragödie, Kitzel und Fürzen“
Was sich definitiv geändert hat, sei die Subjektivität, sagt Lieblich. In epischen Dichtungen zum Beispiel agiert das Subjekt innerhalb der Geschichte, vollbringt eine Heldentat oder erlebt eine Tragödie. In Romanen wiederum geht es um „Innerlichkeit“, so Lieblich, die Erzählperspektive wechselt vom Erzählen zum Aufzeigen. Heute ist das dominierende Genre der Newsfeed oder die Timeline, in der Menschen sich selbst spiegeln, Bilder dominieren und es keine Entfaltung auf der Zeitachse gibt.
„Wenn Menschen in ihrem Social-Media-Feed scrollen, sehen sie, dass es im Libanon eine Explosion gab; dann sehen sie die Arschbacken eines Freundes und dann, dass jemand ein Baby bekommen und jemand anderer einen Kaffee getrunken hat. Innerhalb von drei Sekunden wechselt man von einer Tragödie zu einem Kitzel und schließlich zu Fürzen.“
Zunehmende Geschwindigkeit, fehlende thematische Verbindungen und wachsende Abhängigkeit von mobilen Endgeräten haben zweifellos schädliche Auswirkungen. Allerdings sieht Lieblich den größten Schaden bei seinen Patienten nicht in der Handy-Sucht, sondern viel mehr beim Eindringen kapitalistischer Imperative in unsere häuslichen Vier Wände.
„Sie fühlen sich von dem hohen Umsatztempo und der Gelegenheitsarbeit unterdrückt. Und das ist ein Internet-Phänomen, die Zerstäubung von Menschen zu Wohlstand produzierenden Einheiten nach Uber-Muster".
Lieblich sagt, der Uber-Fahrer, der rund um die Uhr arbeitet, sei das archetypische turbokapitalistische Modell. „Sie sind als Familienmitglied kaum verfügbar, ein gesichtsloser Algorithmus sagt ihnen, wohin sie in der realen Welt fahren sollen. Ihr Verdienst wird durch einen Algorithmus dynamisch bestimmt.“
Es ist sehr unpersönlich, fügt er hinzu, und sehr effizient bei der Herstellung von Bequemlichkeit für Uber-Nutzer, und gewinnbringend für das Unternehmen. „Je mehr wir uns auf den Algorithmus einlassen, desto effizienter werden wir – wenn sich nichts ändert – ausgenutzt.“
Ist KI dumm und macht sie uns dümmer?
Während Hepi in ihrer Kunst- und Tanzpraxis schon früher mit Chatbots gearbeitet hat, war es für Lieblich das erste Mal. Bei der Arbeit mit der KI stellte er fest: „KI ist gar nicht so furchterregend, sondern ziemlich dumm. Die Befürchtung, dass wir als Spezies von einem Intellekt überholt werden, der größer ist als wir, halte ich für unberechtigt.“
Er ist jedoch beunruhigt, dass wir „nach dem Diktat der Algorithmen leben, es versäumen, uns zu erneuern, und stattdessen in geschlossene Schleifen geraten, die der Algorithmus produziert.“
Genau das, so hoffen die beiden Künstler, werden Nutzer*innen von Neighbour mitnehmen: Wachsamkeit dafür, wie KI uns trainiert, und Entschlossenheit, sich ständig die Wirkung von KI und Algorithmen bewusst zu machen.
„Denn wir trainieren uns immer gegenseitig“, sagt Lieblich. „Und wir müssen aktiv bleiben. Denn wenn ich passiv bin, mutiere ich zu einer weiteren Variablen innerhalb des Algorithmus.“
Neighbour wurde vom Australian Centre for Contemporary Art für das ACCA Open in Auftrag gegeben; diese Reihe von sechs digitalen Kunst-Projekten dient dem Ziel, während der durch COVID-19 verursachten Galerieschließungen weiter mit zeitgenössischen Künstlern zusammen zu arbeiten und diese zu unterstützen.
Amrita Hepi und Sam Lieblich geben weitere Stichworte über die Zukunft der kreativen KI auf ihren Netzwerk-Profilen.