Ein Interview mit Tega Brain, Simon David Hirsbrunner und Sam Lavigne
Synthetic Messenger

Vor dem Hintergrund der sich verschärfenden Klimakrise erforschen viele Wissenschaftler*innen Technologien, mit deren Hilfe wir ein nachhaltigeres Leben führen können. Forscher*innen und Künstler*innen wie Tega Brain, Simon David Hirsbrunner und Sam Lavigne nähern sich dem Problem des Klimawandels hingegen aus einem anderen Blickwinkel: Was, wenn die Lösung nicht auf technologischer, sondern auf kultureller Ebene liegt? In ihrem neuen Projekt „Synthetic Messenger“ untersuchen sie im Rahmen der Initiative „New Nature“ des Goethe-Instituts, wie Künstliche Intelligenz eingesetzt werden kann, um auf das Narrativ zum Klimawandel Einfluss zu nehmen.

Von Hannah Thomasy

Tega Brain ist Dozentin für Integrierte Digitale Medien an der New York University. In ihrer Arbeit beschäftigt sie sich damit, wie das Verhältnis von Technologie und Umwelt neu gedacht werden kann. Simon David Hirsbrunner ist Post-Doktorand in der Arbeitsgruppe Human-Centered Computing an der Freien Universität Berlin und untersucht die Darstellung von Forschungsergebnissen zum Klimawandel. Sam Lavigne ist Dozent an der Fakultät für Design an der UT Austin und erforscht die Themenbereiche Überwachung, Transparenz und Polizeiwesen.
 
Die Forscher*innen sprachen mit Massive Science über das Projekt Synthetic Messenger und die Schnittstellen von Klimawandel, Fehlinformation und Medien. Im Sinne der Lesefreundlichkeit wurde das Gespräch leicht gekürzt und bearbeitet.

Aus einer kulturellen Perspektive

Hannah Thomasy: Tega Brain, Sie sind von Hause aus Umweltingenieurin. Können Sie mir etwas dazu sagen, wie dieser fachliche Hintergrund Ihrer Arbeit als Künstlerin zugutekommt – wie Sie mit dem Spannungsfeld von Technologie und Umwelt umgehen?
 
Tega Brain: Ich bin ausgebildete Wasserbauingenieurin und war auch einige Jahre lang in diesem Beruf tätig. Dabei hatte ich das Gefühl, dass ein Großteil meiner Arbeit, so innovativ sie mit Blick auf Umweltfragen auch war – wissen Sie, als Ingenieur*in hinterfragt man nicht unbedingt, warum man einer bestimmten Logik folgt – ich hatte auf jeden Fall das Gefühl, dass es bei meiner Arbeit oft darum ging, den Menschen große Wohnungsbauprojekte und fragwürdige Erschließungsvorhaben schmackhafter zu machen. 
 
So kam es, dass ich mich immer mehr für Fragen des Umweltengineerings Tega Brain | © Sam Lavigne interessierte, und zwar aus einer kulturellen Perspektive. Nach welchen Kriterien bewerten wir den Erfolg oder Misserfolg von Projekten? Welche Werte liegen den Prioritäten zugrunde? Können wir Fragen der Infrastruktur und Technologie auch aus anderen Blickwinkeln betrachten als der rein menschlichen Perspektive – was würde es also bedeuten, wenn wir Infrastrukturen schaffen würden, die auch anderen Lebensformen und der Gesundheit ganzer Ökosysteme dienen – und nicht nur der menschlichen Gesundheit?
 
Von diesem Punkt an habe ich mich dann viel damit beschäftigt, Technologien und Ingenieurleistungen als Kultur zu hinterfragen und neue Vorstellungen davon zu entwickeln, wie wir Technologie umsetzen können. Zuletzt ging es dabei um Daten: Wie datenbasierte Entscheidungstools und datengesteuerte Systeme immer mehr Einfluss in unserem Leben gewinnen, etwa im Bereich Umwelt, also durch Modellierungen und ähnliche Methoden, um die Welt zu erforschen und zu verstehen. In letzter Zeit habe ich mich aber auch intensiv mit dem Internet beschäftigt und mit der Frage, inwieweit sich auch die Medien durch diese datengesteuerte Logik grundlegend verändern. Hier arbeite ich eng mit Sam zusammen und dabei entstehen oft Interventionen, mit denen wir versuchen, diesen Gedanken deutlich zu machen und hier und da Alternativen aufzuzeigen, wie die Welt auch aussehen könnte.
 
Simon Hirsbrunner, in Ihrer Arbeit setzen Sie sich intensiv mit Datentransparenz und Vertrauen in die Wissenschaft auseinander – inwieweit fließen diese Themen in das Projekt Synthetic Messenger ein?
 
Simon Hirsbrunner: Nun, ich habe Internationale Beziehungen studiert und als Simon David Hirsbrunner | © Fabian Stuertz Photography politischer Berater für die deutsche Bundesregierung gearbeitet. Daneben habe ich mich aber immer auch Projekten gewidmet, bei denen es in Zusammenarbeit mit Künstler*innen und Kommunikationsfachleuten um Themen wie Nachhaltigkeit und Klimawandel ging. Dieser Aspekt meiner Arbeit rückte dann immer mehr in den Mittelpunkt meines Interesses, während die diplomatischen und politischen Aspekte in den Hintergrund traten. Also habe ich meine Stelle gekündigt und wieder studiert – Medienwissenschaften.

Wahrheiten ans Licht bringen

Den Schwerpunkt meines Studiums der Medienwissenschaften lege ich auf diesen Aspekt der Darstellung wissenschaftlicher Projekte – also, wie präsentieren, visualisieren Wissenschaftler*innen ihre Arbeit? Und dabei konzentriere ich mich auf Klimawandelmodellierungen, zum Beispiel im Bereich der Klimafolgenforschung. Dort werden riesige Computermodelle und Simulationen zum Klimawandel im 21. Jahrhundert entwickelt, die Forscher*innen müssen sich die ganze Welt unter den Bedingungen des Klimawandels vorstellen, über die nächsten hundert Jahre. Und das finde ich extrem interessant, weil es nicht nur etwa um den Temperaturanstieg geht, sondern hier muss man gedanklich wirklich mit neuen Welten, alternativen Welten arbeiten. Und daraus ergeben sich auch neue Herausforderungen in Fragen des Vertrauens, also wie man vertrauensvolle Beziehungen mit der Öffentlichkeit bzw. mit verschiedenen Öffentlichkeiten aufbaut. Ich halte künstlerische Interventionen hier für besonders interessant und auch notwendig, um zwischen Wissenschaft und Gesellschaft Vermittlungsarbeit zu leisten.
 
Sam Lavigne, Ihre Arbeit hat vor allem zum Ziel, die Aufmerksamkeit auf die maßgebenden politischen Kräfte zu richten, die an der Gestaltung der verschiedenen Technologien, die wir nutzen, beteiligt sind – können Sie das etwas näher ausführen und uns erklären, wie Sie diesen Aspekt in das aktuelle Projekt einbringen?

Sam Lavigne: Ich arbeite viel mit Web Scraping, das ist eines der Haupttools, das ich bei meinen Projekten einsetze. Web Scraping heißt, dass man ein Programm schreibt, das dann für Sie das Internet durchsucht. Also anstatt auf eine Webseite zu gehen und jede einzelne Unterseite anzuklicken und Inhalte per Copy und Paste zu kopieren, kann ich einfach ein Programm schreiben, das das für mich erledigt und mir es dann ermöglicht, Archive verschiedener Webseiten zu erstellen. Das ist eine echt interessante Methode, da sie einem hilft, Wahrheiten ans Licht zu bringen, die man auf den ersten Blick nicht erkennt. Wenn man versucht zu verstehen, wie Macht funktioniert, geht man ja oft davon aus, dass man sich den Zugang zu irgendeinen geheimen Wissensfundus erschließen muss, beim Web Scraping als einer künstlerischen oder kritischen Praxis wird aber klar, dass man viel Wissen darüber erlangen kann – nicht nur Wissen im normalen Sinne, sondern auch so eine Art poetisches Wissen – wie Macht funktioniert, und zwar auf der Grundlage dessen, was sie selbst uns sagt. Das ist also ein Teil dessen, worum sich meine Arbeit dreht, und ganz bestimmt einer der Aspekte, die ich in dieses Projekt einbringen werde.
 
Ich interessiere mich auch sehr für den Ansatz des Reverse Engineerings, bei dem untersucht wird, wie man bestimmte Technologien für andere Zwecke nutzen kann. Wenn die Polizei beispielsweise automatisierte Systeme einsetzt, um Prognosen darüber abzugeben, wo und wann in der Stadt Straftaten begangen werden, und wir wissen, dass diese Systeme vom Grundsatz her rassistische Züge haben, ja, dass die Polizei vom Grundsatz her rassistische Züge hat, dann können wir ein anderes Prognosesystem entwickeln, das entweder herausfindet, wo die Polizei anwesend sein wird, so dass die Leute diese Bereiche vermeiden können, oder vielleicht nach Dingen sucht, die nicht unter den üblichen Kriminalitätsbegriff fallen, zum Beispiel finanzielle Machenschaften. Wie kann man die Tools nehmen, die man schon hat, ihre Funktionen verstehen und diese dann verändern, um im Ergebnis andere politische Konsequenzen zu erzielen?

Kultur wird zum Gegenstand der Technik

Viele der Forschungsprojekte, über die in letzter Zeit ausführlich berichtet wurde, verfolgen technologische Ansätze zur Lösung des Klimaproblems, Ihre Gruppe folgt jedoch einer ganz anderen Herangehensweise und betrachtet den Klimawandel als soziokulturelles Problem. Können Sie den Ansatz näher beschreiben und erklären, warum Sie sich für diese Herangehensweise entschieden haben?
 
TB: Meiner Meinung nach stehen wir hier vor einer riesigem Herausforderung. Den vielen Maßnahmen im Klimaschutz und auch der aktuellen Debatte um das Klima-Engineering, so spekulativ das auch sein mag, liegt doch immer unser Wunsch zugrunde, das Problem zu lösen, ohne unser Leben ändern zu müssen. Und aus meiner Sicht hat die Mittelschicht das definitiv propagiert. Das Thema wird doch häufig aus dieser sehr technischen Brille betrachtet. Wenn wir uns aber anschauen, wo wir jetzt stehen, müssen wir etwas ändern. Wir müssen über andere Lebensformen nachdenken und [ein neues Verständnis dessen] entwickeln, was wir unter einem guten Leben verstehen, und uns dabei von diesen klobigen Narrativen lösen, die wir uns so sehr zu eigen gemacht haben. Das Projekt hat sich aus dieser Sichtweise heraus entwickelt: Was wäre, wenn wir das Thema als ein Problem der Medien, ein Problem des Narrativs begreifen? Und aus dieser Perspektive können wir uns dann damit beschäftigen und Lösungsansätze suchen, anstatt aus der klassischen Ingenieurperspektive heranzugehen und zu sagen: „Okay, wir basteln uns die Welt so zurecht, dass wir alle genau so weitermachen können wie bisher.“
 
SH: Man hat ja einerseits die natürliche Welt und andererseits den Klimawandel als kulturelles Phänomen, aber all das verschmilzt miteinander, wenn es in Daten umgewandelt wird und alles als Datenmaterial behandelt wird und Kultur zum Gegenstand der Technik wird. Wir können die Kultur also durch die Technik steuern und auch das ist einer der Aspekte, die ich in Synthetic Messenger thematisieren möchte – weil es beim Klima-Engineering nicht nur um die Manipulation natürlicher Systeme, sondern auch um ein Meinungs-Engineering geht, verstehen Sie, was über die sozialen Netzwerke usw. erfolgt. Und hier hat das Engineering ja schon Einzug gehalten – schauen wir uns nur die Werbeindustrie an und wie die Branche bestimmten Inhalten [Vorrang] gegenüber anderen gibt, Kontroversen in Gang setzt und so weiter. Können Sie einige konkrete Beispiele dafür nennen, wo die Medien und die sozialen Medien den Diskurs zum Klimawandel historisch beeinflusst haben und zur Verbreitung von Informationen und Falschinformationen beigetragen haben?
 
SL: Bevor wir diese Frage beantworten können, muss uns eines klar sein: Die Medienlandschaften in Amerika, Australien und Deutschland sind total verschieden. Wobei der Unterschied zwischen USA und Australien wahrscheinlich nicht ganz so grundlegend ist, weil der Einfluss von Murdoch in beiden Ländern so groß ist.
 
Gerade vor diesem Interview haben wir noch mit Simon darüber gesprochen, wie unterschiedlich in den USA und in Deutschland über das Thema Klima berichtet wird. Da gibt es erhebliche Unterschiede. In Amerika findet der Klimawandel kaum Erwähnung, auch nicht in Artikeln, in denen es um das Thema Klimawandel geht. Also wenn man zum Beispiel einen Artikel über die Brände in Kalifornien liest, die ausschließlich und offensichtlich auf den Klimawandel zurückzuführen sind, kann es sein, dass der Begriff „Klimawandel“ in den betreffenden Artikeln gar nicht vorkommt. Und ich spreche hier nicht über Fox News oder so, sondern ich spreche über die New York Times. 
 
TB: Aber auch Fox News!
 
SL: Ja, vor allem Fox News, aber eben auch die New York Times. Und natürlich leugnet niemand bei der New York Times den Klimawandel, es geht nicht um die Leugnung des Klimawandels. Okay, vielleicht geht es schon darum, aber es geht nicht nur darum. Eines der Themen, für die ich mich wirklich interessiere, und ich denke, hier liegt auch ein guter Ansatz, um im Jahr 2020 über Probleme in den Medien nachzudenken, ist, wie sehr die Medienlandschaft – selbst wenn man meint, dass man politisch oder ideologisch mehr oder weniger auf einer Linie mit einem bestimmten Medienunternehmen liegt – immer noch dem Diktat der Marktkräfte unterliegt, wenn es darum geht, welche Themen behandelt werden und wie man sie behandelt.

Für jedes Gedankenkonstrukt den entsprechenden Beweis auf YouTube finden

Und auch hier wird vieles durch algorithmische Kräfte gesteuert. Jeder einzelnen Artikel, der geschrieben wird, hat also einen Wert, und dieser Wert bemisst sich nach der Zahl der sogenannten Interaktionen – also zum Beispiel, wie oft er auf den sozialen Medien angeklickt wird. Das bedeutet aber auch ganz schlicht, ganz langweilig, wie viele Werbeanzeigen durch diesen konkreten Artikel geschaltet wurden? Haben die Leser die Anzeigen angeklickt oder nicht? Wie viel Geld hat der Artikel eingebracht? Es geht also einerseits um die Interaktionen – also wie viele Menschen ihn gelesen haben – aber auch darum, welchen finanziellen Gewinn der Artikel generiert hat? Und dann ist es noch so, dass wegen der zunehmenden Datenabhängigkeit bestimmte Themen mehr nach vorne gebracht werden, während andere mehr in den Hintergrund rücken. Es gibt eine merkwürdige Entwicklung, dass redaktionelle Entscheidungen bei manchen Unternehmen auf automatisierte Systeme ausgelagert werden und damit allgemeiner gesprochen materiellen Wirklichkeiten, Marktkräften überlassen werden. Das ist einer der Aspekte, die wir in dem Projekt direkt aufgreifen werden und ich denke, das ist etwas, was bei unserem Ansatz in gewisser Weise vielleicht neu ist, ungefähr im Sinne eines Geoengineering-Projekts.
 
TB: Ich denke, es ist schon viel dazu gesagt worden, dass Fehlinformationen von Lobbyisten in den USA und Australien äußerst strategisch platziert und verbreitet werden – zu Deutschland kann ich da nichts sagen. Es wäre ja höchst amüsant, wenn die Lage nicht so ernst wäre, aber es gibt in Australien zum Thema Windenergie diverse verrückte Verschwörungstheorien, zum Beispiel, dass bei Kindern dadurch Lernstörungen hervorgerufen werden. Diese Geschichten, wenn man die hört, da denkt man doch, es kann nicht ernsthaft Leute geben, die solche Inhalte in den Medien verbreiten.
 
Inzwischen ist ja bekannt, dass sich viele Maßnahmen dadurch hinauszögern, dass die öffentliche Meinung derart gespalten ist und die Medienlandschaft in diesem Bereich so chaotisch ist, und wir wissen ja, dass man für jedes Gedankenkonstrukt den entsprechenden Beweis auf YouTube finden kann. Es wird immer jemanden geben, der ein Video genau zu der Sichtweise veröffentlicht hat, zu der man gerade neigt. Durch diese Art der Manipulation und Fehlinformationen spielen die Medien natürlich eine ganz zentrale Rolle dabei, wie das Thema dargestellt wird. Und es ist auch einfach ein Armutszeugnis, dass auf Ebene der öffentlichen Meinung entschieden wird, wie mit dem Klimawandel umgegangen wird.
 
SH: Was ich in den sozialen Medien feststelle, und auch in den aktuellen Diskussionen in den sozialen Medien, ist, dass die Kontroverse – je realer der Klimawandel wird und je konkretere Informationen uns darüber vorliegen – nicht aufhört, sondern vielmehr einen immer direkteren Bezug zum Leben der Menschen gewinnt. Wenn wir beispielsweise all die Risikoeinschätzungen zum Anstieg des Meeresspiegels und zur Zunahme der Überschwemmungen in den Küstenregionen sehen, und wenn wir uns Karten anschauen, zum Beispiel interaktive Karten im Internet, die zeigen, wie der Meeresspiegel durch den Klimawandel ansteigt, dann wird das Thema nicht weniger kontrovers diskutiert, sondern rückt noch viel näher an den Alltag der Menschen. Und das ist etwas, was die Medien viel stärker bedenken müssen: dass es immer auch eine Verbindung zu der ganz persönlichen Geschichte eines Menschen gibt und dass die Menschen die Informationen ganz individuell verarbeiten. Sie müssen neu lernen, mit solchen Informationen umzugehen, und das ist gar nicht so leicht. Es geht nicht nur darum, ob man der Sache Glauben schenkt oder nicht. Es rettet einen nicht, wenn man daran glaubt, wissen Sie?

Viele verschiedene Kräfte spielen eine Rolle

Können Sie mir ein wenig dazu sagen, inwieweit das Projekt darauf eingehen wird, wie man Künstliche Intelligenz dazu nutzen könnte, um die Medienerfahrungen der Menschen zum Thema Klimawandel zu beeinflussen?
 
TB: Künstliche Intelligenz nimmt jetzt schon starken Einfluss auf unsere Medienerfahrungen. Das steht, glaube ich, außer Frage. Ich meine, wir sehnen uns oft nach der Zeit zurück, als wir noch einfach eine chronologische Timeline hatten.
 
SL: In den USA sind Falschinformationen im Zusammenhang mit der Wahl ein großes Thema. Eine der Maßnahmen, die Twitter nun ergriffen hat, ist, dass der Empfehlungsdienst, der auf Basis maschineller Lernverfahren entscheidet, in welcher Reihenfolge man die Tweets angezeigt bekommt, deaktiviert wurde. Also, nicht komplett deaktiviert, aber doch etwas runtergefahren, also eine Art Zugeständnis, dass die KI, die genutzt wird, um Ihre Timeline zu ordnen und Ihnen verschiedene Tweets anzuzeigen, schon die ganze Zeit problematisch war.
 
Im Moment funktioniert es ungefähr so: Das System versucht, Prognosen aufzustellen – Twitter will, dass man möglichst lange auf der Webseite bleibt – das System versucht zu prognostizieren, bei welchen Tweets eine bestimmte Person so lange wie irgend möglich auf der Seite bleibt.
 
TB: Und in einem Spannungszustand bleibt, so dass man immer weiterscrollt.
 
SL: Und so werden dann, beabsichtigt oder nicht, Inhalte verbreitet, die radikalisieren oder voller Verschwörungstheorien stecken.
 
TB: Oder die einfach emotionsgeladen sind, Sie kennen das, wenn Leute auf Twitter ganze Tiraden loslassen – solche Inhalte werden oft aufgerufen.
 
SL: Diese Systeme haben schon jetzt so viel Einfluss auf unsere gesellschaftlichen Realitäten. Es geht nicht nur um Twitter – es geht auch um YouTube-Empfehlungen …
 
TB: Und bei den Suchergebnissen auf Google ist es das Gleiche. Jede Plattform wendet diese Methoden an.
 
Es steht außer Frage, dass die Kunst in den letzten Jahren ein enormes Interesse am Thema KI in den Medien hatte, was mich immer noch überrascht, weil es ja letztlich um Statistiken geht. Und manchmal frage ich mich, warum es in der Kunst eine solche Faszination für das Thema gibt, und ich denke, dass es viele Gründe dafür gibt. Ich glaube, dass hierdurch Handlungsmacht neu verteilt wird, und es hat natürlich eine lange Tradition, dass künstlerische Arbeiten die verschiedenen Instanzen der Handlungsmacht in der Welt beleuchten. Es gibt eine Frage, die sich immer wieder stellt: Was ist mit Projekten, die sich mit Ökologie und KI beschäftigen? Wenn man sich den Energieaufwand der Trainingsmodelle anschaut, ist das absurd – das ist ein Widerspruch in sich, die Auswirkungen dieser Technologien. Meiner Meinung nach kann sich Medienkunst einiges dadurch zuschulden kommen lassen, dass man Techno-Lösungen will oder auf die neuesten Technologien aufsatteln will, um so relevant zu bleiben, während man gleichzeitig Ressourcen aus dem Technologiesektor in die Kunst holt – ich meine, das ist natürlich auch eine amerikanischer Perspektive. Solche Projekte gibt es, weil Kunst wenig Fördermittel aus öffentlichen Geldern oder von unabhängiger Seite erhält. Also denke ich, dass da viele verschiedene Kräfte eine Rolle spielen.
 
Natürlich können wir die KI dazu nutzen, um unsere Systeme oder das Netz noch effizienter und so zu machen, und trotzdem kommt hier das Jevons-Paradoxon zum Tragen, demzufolge in einer Marktwirtschaft der Preis der Dinge fällt, so dass man unter dem Gesichtspunkt des Ressourcenverbrauchs insgesamt keinen Vorteil erlangt. Also, was das Argument der Effizienz bei der KI angeht, muss man das hinterfragen. Doch die alltägliche Erfahrung zeigt, dass dies ein faszinierender und ergiebiger Bereich ist, in dem wir wirklich unter die Lupe nehmen können, wie ein großer Teil unserer Wahrnehmungen der Umwelt und der Ökologie und der Risiken und der aktuellen Lage der Klimaproblematik usw. durch diese datengesteuerten Systeme und diese KI-Systeme geprägt und beeinflusst wird. Als Künstler*innen haben wir immerhin die Freiheit, den Finger in die Wunde zu legen und den Versuch zu unternehmen, durch Reverse Engineering und Arbeiten im Stil von Interventionen tiefere Erkenntnisse zu gewinnen.