Hans Block und Moritz Riesewieck im Gespräch
The Cleaners – Die Schattenindustrie digitaler Zensur
The Cleaners ist Eröffnungsfilm des Budapest International Documentary Festival 2019. Mit den beiden Regisseuren Hans Block und Moritz Riesewieck, die zur Vorführung eingeladen sind, sprachen wir vor Ihrem Besuch in Budapest.
Der Film macht zum Thema, was überall im Moment Thema ist: wie behalten wir Kontrolle über das, was in Netzwerken wie Facebook, YouTube und Twitter frei zugänglich ist. Und wer ist gegebenenfalls dafür verantwortlich, unakzeptable Hass-Botschaften, anstößige Videos oder Bilder zu entfernen? Diese Verantwortung scheint outgesourct zu sein. Der Film porträtiert fünf s.g. Content-Moderatoren, denen komplexe Entscheidungen über Zensur oder Sichtbarkeit von Inhalten abverlangt werden.
Wie sind sie auf das Thema gestoßen? Was war das auslösende Moment, nachzuforschen, wer denn diese „Cleaners”-Arbeit macht für die Social-Media-Konzerne erledigt?
Tatsächlich haben die meisten Menschen weltweit, die soziale Medien nutzen, keine Ahnung, wer die “Aufräumarbeiten” für sie erledigt. Für die meisten von uns ist es selbstverständlich, dass wir in unseren Newsfeeds keine Videos von Enthauptungen, Vergewaltigung oder Folter sehen müssen. Wir wissen nicht, dass es Tausende von jungen Arbeiter*innen in Entwicklungsländern gibt, die sich selbst aufopfern, um die sozialen Medien "sicher" zu machen und den Nutzer*innen eine "gesunde Umgebung" zu bieten, wenn wir online gehen. Wir selbst wussten vor 5 Jahren davon auch noch nichts.
Bis wir von einem grausamen Post auf Facebook gehört haben: Am 23. März 2013 entdeckten Tausende von Nutzer*innen weltweit auf ihrem Facebook-Newsfeed ein Video eines kleinen Mädchens, das von einem älteren Mann vergewaltigt wurde. Bevor das Video von Facebook gelöscht wurde, wurde es 16.000 Mal geteilt und 4.000 Mal geliked. Dieser Fall hat weltweit Bestürzung ausgelöst. Wir haben davon mitbekommen und uns gefragt, wie mit solchen Inhalten auf den sozialen Plattformen normalerweise umgegangen wird. Wer oder was filtert Inhalte auf den sozialen Plattformen? Gibt es eine Art Bilderkennungssoftware? Einen Algorithmus? Künstliche Intelligenz?
Die Medienwissenschaftlerin Sarah T. Roberts, die zum Thema „Human Content Moderation” promoviert hat, brachte uns darauf, dass Menschen hinter diesen Entscheidungen stehen. Und dass es einige Annahmen gebe, dass der größte Teil dieser Arbeit in Entwicklungsländer ausgelagert wird. Wir wollten mit diesen Arbeiter*innen in Kontakt treten. Auf der einen Seite haben wir uns diesen Job als äußerst belastend vorgestellt. Acht Stunden vor dem Bildschirm zu sitzen und all die Grausamkeiten zu sichten, die der Mensch im Stande ist zu produzieren, kann nicht unbeschadet an den Arbeiter*innen vorbeigehen. Auf der anderen Seite bestimmen diese jungen Leute, was in unserer digitalen Öffentlichkeit vorkommen darf und was nicht. Grund genug, um diese versteckte Seite der sozialen Medien zu beleuchten.
Wie schwierig war es, herauszufinden, wo, und von wem diese Arbeit gemacht wird, wie die Firmen funktionieren? – Es ist ja eine „Schattenindustrie”, die Mitarbeiter haben Schweigepflicht.
Die Kontaktaufnahme mit den Arbeiter*innen in Manila war die größte Herausforderung für uns. Es ist eine sehr geheime und verschlossene Industrie. Sowohl die Auftraggeber, also Facebook und Instagram, Google und YouTube, Twitter, als auch die Outsourcing-Unternehmen tun alles, um die Arbeit geheim zu halten. Die Unternehmen verwenden Codewörter, um geheim zu halten, für welche Unternehmen sie arbeiten. Facebook heißt dort zum Beispiel "Honeybadger Project". Denn die Arbeiter*innen dürfen niemals verlauten lassen, dass sie für Facebook arbeiten. Wann immer sie gefragt werden, müssen sie sagen, dass sie für das "Honeybadger Project" arbeiten. Wenn sie doch reden, wird ihnen mit Geldstrafen und anderen Repressalien gedroht. Es gibt sogar private Sicherheitsfirmen, die die Mitarbeiter*innen bewachen und sie zwingen, nicht mit Fremden über das zu reden, was sie täglich machen. Sie werden überwacht, ihre Social-Media-Konten werden gecheckt, sie werden beobachtet, mit wem sie bei der Raucherpause vor dem Gebäude reden. Auch wir haben erlebt, dass während der Recherche in Manila Fotos von unserem Team gemacht wurden, die dann anschließend durch das Unternehmen gejagt wurden mit der Warnung: Wer mit diesen Typen spricht, verliert auf der Stelle seinen Job. Das war zwischenzeitlich wirklich bedrohlich und hat für uns die Kontaktaufnahme extrem erschwert. Wir haben alle möglichen Informationen gesammelt, um Zugänge zu bekommen. Stück für Stück wussten wir dann, welche Unternehmen den Service für die großen sozialen Plattformen anbieten.
Der Film erzählt die Geschichten von fünf Content Moderatoren. Wie haben Sie Mitwirkende zum Sprechen „überreden” können?
Dafür braucht man Zeit, die wir uns genommen haben. Mehr als 6 Monate haben wir insgesamt in Manila verbracht und haben dadurch Stück für Stück Vertrauen aufbauen können. Es ging uns nicht darum, vertrauliche Informationen an die Öffentlichkeit zu bringen, sondern die Menschen kennenzulernen, die hinter den Clicks stecken. Wir waren überrascht, wie stolz viele von ihnen auf die Aufgabe waren, das Internet zu “reinigen”. Sie sagten: Ohne uns wären soziale Medien ein komplettes Chaos. Wir haben dann mit unseren Protagonist*innen zusammengearbeitet, um herauszufinden, wie man verantwortungsbewusst einen Film über dieses Thema machen kann. Wir haben mit Psychologinnen in Manila und Berlin zusammengearbeitet, die jahrelange Erfahrung in der Arbeit mit Traumapatient*innen haben. Das war nötig, um unserer Verantwortung gegenüber den jungen Menschen nachzukommen, die von den Bildern und Videos, die sie als Content Moderators zu sehen bekommen haben, oft schwer traumatisiert sind. Wir haben ihnen so psychologische Betreuung anbieten können, die von Facebook & Co. bzw. deren Outsourcingpartnern vor Ort oft sträflich vernachlässigt wird.
In Ihrem Statement heißt es: „Wir wollen mit unserem Film eine längst überfällige Debatte lostreten: Knapp 15 Jahre nach ihrer Erfindung haben sich soziale Netzwerke zu einem gleichermaßen mächtigen wie gefährlichen Instrument entwickelt, das imstande ist, Gesellschaften zu spalten, Minderheiten auszugrenzen und Genozide zu befördern.” Wie haben politische Akteure auf den Film reagiert?
Das World Wide Web ist mittlerweile weitgehend aufgeteilt zwischen ein paar wenigen Großunternehmen, die diese Plattformen bereitstellen. Facebook, Instagram, YouTube & Co. tun alles dafür, um sämtliche Inhalte und Services einzubetten, die Nutzer in den Bann ziehen könnten. Es wird ein ummauerter Garten geschaffen, in dem Nutzer*innen alles finden, was sie anspricht, und den sie nicht mehr verlassen müssen. Die Nutzer vergessen irgendwann, sich in einem privatwirtschaftlichen Rahmen zu bewegen mit eigenen Hausregeln. Der Garten ist alles Andere als natürlich. Er gibt vor, natürlich gewachsen zu sein, ist aber tatsächlich eine Scheinöffentlichkeit. Es etabliert sich das Gefühl, dass Social Media Plattformen das Internet sind, eine Landschaft, in der alles stattfindet und man nichts außerhalb dessen braucht.
Das heutige Design der sozialen Netzwerke dient der Aufmerksamkeitsökonomie. Es befördert die Extreme, die impulsiven Affektäußerungen. Jedes Extrem führt zu Aufmerksamkeit in Form von Klicks, Likes und Shares. Je extremer und sensationeller ein Text, ein Bild oder ein Video ist, desto mehr wird es bei Facebook Aufmerksamkeit generieren. Und genau das wollen die Plattformen, denn „Likes“ und „Shares“ können in Form von Werbung in Geld umgewandelt werden. Wir dürfen also nicht überrascht sein, wenn Falsch-Nachrichten geteilt werden und sich mit einfachen, extremen Schlagzeilen in Sekundenschnelle tausendfach verbreiten. Wir dürfen nicht überrascht sein, wenn Hass und Gewalt in den sozialen Medien zunehmen. All dies hängt mit dem Geschäftsmodell dieser Unternehmen zusammen. Wenn diese Unternehmen uns sagen, dass die Plattformen für solche Inhalte missbraucht werden, ist dies einfach falsch, da die Architektur der Plattformen nach extremsten Inhalten verlangt.
Von Anfang an haben wir versucht, mit den Führungskräften der großen Social-Media-Unternehmen in Kontakt zu treten. Aber es gibt diesen “Code of Silence” im Silicon Valley und Dublin (dem europäischen Standort von Facebook). Mitarbeiter von Facebook, Twitter oder Google reden öffentlich nicht gerne darüber, was drinnen passiert. Wir haben mehrere Dutzend Entscheidungsträger*innen kontaktiert und nie eine Antwort bekommen. Wir haben sogar den fertig geschnittenen Film vor der ersten Veröffentlichung an alle großen Unternehmen, die im Film eine Rolle spielen, gesendet und um eine öffentliche Erklärung gebeten. Auch hier gab es keine Antwort. Intransparenz ist leider nach wie vor eine der Haupteigenschaften dieser Unternehmen. Selbst als Journalist*innen Facebook direkt konfrontierten mit unserem Film, antwortete das Unternehmen nur ausweichend und verweigerte jede direkte Stellungnahme. Das Outsourcing nach Manila macht's möglich, dass sich Facebook, YouTube, Twitter & Co. jede Verantwortung für die mentale Ausbeutung ihrer Mitarbeiter bei Subunternehmen von sich schieben können.
Es ist nicht unbedingt gewöhnlich, daß ein Film zwei Regisseure hat – was waren die Vor- und Nachteile der Zusammenarbeit? Und welche weiteren Projekte haben Sie gemeinsam vor?
Das war super! Wir ergänzen uns perfekt. Wir haben ja beide Schauspielregie an der Hochschule für Schauspielkunst „Ernst Busch” in Berlin studiert. Wir waren dort zu fünft in einer Klasse. Entsprechend intensiv war die Auseinandersetzung. Da haben wir gelernt, uns gegenseitig herauszufordern und zu hinterfragen, aber die Gedanken zugleich konstruktiv voran zu treiben. Das kam uns nun sehr zugute. Vielleicht auch ein kritischerer Umgang mit dem Enthüllen selbst: Was heißt das, etwas „aufzudecken“? Braucht es dafür zwingend eine versteckte Kamera? Wie lässt sich zur eigentlichen Erkenntnis vordringen?
Das Digitale wird uns auch weiterhin beschäftigen. Was passiert, wenn wir große Teile des Humanen auf das Digitale verlagern? Digit steht ja zunächst einmal für Ziffer. Können wir das Menschsein berechnen? Was bleibt dabei auf der Strecke? Unter dem Label “Laokoon” - benannt nach dem trojanischen Seher, der das “trojanische Pferd” durchschaut - entwickeln wir Arbeiten, die sich mit dem Enthüllen im digitalen Zeitalter beschäftigen, in einem Zeitalter also, in dem so viele Menschen so viel Zugang zu Informationen besitzen wie nie zuvor und doch so vieles un-erkannt bleibt.
© gebrueder beetz filmproduktion