Weiter zum Inhalt Skip to table of contents

„The Cleaners“ – wer sichtet pro Tag 25.000 mal Hass, Terror und Gewalt im Internet?

Von|
Filmstill aus "The Cleaners" - eine Klickworkerin blickt auf die Skyline von Manila. (Quelle: Gebrüder Beetz Filmproduktion)

 

 

Die vielleicht 25-jährige Frau sitzt in Manila in einer Bildschirm-Kabine, zehn Stunden am Tag. Sie versteht es als ihren Auftrag, Soziale Netzwerke von sündhaften Inhalten frei zu halten, damit andere sie nicht sehen müssen. Wir sehen die junge Frau in der Kirche, beim Gebet – und wie sie darüber berichtet, dass sie sich in ihrer Freizeit Pornos anguckt, um sich für ihre Arbeit fortzubilden, denn sie ist für die Entfernung sexuell anstößiger Inhalte in Sozialen Netzwerken zuständig, „und das kannte ich alles gar nicht.“ Sie stockt. „Und so viele Penisse, so verschiedene“, sie zählt auf und sagt, sie träumt nachts von den Penissen. Aber sie müsse sich eben opfern, wie Jesus sich geopfert hat. Ein gezeichnetes Bild des nackten Donald Trump? „Das ist Donald Trump. Aber das ist auch ein alter nackter Mann“, sagt sie, „das ist Nudity, Nacktheit. Delete, löschen.“

Am Anfang der Recherche von Hans Block und Moritz Riesewieck stand die Frage: „Wer macht das eigentlich, die gefährlichen Inhalte von Sozialen Netzwerken wie Facebook und YouTube zu löschen?“ Denn klar ist: Algorithmen können zwar einiges, aber Menschen können doch mehr. Zehntausende Menschen arbeiten auf den Philippinen in Firmen, die zu keinem der großen Sozialen Netzwerke  gehören, aber doch für sie arbeiten. Ihr Job: Sex- und Gewaltdarstellungen aus den Netzwerken entfernen, Terror-Propaganda und Hassinhalte hinauswerfen, am besten noch, bevor sie viele Menschen gesehen haben. Der Job wird für philippinische Verhältnisse gut bezahlt, die Verwandten sind stolz – aber das auch deshalb, weil sie nicht wissen, was die „Cleaner“ eigentlich tun, denn sprechen dürfen diese über ihre Tätigkeit nicht.  Block und Riesewick haben trotzdem einige ehemalige Cleaner gefunden, die sprechen möchten über ihre Arbeit. Der Film begleitet sie, auch in die Slums, in denen sie leben, begleitet sie zu Freizeitaktivitäten und zu politischen Veranstaltungen. Das Bild, das so entsteht, ist interessant: Viele sind stolz, sie sehen sich als Polizist_innen der digitalen Welt, sprechen von ihrer Verantwortung und dass ohne sie die Sozialen Netzwerke von Schmutz und Hass überflutet würden.

Aber was wird hier als Schmutz, Terror und Hass verstanden? 25.000 Bilder am Tag soll ein Cleaner sichten, darf dabei nur 3 Fehler pro Monat machen. Auf „weiter“ klicken, weil man die Antwort „delete or ignore“ nicht weiß, ist auch schon ein Fehler. Die Schulungen zu den Themen, die Netzwerke gefährlich finden, sind rudimentär. Die Beurteilung der Bilder und Videos geschieht nicht auf der Plattform, sondern in einem losgelösten System, das tatsächlich keinen Kontext zulässt, aber deshalb auch weitestgehend ohne Sprachkompetenzen auskommt. Manche Cleaner bilden sich fort, werden Expert_innen auf ihrem Gebiet, IS-Terror, Kinderpornos, Suizidvideos. Andere nicht. Trotzdem entscheiden sie, was die Welt zu sehen bekommt, und was nicht. Von den seelischen Wunden, die entstehen, wenn man sich den ganzen Tag das ansieht, was niemand sehen soll, sprechen sie auch, aber später, leiser, suchender.

Die große Kraft eines Dokumentarfilms ist seine Direktheit. Diese Menschen zu sehen, Manila zu sehen, das Umfeld zu sehen ist etwas anderes, als über das Thema Bücher oder Artikel zu lesen. Sie sind aber nicht die einzigen Protagonist_innen des Films. Denn Hans Block und Moritz Riesewieck geht es offenkundig auch um die Frage, wie es möglich ist, dass aus der Utopie einer besser vernetzten, wissenderen, informierteren und amüsierteren Welt über Soziale Netzwerke plötzlich eine Realität aus menschlichen Abgründen und Hass wird. Beiträge in Sozialen Netzwerken tragen dazu bei, dass Hass gegen Minderheiten geschürt wird, bis es zu massiver Gewalt und Vertreibung kommt. In der Türkei hilft die Kooperation sozialer Netzwerke mit der politischen Führung, kritische Meinungen als Hass und Terror zu unterdrücken. Im Film sprechen ehemalige Mitarbeitende von Netzwerken von ihren Visionen bei der Errichtung dieser Internetarchitektur – und der Ernüchterung durch den Hass, für den die Netzwerke nun verwendet werden. Das hat auch damit zu tun, wenn technische Unternehmen plötzlich ethische Entscheidungen treffen sollen und mit Kapitalismus, aber diese Gedanken überlässt der Film den Betrachtenden, spricht sie nicht aus.

Die Sozialen Netzwerke, um die es geht, also Facebook, Twitter, YouTube, waren nicht zu Interviews oder gar Stellungnahmen vor der Kamera bereit. „The Cleaners“ behilft sich hier mit Ausschnitten aus der Anhörung der Rechtsanwälte der drei Unternehmen vor dem US-Senat. Natürlich lässt das die Unternehmen nicht gerade gut wegkommen, denn deren Ausflüchte wirken umso ausflüchtiger angesichts der Bilder, die gerade den verantwortungslos outgesourceten und  praktizierten Umgang mit der digitalen Demokratie gezeigt haben. Der Film will nur eine Zustandsbeschreibung und bietet keine Lösungen an, was er als Dokumentarfilm ja auch nicht muss. In der Diskussion nach der Berliner Premiere am 15.05.2018 entwerfen Hans Block und Moritz Riesewieck Möglichkeiten der Intervention: Alle Nutzer_innen müssten sich als digitale Bürger sehen und für ihre Rechte in der Online-Welt streiten, vielleicht in einer weltweiten Online-Regierung, die die Unternehmen zwingt, ihre Verantwortung für die Demokratie weltweit ernst zu nehmen.  Trotzdem bleibt die Anfangsfrage bestehen: In einer weltweiten Kommunikation, wer macht die Regeln, wer gibt vor, was akzeptabel ist und was nicht, wenn darüber in vielen Ländern der Welt sehr unterschiedliche Auffassungen herrschen? Ist das überhaupt möglich und mehr noch, ist das überhaupt wünschenswert? Ein Dokumentarfilm, der den Betrachtenden viel vermittelt, auf gravierende Gefahren für Demokratie weltweit hinweist, aber die Betrachtenden auch mit Fragen aus dem Kino entlässt, hat viel richtig gemacht. Das ist bei „The Cleaners“ der Fall.

„The Cleaners – Im Schatten der Netzwelt“ läuft ab dem 17.05.2018 bundesweit in Kinos.

 

 

TRAILER CLEANERS UT DT from gebrueder beetz filmproduktion on Vimeo.

Weiterlesen

2016-11-23-gmf-internet

Monatsüberblick Oktober 2016 Internet

Die aktuellen Verurteilungen wegen Hate Speech +++ Viel mehr Verfahren wegen Volksverhetzung in NRW und MV +++ Hate Speech: Viel mehr als…

Von|
tiktok2

Katzen, Krieg und Creators Desinformation auf TikTok

Vor allem in Bezug auf TikTok fehlt es Multiplikator*innen oft an konkreten Handlungsempfehlungen zum Umgang mit Verschwörungserzählungen und Hassrede. Das wollen wir ändern.

Von|
Eine Plattform der