Kinoplakat THE CLEANERS Kinoplakat THE CLEANERS

„The Cleaners“, das sind zehntausende Content-Moderatoren, die das Internet säubern. Sie analysieren und löschen Texte, Fotos, Videos und Livestreams. Wir haben Kino-Freikarten unter unseren Fördermitgliedern verlost. Nun folgt eine Filmbesprechung.

Thomas Berg, CC BY 2.0

Der Film zeigt, wie von Content Managern aus Manila soziale Plattformen von Fotos und Videos bereinigt werden. „Wir sind wie Polizisten.“, sagen sie über sich selbst: „Wir beschützen die User.“.
Gleichzeitig opfern sie sich aber auch auf. Sie sehen sich Bilder an, die ihnen Alpträume verursachen, damit andere Nutzer sie nicht zu sehen müssen: Kindesmissbrauch, Terrorismus, Mordopfer, Selbstmord vor laufender Kamera, Cybermobbing. Ein Klick und der Dreck ist weg. Um ihre Arbeit erledigen zu können, werden sie einige Tage geschult, um sexuelle Begriffe, Codewörter von Verbrechen und Symbole verbotener Organisationen auch in Fremdsprachen zu erkennen. Sie befolgen klar definierte Regeln, müssen aber oft auch ihrer Intuition und ihrem persönlichen Unrechtsbewusstsein folgen.

Ist die gemalte Nacktdarstellung eines amerikanischen Präsidenten mit Minipenis Kunst oder verletzt sie ihn in seiner Persönlichkeit? Ist es Kunst, ein im Mittelmeer ertrunkenes Kleinkind in Nahaufnahme zu zeigen, um die Menschen aufzurütteln, oder zeugt das erkennbare Gesicht des Opfers von schlechter journalistischer Arbeit? Die Beurteilung vieler Inhalte ist kontextabhängig und kulturell unterschiedlich. Im Silicon Valley herrscht angeblich eine Heile-Welt-Kultur des „Über Negatives wird nicht gesprochen“. Nicole Wang (bis vor Kurzem verantwortlich für die Sauberkeit von Youtube und Twitter) erläutert das Dilemma an einem historischen Fall: Saddam Husseins Tod wurde heimlich gefilmt. Die Hinrichtung ließen sie als historisches Dokument online, während die Aufnahmen seiner Leiche entfernt wurden.

„Algorithms can not do what we do.“

Darum kann diese Arbeit nicht automatisiert werden. Doch die Belastung für die Content-Moderatoren ist unmenschlich. Sie leiden mit, wenn sie Kinderpornos und Enthauptungen ansehen: „Ich bin nicht mehr ich selbst, seitdem ich diese Arbeit mache.“ Viele kündigen, manche begehen Selbstmord. Sie zeigen die Symptome einer Traumatisierung. Die Gefahr, Fehler zu begehen, ist groß, wenn man zehntausende von Fotos pro Tag bewertet und 8 Sekunden für eine lange Zeit hält. Die Qualitätskontrolle prüft ca. 3% ihrer Entscheidungen. Die Content Manager stehen unter Druck. Bei mehr als drei Fehlern pro Monat verlieren sie ihren Job. Doch noch schwerer wiegt die moralische Verantwortung, die sie verspüren. Kann eine falsche Entscheidung womöglich einen Selbstmord verursachen oder gar einen Krieg? Gesetzlich sind Google, Facebook, Twitter, YouTube und Co. für alle Inhalte auf ihren Plattformen verantwortlich.
Ihre „Wachleute“ sind dazu da, die Verbreitung bestimmter Informationen zu verhindern. Das bringt Probleme mit sich:

  • Firmen zensieren Inhalte nach ihren eigenen Regeln. Sie entscheiden über ethische Maßstäbe, die nicht in allen Ländern und Kulturen geteilt werden. Es wird sozusagen das Hausrecht jedes Gastgebers angewandt.
  • Um ihre Benimmregeln durchzusetzen, überwachen Firmen die Kommunikation ihrer Nutzer.
  • Beeinflusst wird die Zensur dieser internationalen Firmen durch mehr als eine Regierung: Das US-Ministerium für Innere Sicherheit allein hat 37 Organisationen zu Terrororganisationen erklärt, deren Inhalte grundsätzlich nicht publiziert werden dürfen. Aber auch andere Staaten melden Ansprüche an. So können politisch unliebsame Informationen entweder ganz oder nur für bestimmte Länder blockiert werden.
  • Um Strafzahlungen zu vermeiden und die Gefahr zu umgehen, in einem Land ganz gesperrt zu werden, sind die Internetplattformen kooperativ und löschen lieber zu viel als zu wenig.
  • Diejenigen, deren journalistisch, künstlerisch oder satirisch gemeinten Beiträge gelöscht wurden, können sich nicht oder nur mit großer Anstrengung rehabilitieren.
  • Die Netzwerke sind nicht nur ausführende Organe politischer Zensur, sondern nehmen diese oft schon vorweg.

Datum: 23.05.2018

Text: Kassandra

Kassandra

ist ehrenamtlich für die Arbeitsgruppe Text von Digitalcourage tätig und hat THE CLEANERS in Stuttgart gesehen.

Unsere Arbeit lebt von Ihrer Unterstützung

Wir freuen uns über Spenden und neue Mitglieder.

Bilder aus Kriegen – auch die grausamen – dokumentieren tatsächliche Geschehnisse. Sie sind Beweismaterial für die Zukunft, wenn Kriegsverbrechen beurteilt und aufgearbeitet werden. Geben wir bereitwillig unser Recht auf Information, Meinungsvielfalt und kritisches Denken auf, nur um vor unangenehmen Wahrheiten beschützt zu werden? Könnten die sozialen Netzwerke nicht gerade in Ländern ohne unabhängige Medien eine Möglichkeit des Informationsaustauschs sein?
Es lässt sich sagen: „Na und? Das Internet ist groß!“ Natürlich können wir auf unsere eigene Webseite hochladen, was wir wollen, und per E-Mail alles Mögliche versenden.
Der Film THE CLEANERS weist darauf hin, dass für viele Menschen das Internet mit Facebook identisch geworden ist. Sie wissen nicht, wie man sich objektive, vielfältige, unzensierte Informationen zugänglich macht oder sich anderweitig vernetzt. Ihnen ist nicht bewusst, dass was sie auf Plattformen lesen nicht objektiv und richtig sein muss, und sie erkennen Falschinformationen mitunter nicht. Die Algorithmen der sozialen Netzwerke führen dazu, dass jeder nur das zu sehen bekommt, was zu seinem bisherigen Weltbild passt. Diese Filterblasen spalten die globale Gesellschaft in Lager, die ihre Meinungen auf unterschiedliche Informationen aufbauen. Einseitige Informationen schüren eher Hass als Verständnis.

Bei der Premiere von THE CLEANERS in Stuttgart, am 20.05., war der Regisseur Moritz Riesewieck anwesend und stand anschließend an die Vorführung Rede und Antwort. Er wies darauf hin, dass es alternative soziale Netzwerke gibt und natürlich auch mündliche Kommunikation. Er bat darum, den Film nicht nur bei Facebook zu liken, sondern auch Mund-zu-Mund-Propaganda dafür zu betreiben.
Das Thema Internetzensur ist nicht neu, aber dieser Film wägt sehr reflektiert das Für und Wider des Löschens von Inhalten ab. Als Zuschauerin blieb ich mit dem Gefühl einer drohenden Gefahr zurück. Ich sorge mich um Menschen, die sich leicht durch Fehlinformationen zu Hass, Gewalt und der Wahl einer extremistisch politischen Partei verführen lassen. Schließlich ist es mühsam, sich ein kritisches Bild der Welt zu erarbeiten. Ich bin verunsichert, ob es mir bereits gelingt oder noch gelingen wird. Der Film läuft seit dem 17.5.2018 im Kino.

Ähnliche Artikel

Über Uns

Digitalcourage e.V. engagiert sich seit 1987 für Grundrechte, Datenschutz und eine lebenswerte Welt im digitalen Zeitalter. Wir sind technikaffin, doch wir wehren uns dagegen, dass unsere Demokratie „verdatet und verkauft“ wird. Seit 2000 verleihen wir die BigBrotherAwards. Digitalcourage ist gemeinnützig, finanziert sich durch Spenden und lebt von viel freiwilliger Arbeit. Mehr zu unserer Arbeit.

Veröffentlicht am 21.05.2018

Marktstraße 18
33602 Bielefeld

Spendenkonto
IBAN: DE66 4805 0161 0002 1297 99
BIC: SPBIDE3BXXX
Sparkasse Bielefeld