-
German
Talk
Beginner
Commercial Content Moderation – die Müllabfuhr im Internet!

Short thesis

Täglich werden Millionen Bilder in die sozialen Netzwerke geladen, die wir nie zu Gesicht bekommen. Bilder von Gewalt und Pornographie, aber auch solche, die Facebook & Co schlicht als "unangemessen" einstufen. Gesichtet und aussortiert werden die Fotos und Videos von Billiglöhner/innen auf den Philippinen. Als Christen können die Philippinos westliche Moralvorstellungen gut einschätzen, denken die Konzerne. War es einmal Gott, der sich für die Sünder opfern wollte, so sind es heute philippinische "Content Moderators". Posttraumatische Belastungsstörungen der Angestellten werden als Kollateralschaden eingepreist. Die Passionsgeschichte des Internetzeitalters? – Moritz Riesewieck und Sarah T. Roberts konzentrieren ihre Recherche und Forschung auf die neuen Formierungen von digitaler Arbeit und Produktion im postindustriellen Zeitalter.

Description

Gewalt, Pornographie, verschiedenste Formen der „Perversion“ – in den großen sozialen Netzwerken im Internet sind solche Bilder so gut wie nie zu finden. Das verdanken wir nicht in erster Linie einer Bilderkennungssoftware. „Perverses“ Bildmaterial von tolerierbarem zu unterscheiden, ist im Zweifel eine knifflige Angelegenheit, die von keinem Algorithmus erfüllt werden kann. Outgesourct wird dieser Job vielmehr in eine Vorstadt von Manila auf den Philippinen. Anders als Indien, das sonst ein bevorzugter Standort für Outsourcing-Jobs ist, sind die Philippinen seit der Kolonisation Christen. Die Einschätzung, was westliche Nutzer als „pervers“ erachten, könnten die Philippiner dank des gemeinsamen „Wertekodexes“ besonders zuverlässig erfüllen, schwärmen die Auftraggeber. Die Philippiner sichten täglich acht Stunden lang tausende Videos und Fotos von Sodomie, Pornographie, Vergewaltigungen oder Verstümmelungen, die weltweit hochgeladen werden, und sortieren diese aus, bevor wir, die Nutzer, sie zu Gesicht bekommen. Während wir so von dem Gräuel verschont bleiben, sind die jungen "Content Moderators" jeden Tag einer Flut von verstörenden Bildern ausgesetzt, die sich in den meisten Fällen nie wieder aus der Erinnerung löschen lassen. Als posttraumatische Belastungsstörung bemächtigen sich die Bilder ihrer Körper. 

Während sich jährlich zu Karfreitag in einem großen Spektakel zwei Dutzend Philippiner ans Kreuz nageln lassen, um Jesu Opfer für die Sünder am eigenen Leib nachzuempfinden, opfern tausende Content Moderators still und leise ihre psychische Unversehrtheit für die "Sünder" weltweit. In einer der berühmtesten Ikonographien des Christentums, dem Bild "Noli me tangere" (Rühr mich nicht an/ Berühr mich nicht), haben der Renaissancemaler Tizian und andere den Moment festgehalten, in dem Jesus nach seiner Kreuzigung wiederaufersteht und im Friedhofsgarten auf Maria Magdalena trifft, die in der Bibel als Sünderin bekannt ist. Die erkennt ihn zunächst nicht und hält ihn für den Gärtner, weshalb Jesus in allen Darstellungen dieser Szene immer mit Gartenwerkzeug in der Hand zu sehen ist. Wie alles in der Bibel ist natürlich auch die Verwechslung Jesu mit dem Gärtner kein Zufall, sondern symbolisch: Wie ein Gärtner bändigt er die wilden Triebe, die sündhafte Natur des Menschen, er bekämpft das Unkraut und schafft einen geordneten Garten. Gott nimmt die Sünden der Menschen auf sich. Oder? „So fern wie der Osten vom Westen liegt, so weit hat Gott von uns entfernt unsere Sünden“, heißt es in einem Psalm. Klingt nach Outsourcing! War es einmal Gott, der die Sünden der Menschen auf sich nehmen wollte, so ist es jetzt eine Armada philippinischer Billiglöhner, der diese Aufgabe zuteil wird. Und wie Gott sind diese Arbeiter außerhalb jeder Sichtbarkeit. 

Aber ist nicht auch die Entscheidung, was aussortiert wird und was in den Netzwerken vorkommen darf, eine quasi-göttliche? Schließlich vereinnahmen Facebook & Co. immer größere Teile des öffentlichen Lebens. Kommt die Entscheidung, was als „pervers“ markiert und gelöscht wird, da nicht dem Schöpfen gleich, ist die Verbannung aus dem blauen F für viele nicht so etwas wie die  Verbannung aus dem Paradies? Welchen göttlichen Plan die jungen Philippiner umsetzen, die ihren Daumen über die Fotos und Videos heben oder senken, die auf ihren Bildschirmen landen, das versuchen die amerikanischen Auftraggeber so undurchsichtig wie möglich zu halten. 

Moritz Riesewieck (Laokoon, www.laokoon.de) hat sich ein Bild gemacht. Basierend auf einer Recherche in Manila, spinnt er in seiner Performance den Faden von den philippinischen Content Moderators zur christlichen Sündenlehre, Tipps zur nachhaltigen Unkrautbekämpfung, einem Ölgemälde aus dem 16. Jahrhundert und fragt sich, was zuerst war:

Die Sünde oder der Garten?

 

Supported by Heinrich-Böll-Stiftung.