Nahaufnahme Handydisplay - Social Media Apps (Foto: SWR, SWR -)

SWR2 Wissen | Die Zukunft der sozialen Medien

Alltag einer Facebook-Überwacherin

STAND
AUTOR/IN
Matthias Becker
ONLINEFASSUNG
Candy Sauer

Falschmeldungen, Hetze, Hasskommentare: Der politische Druck auf Facebook, Google und Twitter wächst. Sie löschen und sperren deutlich mehr Beiträge als früher. Aber ihre Inhaltskontrolle ist oft willkürlich, teilweise widersprüchlich. Sollen wirklich private Unternehmen über die Grenzen der Meinungsfreiheit entscheiden?

Audio herunterladen (12,8 MB | MP3)

Um verbotene und unerlaubte Inhalte auszusortieren, engagiert Facebook externe Betriebe. In Deutschland handelt es sich um die Firmen Competence Call Center in Essen und Arvato in Berlin. „Content-Moderation“ heißt diese Branche, die die Inhalte überwacht und gegebenenfalls eingreift. Hier schildert eine ehemalige Content-Moderatorin, wie hart ihr Job ist.

Was ist "Content-Moderation"?

Die Mitarbeiter, die unerwünschte Inhalte aussortieren, sind bei anderen Betrieben angestellt. In Deutschland handelt es sich um die Firmen Competence Call Center in Essen und Arvato in Berlin. „Content-Moderation“ heißt diese Branche, die die Inhalte überwacht und gegebenenfalls eingreift. Sara (Name von der Redaktion geändert) war so eine Content-Moderatorin: "Als ich angefangen habe, sagte mir ein Kollege: ‚Stell dir einfach vor, dass du die Welt sauber machst, indem du all diese schlechten Dinge wegräumst. Du machst die Welt ein bisschen besser durch deine Arbeit.‘ Und dann habe ich versucht, so zu denken. Die Arbeit war wirklich verstörend. Ja. Ich habe mit wirklich, wirklich krassen Inhalten zu tun gehabt. Es war vor allem Sexuelles. Hass-Content. Mobbing. Kindesmissbrauch. Tierquälerei. Auch Politisches. Auch total brutale Inhalte von Verbrechern, Drogenhändlern."

Sara kam aus dem Ausland nach Berlin und fand dort eine Stelle bei Arvato. Moderatorinnen wie sie werden strikt von der Öffentlichkeit abgeschottet und müssen sich vertraglich zu Stillschweigen verpflichten. Hier äußert sie sich anonym. In der Sendung haben wir die Aussagen von einer Schauspielerin nachsprechen lassen: "Es hat sich angefühlt, als würde mir Abfall in den Kopf gefüllt. Die ganze Zeit. Und ich fühlte mich, also na ja, enttäuscht. Enttäuscht von der ganzen Gesellschaft, weil ich das Gefühl hatte, so geht es also wirklich zu. So sind die Menschen also. Und das ist wirklich deprimierend. Als ich angefangen habe, sagte mir ein Kollege: ‚Stell dir einfach vor, dass du die Welt sauber machst, indem du all diese schlechten Dinge wegräumst. Du machst die Welt ein bisschen besser durch deine Arbeit.‘ Und dann habe ich versucht, so zu denken."

Die Müllabfuhr der Sozialen Medien

Etwa 2.000 Moderatoren beschäftigt Facebook in Deutschland. Sie kontrollieren auch afrikanische, südamerikanische und nahöstliche Seiten – im Schichtdienst und unter großem Zeitdruck. Das Grundgehalt ist niedrig. Deswegen lohnt sich der Job nur wegen der Bonuszahlungen. Prämien gibt es für große Mengen, wenig Fehler und für Leistungen über dem Team-Durchschnitt.

Userin surft durch ihr Facebook-Profil (Foto: SWR, SWR -)
Profilseite auf Facebook SWR -

"Manchmal arbeitest du acht Tage hintereinander. Manchmal morgens, manchmal nachmittags, manchmal nachts. Okay, dann hast du drei Tage am Stück frei, aber du bist so müde … So müde, dass du einfach nur noch deine Wäsche machen willst und einkaufen und dir was kochen und schlafen."

Die sogenannte "psychologische Betreuung"

Facebook und Arvato betonen, dass Mitarbeiterinnen wie Sara psychologisch betreut werden. Diese Betreuer sind Psychologen, aber auch Sozialarbeiter und Sozialpädagogen. Informationen über die Befristungen, den Verdienst oder das Prämiensystem geben die Firmen allerdings nicht heraus.

"Mein Schlafrhythmus war total aus dem Gleichgewicht. Ich habe Schlaftabletten genommen. Da dachte ich, ich nehme die Hilfe an und gehe zu der Psychologin. Als erstes sagte mir die Frau, dass sie gar keine Psychologin ist. Sondern eine Sozialarbeiterin. Eine Kollegin von mir ging zu dieser Frau, weil sie Alpträume hatte. Sie sagte: ‚Mach dir eine Liste mit allen Sachen, die dir Sorgen machen. Und dann verbrenn das Papier. Das wird dir helfen.‘ Wollt ihr mich veralbern? Ich sehe Leute, die sich umbringen, die sich selbst verletzen, die andere Menschen quälen. Da habe ich mich dann entschieden, mir selbst einen Psychologen zu suchen, und dafür bezahlt."

Unter den Folgen dieser Arbeit leide sie noch heute, sagt Sara. 

"Ich habe Alpträume, die ganze Zeit. Dass Leute umgebracht werden, richtig... schlimme Dinge. Ich bin nicht mehr dieselbe. Es war eine wirklich schwierige Zeit für mich. Ich habe ein Video gesehen, in dem ein Kind vergewaltigt wird, und ich bin immer noch... immer noch nicht darüber weggekommen. Ich glaube, diese Arbeit hat mein eigenes Sexualleben kaputt gemacht. Ich habe mit meinem damaligen Freund darüber reden wollen, und er hat gesagt: ‚Ich kann mir das nicht anhören‘."

Entlastung durch Künstliche Intelligenz?

Im November letzten Jahres erklärte Facebook stolz: Mittlerweile würden 52 Prozent der Beiträge, die später als Hassrede gelöscht werden, automatisch erkannt. Die entsprechenden Programme werden mit den Daten trainiert, die bei der menschlichen Inhaltskontrolle anfallen. Die Künstliche Intelligenz soll die Entscheidungen der Beschäftigten nachahmen – berichtet Sara. 

"Der Algorithmus lernt von den Angestellten. Aber er lernt nicht wirklich gut. Es war dann so, dass die einfachen Fälle von den Maschinen aussortiert wurden und wir uns um den Rest gekümmert haben. Und du musst wirklich schnell entscheiden. Die Vorgabe ist 2.000, ich habe vielleicht 4.000 am Tag erledigt."

Gesellschaft Cyberstalking – Was tun gegen digitale Gewalt?

Häufig sind Frauen die Opfer von Cyberstalking: Sie werden digital beleidigt und bedroht. Obwohl der Stalking-Paragraf verschärft wurde, ist es schwer, die Täter zu belangen.  mehr...

SWR2 Wissen SWR2

Kriminalität Telegram – Der Messengerdienst als rechtsfreier Raum

Telegram ist beliebt bei Aktivisten, bei Kriminellen und Extremisten sowie bei einer halben Milliarde ganz normaler User weltweit. Alle vertrauen der App. Zu Recht?  mehr...

SWR2 Wissen SWR2

Onlinesucht Süchtig im Netz – Kampf gegen die "Droge Facebook"

Smartphone-abhängige Programmierer im Silicon Valley erfinden technische Tricks, um die eigene Internetsucht zu überlisten.  mehr...

SWR2 Wissen SWR2

Digitalisierung: aktuelle Beiträge

Sicherheit Zielscheibe GPS – Angriffe auf Satellitennavigation

GPS-Signale lassen sich fälschen, wie Tausende von „Spoofing“-Attacken in den letzten Jahren beweisen. Hauptakteur: Russland. Auch im Weltraum sind GPS-Satelliten ein mögliches Angriffsziel. Von Michael Hänel. (SWR 2021)  mehr...

SWR2 Wissen SWR2

Internet Das Geschäft mit Tiefseekabeln – Wer kontrolliert den Datenverkehr?

Die Datenmengen, die rund um den Globus jagen, werden über wenige dünne Kabel transportiert, die am Meeresgrund verlaufen. Wem die Kabel gehören, der hat Kontrolle und Macht. Von Jan Karon und Tassilo Hummel. (SWR 2021/2022) | Mehr zur Sendung: http://swr.li/tiefseekabel | Bei Fragen und Anregungen schreibt uns: wissen@swr2.de | Folgt uns auf Twitter: @swr2wissen  mehr...

SWR2 Wissen SWR2

Medizin Leopoldina: Fortbildung von Ärzten muss sich verbessern

Damit Patient*innen möglichst gut versorgt werden, ist es für Ärztinnen und Ärzte wichtig, in ihrem Fachgebiet auf dem neuesten Stand zu bleiben. Doch bei der medizinischen Weiterbildung sieht die Wissenschafts-Akademie Leopoldina Verbesserungsbedarf.
Jochen Steiner im Gespräch mit Prof. Claudia Wiesemann, Mitglied der Leopoldina  mehr...

SWR2 Impuls SWR2

STAND
AUTOR/IN
Matthias Becker
ONLINEFASSUNG
Candy Sauer