Twitter: Sorge über Entlassungen von Content-Moderatoren

Bis vor kurzem war Melissa Ingles als Leiharbeiterin bei Twitter dafür verantwortlich, dass über die Social-Media-Plattform keine falschen oder gefährliche Nachrichten verbreitet werden. Als Teil von Twitters "Integritäts-" (Engl.: "Civic Integrity") Team durchkämmte die Datenwissenschaftlerin die Plattform nach politischen Falschinformationen zu Wahlen wie in Brasilien oder den USA. Und sie programmierte Algorithmen, die ähnliche Inhalte künftig automatisch erkennen können sollten. "Unser Ziel war eine gesunde Plattform", sagt Ingle der DW.

Am 12. November erhielt sie auf ihrem Handy eine Benachrichtigung, dass sie keinen Zugriff mehr auf ihre Arbeits-E-Mails hätte. Als sie bemerkte, dass sie auch aus ihrem Slack-Konto ausgeloggt worden war, wurde Ingle klar, dass sie gefeuert worden war. Die 48-Jährige war nicht allein: Zeitgleich wurden die Verträge tausender anderer Leiharbeiter von Twitter beendet. Zuvor hatte das US-Unternehmen schon Anfang des Monats rund 3700 festangestellte Mitarbeitende entlassen.

"Die Kürzungen wirken nicht wirklich zielgerichtet", so Ingle. "Es scheint so, als würden einfach jede Menge Leute entlassen."

Elon Musk baut Plattform im Alleingang um

Ihre Schilderungen geben Zeugnis von einer Entwicklung, die Fachleute für Plattformregulierung besorgt: Seit Elon Musk Twitter im Oktober für 44 Milliarden Dollar (42 Milliarden Euro) gekauft hat, baut der reichste Mann der Welt die Plattform radikal um - und hat im Rahmen dieser Umwälzung massenhaft Mitarbeitende entlassen, deren Job es gewesen war, Twitter von toxischen Inhalten wie Fake News frei zu halten. Wie viele Menschen mittlerweile an der Moderation von Inhalten auf Twitter arbeiten, ist unklar. Das Unternehmen, dessen Kommunikationsteam ebenfalls dezimiert wurde, hat auf eine Bitte der DW um Stellungnahme nicht reagiert.

Doch Ingle sagte, sie erwarte aufgrund der jüngsten Entlassungen einen "Anstieg von Missbrauch" auf der Plattform. Und sie warnte, dass die automatisierten Moderationssysteme der Plattform ohne fehlende menschliche Kontrolle zunehmend unzuverlässig werden würden. "Twitter wird als Ort weniger angenehm werden", ist sie überzeugt. 

Die wichtige Rolle von Menschen

Um Inhalte auf ihren Plattformen zu kontrollieren, nutzen Firmen wie Twitter komplexe Mechanismen, die teilweise auf einer Zusammenarbeit zwischen Mensch und Maschine beruhen. Wann immer Nutzende neue Inhalte posten, werden diese automatisch von Software gescannt. Finden die Programme Hinweise darauf, dass ein Beitrag illegal oder anderweitig toxisch sein könnte, wird er zur Überprüfung an menschliche Moderatoren weitergeleitet. Diese entscheiden, ob der Beitrag den Community-Regeln der Plattform und lokalen Gesetzen entspricht oder entfernt werden muss.

Allerdings ist es teuer, solche menschlichen Moderatoren zu beschäftigen - und Ingle sagt, dass Twitter-Mitarbeitende nach der milliardenschweren Übernahme durch Musk Ende Oktober angewiesen wurden, ihre Rolle immer weiter zu minimieren: "Die einzige Anweisung, die wir bekommen haben, war Abläufe zu automatisieren.”

Dieses Vorhaben unterschätze jedoch, wie wichtig Menschen für die Sicherheit einer Plattform seien, warnte sie. Nicht nur seien Content-Moderatoren oft nötig, um subtile sprachliche Feinheiten wie Sarkasmus zu erkennen. Gleichzeitig spielten sie eine Schlüsselfunktion darin, automatisierte Prüfmechanismen stetig zu testen und dafür zu sorgen, dass die Algorithmen auf dem neuesten Stand bleiben. "Jetzt, da nicht mehr genügend Leute da sind um das Skript, wonach wir suchen, zu aktualisieren, befürchte ich, dass die bestehenden Filter immer durchlässiger werden", so Ingle.

"Entwicklung in die falsche Richtung"

Ingle betont, sie sei begeisterte Twitter-Nutzerin gewesen, und das lange bevor sie vor gut einem Jahr begann, für das Unternehmen zu arbeiten. "Aber jetzt bin ich sehr besorgt", warnt sie. In den zwei Wochen zwischen der Übernahme durch Musk und ihrer Entlassung habe sie gesehen, wie Nutzende der Plattform zunehmend "ausrasteten und Leute angreifen, weil sie das Gefühl haben, dass das auf der neuen Seite erlaubt sein würde."

Erste Forschungsergebnisse stützen ihre Beobachtung: So diagnostiziert beispielsweise eine Studie der Tufts University in den USA, dass "nach der Übernahme durch Musk sich die Qualität von Unterhaltungen verschlechtert hat." Das seien "erste Anzeichen dafür, dass die Plattform sich in die falsche Richtung entwickelt", stellen die Wissenschaftler fest.

Vor diesem Hintergrund sei die Entlassung von Content-Moderatoren "in mehrfacher Hinsicht besorgniserregend", sagt auch Eliska Pirkova von der Brüsseler Nichtregierungsorganisation Access Now.

Sie warnt, dass die Plattform mit Hass und Hetze geflutet werden könnte, sollte Musk beschließen, gesperrte Konten wie das von Ex-US-Präsident Donald Trump wieder freizugeben. Ob und wann das geschehen wird, ist unklar - ebenso wie der Zeitpunkt, zu dem ein von Musk Ende Oktober angekündigter, neuer "Rat für Inhalte-Moderation" ins Leben gerufen wird.

Gleichzeitig erwartet Pirkova, dass mehr Hass und Hetze auf Twitter vor allem Randgruppen und Minderheiten treffen werden. Julian Jaursch vom Berliner Think Tank "Stiftung Neue Verantwortung" teilt ihre Einschätzung: "Wenn Inhalte weniger moderiert werden, trifft das besonders vulnerable Gruppen, die in ihrer täglichen Twitter-Nutzung sowieso schon mit Diskriminierung und Hass auf der Plattform zu kämpfen haben.”

Generell, so Jaursch, verdeutlichten die jüngsten Entwicklungen bei Twitter, wie problematisch es sei, dass eine einzelne Person die Entscheidungsgewalt über eines der wichtigsten sozialen Netzwerke der Welt hat: "Der Fall Twitter zeigt, dass es nicht im öffentlichen Interesse ist, wenn eine Person allein einen so wichtigen digitalen Informationsraum kontrolliert.”