Berlin taz | Pornografie, Gewalt, Videos aus Kriegsgebieten, in den Menschen tot auf der Straße liegen – manchmal kämen die Inhalte, die Sara Tegge täglich auf der Videoplattform TikTok moderiert, in ihren Träumen wieder. „Die Arbeit ist mental sehr belastend“, sagt Tegge. Doch dankbar ist ihr Arbeitgeber, das chinesische Unternehmen Bytedance nicht: Tegge und ihre rund 150 Kol­le­g:in­nen der Contentmoderations-Abteilung am Deutschen TikTok-Standort in Berlin sollen entlassen werden. Den Job soll in Zukunft eine KI übernehmen.

Am Donnerstag protestierten die Berliner TikTok-Beschäftigten mit einer Kundgebung gegen die angekündigten Entlassungen. Die Gewerkschaft Verdi fordert einen Sozialplan, höhere Abfindungen und länger Kündigungsfristen. Ex­per­t:in­nen fürchten zudem die Auswirkungen auf die Social-Media-Plattform: Ohne menschliche Arbeit drohten Gewalt, Fake News und rechtsextreme Inhalte auf TikTok überhand zu nehmen.

„Im März haben wir eine schlecht geschriebene E-Mail vom Management erhalten, dass die gesamte Trust-and-Safety-Abteilung entlassen werden soll“, berichtet Tegge. Formell ausgesprochen ist die Kündigung allerdings noch nicht. Ersetzt werden soll die für Content-Moderation verantwortliche Abteilung durch ein KI-Modell. Dabei haben die Beschäftigten in den vergangenen Jahren den KI-Algorithmus mit ihrer Arbeit selbst gefüttert. „Wir trainieren die Maschinen, bezahlt uns, was wir verdienen“, riefen die Beschäftigten bei der Kundgebung.

Verdi fordert TikTok auf, die Abfindung auf drei Jahresgehälter zu erhöhen und die Kündigungsfrist auf ein Jahr zu verlängern. Die sei in Anbetracht der herausfordernden Arbeit nötig. „Wir brauchen psychologische Unterstützung, um uns wieder im Jobmarkt zurechtzufinden“, sagt ein Beschäftigter der taz.

Verdi droht mit Streik

Laut Verdi lehnt das Unternehmen bislang alle Verhandlungen ab. Auf eine taz-Anfrage reagierte der Konzern bis Reaktionsschluss nicht. „Alle Optionen liegen auf dem Tisch, inklusive Streik“, sagt Verdi-Aktivist Daniel Gutiérrez.

Bereits im Oktober vergangenen Jahres kündigte TikTok an, weltweit Hunderte Stellen in der Content-Moderation abbauen zu wollen. Kri­ti­ke­r:in­nen sind skeptisch, dass ein Algorithmus dasselbe leisten kann wie Menschen. „Die KI macht ständig Fehler und es wird keine Menschen geben, diese zu korrigieren“, sagt Oliver March von der NGO Algorithmwatch.

Zu erwarten sei, dass mehr Be­nut­ze­r:in­nen aus nicht nachvollziehbaren Gründen gesperrt und mehr problematische Inhalte gar nicht moderiert werden.

Viele Fälle, die Moderation erforderten, seien stark abhängig vom gesellschaftlichen Kontext. Beispielsweise pushten bei den rumänischen Präsidentschaftswahlen Zehntausende Fake-Accounts einen rechtsextremen Kandidaten. „Solche Entscheidungen sind oft viel zu kompliziert für KI“, sagt Marsh.

Verstoß gegen EU-Recht?

Unklar ist, ob Tiktok mit dem Schritt nicht gegen EU-Recht verstößt. Laut dem Digitale-Dienste-Gesetz, dem Digital Services Act (DSA), müssen Social-Media-Plattformen transparente Content-Moderation in lokaler Sprache durchführen.

Auch mit der Datenschutz-Grundverordnung scheint es TikTok nicht so genau zu nehmen. Der digital politische Verein Nyob reichte ebenfalls am Donnerstag Beschwerde gegen das chinesische Unternehmen ein. Entgegen den Vorgaben des Gesetzes sei es unmöglich, Auskunft über die von TikTok gesammelten Daten vom Unternehmen zu bekommen, so Nyob.