Stop Hate Speech: Online Hassrede algorithmisch erkennen und den öffentlichen Diskurs stärken

Das Projekt Stop Hate Speech wurde 2018 von alliance F, der Dachorganisation Schweizer Frauenorganisationen, ins Leben gerufen (Phase 1). Es kombiniert zivilgesellschaftliches Engagement mit technischen Lösungsansätzen, um effektive Mittel gegen Online-Hassrede zu entwickeln und zur Anwendung zu bringen. Seit 2020 unterstützen das Immigration Policy Lab der ETH Zürich sowie das Digital Democracy Lab der Universität Zürich das Projekt technologisch und wissenschaftlich (Phase 2). Entstanden ist dabei der derzeit genaueste Algorithmus im deutschsprachigen Raum für das automatisierte Erkennen von Hassrede im Internet. Damit ist eine fundierte, quantitative Abschätzung des Problemausmasses möglich, welche die Grundlage schafft, um skalierbare Gegenmassnahmen zu entwickeln. Erste Feldexperimente zeigen positive Effekte von bestimmten Formen sogenannter „Gegenrede“ - das gezielte Antworten auf Hassrede im Internet durch Personen der Zivilgesellschaft. In der nun beginnenden Phase 3 werden diese Ansätze einerseits weiter vertieft, andererseits wird sich das Projekt noch ganzheitlicher mit der Stärkung des öffentlichen Diskurses im Internet befassen: zusätzlich zur Bekämpfung von Hassrede, sollen auch Ansätze entwickelt werden, mit denen besonders wertvolle Online-Beiträge gefördert werden können.

• Phase 1 (Pilot; Q2 2018 - Q4 2020): abgeschlossen
• Phase 2: (Stop Hate Speech; Q4 2020 - Q4 2022; finanziert durch innosuisse): abgeschlossen
• Phase 3: (Improving Public Discourse: Q4 2022 - Q4 2024): initiiert

• alliance F
• Immigration Policy Lab, ETH Zürich
• Digital Democracy Lab, Universität Zürich