Facebook und Co. versagen im Kampf gegen Extremismus und Hassrede. Das liegt auch daran, dass die Algorithmen, mithilfe derer die Social-Media-Betreiber ihre Seiten durchforsten, auf Basis westgermanischer Sprachen wie beispielsweise Englisch programmiert wurden. Je mehr sich die Struktur anderer Sprachen aber davon unterscheidet, desto hilfloser ist der Algorithmus.

Außerhalb westlicher Länder ist das Problem deswegen noch viel größer. Facebooks Warnsystem schlägt zum Beispiel dann Alarm, wenn eine »konkrete künftige Bedrohung« vorliegt. Aber was passiert, wenn eine Sprache gar kein Futur hat? So ist es etwa in Sri Lanka. Das dort gesprochene Sinhala kennt nur Vergangenheit und Nichtvergangenheit, berichtet der Forscher Yudhanjaya Wijeratne. Somit können die Systeme von Facebook drohende Gefahren in Sri Lanka nicht erkennen – und auch nicht davor warnen. Und das sei nur ein Beispiel von vielen.








Aktuelle Ausgabe







KATAPULT ist gemeinnützig und unabhängig. Wir finanzieren uns durch Spenden und Abonnements. Unterstützen Sie unsere Arbeit und abonnieren Sie das gedruckte Magazin für nur 19,90 Euro im Jahr.



KATAPULT abonnieren