Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- Yahoo kämpft gegen Hate Speech: „… sie erschießen …“
> Yahoo will Hasskommentare löschen, ohne dabei unverfängliche Posts zu
> erwischen. Noch hat die Technik aber Grenzen.
Bild: Ein Algorithmus soll's richten: durchs Netz skaten und erstmal den ganzen…
Berlin taz | Beim E-Mail-Postfach klappt es schon ganz gut: Eine Software
analysiert unter anderem Absender und Textmuster der eingegangenen Mails
und kommt zu dem Ergebnis: Spam. Oder eben kein Spam. Je nachdem, wie gut
das Programm trainiert ist, ist diese Analyse recht zuverlässig.
Was bei E-Mails Standard ist, könnte auch in den Kommentarspalten von
Onlinemedien, Portalen wie Facebook oder sozialen Medien zur Gewohnheit
werden. So hat kürzlich Yahoo einen Algorithmus entwickelt, der harmlose
Kommentare von Hasskommentaren trennen soll – und der über das reine
Filtern nach Schimpfwörtern hinausgeht.
Die Entwickler nutzen dabei das sogenannte Natural Language Processing,
eine Anwendung aus dem Bereich der künstlichen Intelligenz, die auch bei
Übersetzungen verwendet wird. Anders als bei den häufig eher stümperhaften
Übersetzungsvorschlägen lernte der Yahoo-Algorithmus schnell.
Mit detaillierten Vorgaben aus mehreren Bereichen – von der Anzahl der
Wörter in Großbuchstaben über die Interpunktion bis hin zu einer Liste an
Hasswörtern und einer komplexen Methode, um Bedeutungen mehrdimensional zu
erfassen, erkannte der Algorithmus etwa 90 Prozent der auch von
menschlichen, geschulten Lesern als problematisch identifizierten
Kommentare.
„Da die Menge von nutzergenerierten Inhalten schnell wächst, ist es
notwendig, genaue und automatisierte Methoden zu nutzen“, schreiben die
Autoren in ihrer Veröffentlichung. Würden Hassreden einfach ignoriert,
führe das zu einer Verwahrlosung der Community.
Allerdings stieß die Automatisierung vor allem an einem Punkt an ihre
Grenzen: Bei der Beurteilung von Äußerungen in ihrem Kontext. Eines der
Beispiele, das die Autoren anführen, ist der Satz „oder man könnte . . .
wisst ihr . . . sie erschießen“. Hier müssten wohl auch Moderatoren erst
die vorhergehenden Äußerungen lesen, um beispielsweise zu wissen, ob sich
der Kommentar überhaupt auf Menschen bezieht. Eine der Aufgaben für die
Zukunft sei es daher, so die Autoren, die vorhergehenden Äußerungen
mitzuanalysieren und so den Kontext für die Beurteilung nutzen zu können.
Forderung nach Transparenz
Sami David Rauscher, Projektkoordinator des „No Hate Speech Movement“,
begrüßt die Entwicklung grundsätzlich. „Wir finden schon, dass die
Unternehmen da selbst in der Verantwortung stehen“, sagt er. Er bezweifelt
allerdings, dass Algorithmen dazu in der Lage sind, zwischen den Zeilen zu
lesen – so würden sicher einige löschenswerte Kommentare nicht erkannt
werden. Rauscher fordert von den Unternehmen auch Transparenz über die
Löschungsmodalitäten ein. Die ist häufig nicht gegeben. So erklärt etwa
Facebook nicht, wann genau eine Äußerung als Hatespeech eingestuft wird.
Unternehmenschef Mark Zuckerberg selbst drückte sich Anfang des Jahres bei
einer Diskussion in Berlin um eine erschöpfende Antwort.
Im Einsatz befindet sich der Yahoo-Algorithmus dem Konzern zufolge
allerdings noch nicht – er sei noch im Entwicklungsstadium. Ob auch
überlegt wird, einen Algorithmus für andere Sprachräume als den englischen
zu entwickeln, ließ das Unternehmen auf Anfrage offen.
Derzeit gibt es mehrere Unternehmen, die automatische Filterung bereits
einsetzen oder planen: So begann Twitter im vergangenen Jahr, verifizierten
Nutzern einen Filter anzubieten, der unter anderem Bedrohungen,
Schimpfwörter und Spam aus der Timeline heraushalten soll. Apple erhielt im
März ein Patent auf eine Entwicklung, die Schimpfwörter aus Audiostreams
herausfiltern kann. Bei YouTube hat sich das Filtern mittels Algorithmus
bereits etabliert – allerdings in einem anderen Bereich. Das System
„Content ID“ erkennt Videos, die urheberrechtlich geschützte Inhalte
enthalten.
10 Aug 2016
## AUTOREN
Svenja Bergt
## TAGS
Hate Speech
Algorithmus
Yahoo
Youtube
Hate Speech
Hasskriminalität
Hasskommentare
Social Media
Schwerpunkt Türkei
Hasskommentare
Hate Speech
Hate Speech
Schwerpunkt Meta
Yahoo
Hate Speech
Hate Speech
## ARTIKEL ZUM THEMA
Verschwörungstheorien auf YouTube: Mit jedem Klick weiter nach rechts
Vielen Forschern gilt YouTube als Radikalisierer, der Nutzer auf kurzen
Wegen zu Rassismus und Verschwörungstheorien lenkt. Stimmt das?
Hasspost-Prozess in Saarbrücken: taz gewinnt gegen „8x9 mm“-Mann
Ein Mann, der von Gewalt gegen „Genderlesben“ spricht, darf weiter
namentlich genannt werden. Er hatte gegen die Berichterstattung geklagt.
Hasskommentare im Internet: Richterbund kritisiert Gesetzentwurf
Die Vorschläge von Justizminister Heiko Maas gehen den Richtern nicht weit
genug. Sie fordern verbindliche Auskunftsstellen und eine Herausgabe von
Täternamen.
Raúl Krauthausen über Hasskommentare: „Die meisten sind junge Männer“
Als Aktivist wird Raúl Krauthausen im Internet mitunter übel beschimpft. Er
übt sich in Seelenhygiene und sagt: Der Hass schwappt auch in die reale
Welt.
Arbeitsalltag von Social-Media-Teams: Keine Zeit für den Fascho-Check
Eine Limonadenfirma kriegt Stress, weil sie aus Versehen das Selfie einer
Rechtsextremen freundlich kommentiert hat. Zu Recht? Oder zu hart?
Kolumne Liebeserklärung: Gegen die Trolle
Zensur ist in der Türkei Alltag. Dass die Regierung gegen Hate Speech
vorgeht, die die Opfer des Reina-Anschlags verspottete, ist bemerkenswert.
Debatte Netz-Hetze: Ein §130-Button, aber schnell!
Facebook ist zum Tummelplatz für Rassisten geworden. Das Unternehmen muss
gezwungen werden, Hasskommentare zu melden.
Ermittlungen gegen Zuckerberg: Beihilfe zur Volksverhetzung
Schon lange wird Facebook dafür kritisiert, nicht genug gegen
Hasskommentare zu tun. Bald könnten deshalb Ermittlungen gegen den Konzern
eingeleitet werden.
Hamburgs Justizsenator über Hate Speech: „Facebook soll entschädigen“
Till Steffen (Grüne) fordert finanziellen Druck auf Online-Netzwerke, damit
diese rechtswidrige Hassbotschaften schneller löschen.
Berufung von rechstradikalem Hetzer: Haftstrafe bestätigt
Er hetzte im Netz gegen Flüchtlinge, Ausländer und Juden. In Unterfranken
verurteilt ein Berufungsgericht einen Facebook-Nutzer zu einer
Freiheitsstrafe.
Verizon kauft Suchmaschine: Yahoo – das Orakel schweigt
Machtlos gegen Facebook und Google: Der Webpionier verliert die
Eigenständigkeit und wird vom US-Telefonkonzern Verizon geschluckt.
Hate Speech in sozialen Netzwerken: Auffangbecken für Facebook-Hetzer
Facebook geht mittlerweile strenger mit rechten Inhalten um. Deshalb ist
das russische soziale Netzwerk VK für Hetzer eine Ausweichmöglichkeit.
Hasskommentare im Internet: Ein Netzwerk gegen Trolle
Die deutsche Ausgabe der Kampagne „No Hate Speech Movement“ ist gestartet.
Sie wendet sich gegen menschenfeindliche Postings im Internet.
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.