Kurs VI Modul 1 - Hate Speech im Zusammenhang mit Desinformation verstehen

Definition von Hate Speech

Grundsätzlich bezeichnet Hate Speech Äußerungen und Inhalte im Internet, denen Einstellungen der gruppenbezogenen Menschenfeindlichkeit zugrunde liegen. Sie drücken sich meistens durch verbale Angriffe auf Personen oder Gruppen aufgrund bestimmter Attribute wie Hautfarbe, ethnischer Herkunft, Geschlecht, Sexualität, Religion, Alter oder Behinderung aus. Dabei kann die Zugehörigkeit zu einer Gruppe tatsächlich vorliegen oder unterstellt werden. 

„Hate Speech missachtet die Integrität und Würde von Personen, diffamiert sie und grenzt aus.” (1) Oftmals richtet sich Hate Speech gegen Menschen, die ohnehin von Diskriminierung betroffen sind. Darüber hinaus richtet sich Hate Speech auch gegen Personen, die zu bestimmten gesellschaftlichen Schichten oder Berufsgruppen gehören, oder auch an Personen, die sich gesellschaftlich engagieren bzw. für Betroffene gruppenbezogener Menschenfeindlichkeit einsetzen.

__________

(1) Vgl. Freiwillige Selbstkontrolle Multimedia-Diensteanbieter: Wissen von A - Z, Hate Speech, https://www.fsm.de/wissen/a-bis-z/hate-speech/ (letzter Zugriff: 10.03.2023)

Begriff Hate Speech oder Hassrede

Wieso benutzen wir den Begriff Hate Speech? Die Debatte ist vor allem durch die US-amerikanische Auseinandersetzung geprägt. Der englische Begriff hat sich im Deutschen etabliert und dient als Oberbegriff für das Phänomen der gruppenbezogenen Menschenfeindlichkeit und Volksverhetzung. Mittlerweile ist auch die deutsche Übersetzung Hassrede geläufig.(2)

__________

(2) Vgl. Wieso benutzen wir den Begriff Hate Speech? In: Amadeu Antonio Stiftung (Hrsg.) (o.A.): “Geh sterben!” Umgang mit Hate Speech und Kommentaren im Internet. Berlin, S. 8 Online: https://www.amadeu-antonio-stiftung.de/wp-content/uploads/2015/04/Geh_sterben_web.pdf

Kontext von Hate Speech

Hate Speech kann überall im Internet auftreten: in sozialen Netzwerken, in Kommentaren, bei Messengerdiensten, in Foren. Sie kann subtil sein oder sich durch Beschimpfungen und Drohungen ausdrücken. Hasserfüllte, aggressive und menschenfeindliche Auslassungen bestimmen den Ton. Eine zunehmende Polarisierung in der Gesellschaft spiegelt sich auch im Netz und in sozialen Netzwerken, das Phänomen Hate Speech nimmt zu – und damit die Einflussmöglichkeiten antidemokratischer Gruppierungen auf die öffentliche Meinungsbildung und den sozialen Umgang miteinander. Es gibt keine allgemeingültige Lösung zum Umgang mit Hate Speech. Je nach Kontext sind unterschiedliche Maßnahmen gefragt. Darüber hinaus kann auch die Menge der Beiträge eine Herausforderung für Plattformbetreiber, Community-Manager und Online-Redaktionen darstellen, denn nicht immer sind diese darauf vorbereitet und haben ausreichend Kapazitäten zu moderieren.

Unterschiedliche internationale Auffassung von Hate Speech

Generell gibt es keine universelle, international gültige Auffassung von Hate Speech. Der Begriff ist komplex und für seine Einordnung haben national verschiedene Faktoren Bedeutung. Neben unterschiedlichen juristischen Auffassungen sind vor allem auch ​​historische und kulturelle Kontexte wichtig. Einer der relevantesten Straftatbestände in Deutschland ist aufgrund der historischen Vergangenheit die Volksverhetzung, den es aber in anderen Ländern nicht gibt. Hate Speech muss also immer abhängig vom Bezugsrahmen betrachtet werden. Dazu gehört z. B. auch die Überlegung, wer welche Hassbotschaft für welches Publikum verbreitet. Abgesehen davon gibt es eine Vielzahl von Ausprägungen. Hate Speech kann ebenso rational wie emotional, direkt oder indirekt formuliert sein.

Achtung Verwechslungsgefahr! Hate Speech ist nicht Cybermobbing

Hate Speech und Cybermobbing sind nicht dasselbe, obwohl es einige Gemeinsamkeiten gibt. Bei diesen Formen digitaler Gewalt werden Menschen im Internet beleidigt, bedroht, bloßgestellt oder belästigt. Cybermobbing trifft jedoch meistens einzelne Personen, oft mit einem persönlichen Bezug, wie z. B. im Klassenchat. Im Gegensatz dazu trifft Beleidigung und Diskriminierung durch Hate Speech Menschen, weil sie einer bestimmten Gruppe zugeordnet werden. Einzelpersonen dienen also oft nur als Platzhalter*innen für die Gruppe. Es ist wichtig, beide Phänomene ernst zu nehmen und angemessen darauf zu reagieren, um die Sicherheit und das Wohlbefinden der Betroffenen zu gewährleisten.

In welchem Zusammenhang stehen Desinformation und Hate Speech?

Desinformation und Hate Speech werden genutzt, um bestimmte Themen und Botschaften zu setzen und zu verbreiten. Dabei sollen sie Meinungen beeinflussen und entsprechende Ziele realisieren. Diese Ziele können persönlich, politisch oder auch ideologisch motiviert sein. Die gezielte Einflussnahme auf den öffentlichen Diskurs kann dabei durch Meinungsäußerungen und unwahre Informationen im Zusammenspiel mit Abwertung und Ausgrenzung bestimmter Personen oder Personengruppen einhergehen. Dabei stehen Desinformation und Hate Speech in Wechselwirkung miteinander und können sich der jeweiligen Vorgehensweisen als Methode bedienen. Die Verbreitung von Desinformation kann zu mehr Hate Speech führen, Hate Speech-Narrative nutzen und verbreiten wiederum Desinformation. Bauen diese auf bereits vorhandenen Vorurteilen auf, können sie besonders wirkungsvoll sein.

Wie werden Desinformation und Hate Speech verbreitet?

Desinformation und Hate Speech sind keine neuen Phänomene, aber sie haben ein größeres Ausmaß angenommen. Ihre Verbreitung funktioniert insbesondere durch die veränderten digitalen Kommunikationsmöglichkeiten und den Öffentlichkeitswandel aufgrund der Partizipationsmöglichkeiten von sozialen Medien, Messengerdiensten und Online-Medien, wie z. B. Instagram, WhatsApp oder Games. Sie bieten die Mittel, selbst aktiv Themen auf die öffentliche Agenda zu setzen oder auch aktuelle gesellschaftliche Diskurse jenseits journalistischer Medienangebote zu identifizieren und darauf zu reagieren. Verschiedenste Akteur*innen in Politik, Medien und Gesellschaft können direkt angesprochen werden. Die Kommunikations- und Interaktionswege sind niedrigschwellig und Inhalte können schnell in eine globale Öffentlichkeit verbreitet werden, also viral gehen. Diese Möglichkeiten für demokratische Teilhabeprozesse werden für die Verbreitung von Hate Speech und Desinformation missbraucht.

Wie werden Desinformation und Hate Speech verbreitet?

Ökonomische Strukturen

Durch die ökonomischen Strukturen der sozialen Netzwerke bzw. Online-Angebote, die auf Sichtbarkeit für Inhalte und Aufmerksamkeit durch starke Interaktion (teilen, klicken, kommentieren etc.) beruhen, entsteht eine sich selbst verstärkende Rückkopplung: Mehr Sichtbarkeit führt zu mehr Interaktion. Mehr Interaktion vergrößert die Sichtbarkeit. Dabei sind Inhalte, die Emotionen wie Empörung, Wut oder Mitgefühl ansprechen, besonders erfolgreich. „Im Grunde führt jeder Inhalt, der emotionalisiert, zu Aufmerksamkeit, so die Grundregel.” (1)

__________

(1) Pörksen, Bernhard: Verschwimmende Wahrheiten. Über die Öffentlichkeit nach der Öffentlichkeit. In: R. Gross, M. Lyon & H. Welzer (Hrsg.) (2020): Von Luther zu Twitter. Medien und politische Öffentlichkeit. Berlin, S. 297–319.

Wie werden Desinformation und Hate Speech verbreitet?

Niedrigschwellige Beteiligungsmöglichkeiten

Bei der Verbreitung von Desinformation und Hate Speech wird mit diesen Mechanismen in allen digitalen Medienangeboten gearbeitet. Besonders niedrigschwellige Beteiligungsmöglichkeiten, wie Kommentarfunktionen, Diskussionsforen und Push-Nachrichten bieten die Möglichkeit für provokante, respektlose oder inhaltlich problematische Äußerungen. Leicht konsumierbare, unterhaltende Informationsangebote wie Memes, Zitatkacheln, Sharepics oder manipulierte Fotos sind schnell geteilt, wobei ihre diskriminierenden Inhalte nicht immer wahrgenommen bzw. verstanden werden.

Dabei können Personen attackiert bzw. deren Positionen in Frage gestellt werden, aber auch eigene Botschaften verbreitet werden, um so mehr oder weniger direkt Desinformation zu streuen.

Desinformation, Hate Speech und Meinungsfreiheit

Das Recht auf Meinungsfreiheit ist in Deutschland im Grundgesetz festgeschrieben. Dort, wo die Würde eines anderen Menschen verletzt wird, endet die Meinungsfreiheit. Es gibt also Äußerungen, die nicht von der Meinungsfreiheit abgedeckt sind. Sie werden durch gesetzliche Bestimmungen als Straftaten behandelt. Verboten sind z. B. Volksverhetzung, der Aufruf zu Straftaten, das Nutzen verbotener Symbole oder Beleidigungen.
Dabei ist es unerheblich, ob die Äußerungen im digitalen oder analogen Raum stattfinden. Aber geschickt formulierte Desinformation und Hate Speech bewegen sich oftmals am Rande legaler Meinungsäußerung und sind nur unter bestimmten Bedingungen strafrechtlich verfolgbar. Die Abwägung, wie eine Äußerung strafrechtlich einzuordnen ist bzw. ob sie unter den Schutz der Meinungsfreiheit fällt, ist sehr komplex. Dazu wird unter anderem zwischen Tatsachenbehauptungen und Meinungsäußerungen unterschieden.

Desinformation, Hate Speech und Meinungsfreiheit

Desinformation, Hate Speech und Meinungsfreiheit

Zur Einordnung einer Äußerung gehört neben der Kategorisierung, die Art des Inhalts, ob die Information wertend ist, ob sie eine Person, Personengruppe oder Sache betrifft und ob sie wissentlich verbreitet wurde. Jede Beurteilung erfolgt kontextabhängig und kann je nach Auslegung der Rechtslage auch unterschiedlich betrachtet werden. (1)

Hate Speech kann auch gegen Jugendschutzgesetze verstoßen. Wenn Beiträge z. B. verrohend oder sozial desorientierend wirken und dadurch die Entwicklung von Kindern und Jugendlichen beeinträchtigt oder gefährdet werden kann, dürfen sie diesen nicht zugänglich gemacht werden. (2)

__________

(1) Vgl. Wissenschaftliche Dienste, Deutscher Bundestag (2017): Fake-News Definition und Rechtslage. https://www.bundestag.de/resource/blob/502158/99feb7f3b7fd1721ab4ea631d8779247/wd-10-003-17-pdf-data.pdf (letzter Zugriff: 10.03.2023)

(2) Vgl. Freiwillige Selbstkontrolle Multimedia-Diensteanbieter: Wissen von A - Z, Hate Speech, https://www.fsm.de/wissen/a-bis-z/hate-speech/ (letzter Zugriff: 10.03.2023)

Desinformation, Hate Speech und Meinungsfreiheit

Lange bevor sich die Frage stellt, ob ein Beitrag gegen Gesetze verstößt, schon strafbar ist oder vielleicht noch nicht, lohnt es sich im Sinne einer konstruktiven und demokratischen Kommunikationskultur bei problematischen Äußerungen einzuhaken und Haltung zu zeigen. Zur Gestaltung und Weiterentwicklung einer pluralistischen, offenen Gesellschaft gehört auch eine Wertediskussion darüber, wie in der digitalisierten Gesellschaft miteinander kommuniziert werden soll und Meinungsfreiheit trotz Konflikten und unterschiedlichen Haltungen respektvoll gelebt werden kann. 

Insbesondere Jugendliche sollten ermutigt werden, sich am Diskurs zu beteiligen und die digitalen Räume positiv mitzugestalten. Zur Stärkung einer digitalen Zivilcourage lohnt es sich mit Schüler*innen über konkrete Handlungsoptionen im Alltag zu sprechen, z. B. :Wie gehe ich damit um, wenn ich Unrecht und Diskriminierung im Internet sehe? Dazu gehört es auch, ihnen ein Vorbild zu sein und sie darin zu bestärken, nachzufragen oder zu widersprechen und eine Auseinandersetzung nicht zu scheuen. Gleichzeitig sollten Schüler*innen darüber aufgeklärt werden, wie sie sich selbst schützen können, wenn sie sich in dieser Form online engagieren.

Zu den gesetzlichen Grundlagen und Handlungsoptionen, um mit Hate Speech umzugehen, erfahren Sie mehr in Modul 2.

Wer verbreitet Hate Speech und warum?

Es gibt sowohl Hater*innen, die im Rahmen organisierter Strukturen Hate Speech verbreiten als auch diejenigen, die nicht-organisiert also als Einzelpersonen oder lose Interessengemeinschaften agieren. Die Verbreitung von Hate Speech kann ideologisch, aber auch nicht ideologisch begründet sein. Im Wesentlichen lassen sich drei Grundmotivationen unterscheiden, die aber miteinander zusammenhängen können.

Klicken Sie auf die Plus-Zeichen im folgenden Bild, um die dahinter liegenden Informationen zu sehen.

Diese bzw. ähnliche Motive lassen sich auch bei der Verbreitung von Desinformation erkennen.
(siehe dazu: Medien in die Schule "Meinung im Netz gestalten" Modul 5 Desinformation online)

Vorurteile

Die Abwertung von Gruppen und die Abgrenzung dazu beginnen mit Vorurteilen. Vorurteile können aus vorschnellen Bewertungen entstehen, die zu Pauschalurteilen führen können. Einzelne Erfahrungen können verallgemeinert und auf Gruppen übertragen werden, aber auch ein Mangel an Erfahrung kann zur Vorurteilsbildung beitragen. Die gezielte Verbreitung von Vorurteilen kann zur Manipulation eingesetzt werden. Sie können zur Durchsetzung eigener Interessen dienen, Feindbilder schaffen und untermauern, Ausgrenzungsprozesse starten und damit einen Kreislauf weiterer Abwertung in Gang setzen.

Bei der Anfälligkeit für Vorurteile spielen verschiedene Faktoren eine Rolle. Dazu gehören u. a. unterschiedlichste Ängste, ein Mangel an Informationen, eine geringe Bereitschaft zum Perspektivwechsel und zur Empathie, aber auch ein geringes Selbstwertgefühl. Vorurteile können schon früh gelernt und durch den Anschluss an eine Gruppe gefestigt werden. Sie können historisch verwurzelt sein und in Gesellschaften über Generationen weitergegeben werden, aber auch aus aktuellen Anlässen entstehen. Je nachdem, welcher Nutzen aus dem Vorurteil gezogen werden kann, erschließt sich die angesprochene Gruppe. Grundsätzlich aber muss die Bereitschaft vorhanden sein, andere als ungleichwertig zu sehen, damit Vorurteile verfangen.

Vorurteile werden nicht immer offen geäußert, sondern eher, wenn klar ist, dass die jeweilige Gruppe, Umgebung oder Öffentlichkeit entsprechende Äußerungen bzw. Normen akzeptiert und nicht mit negativen Konsequenzen zu rechnen ist. Vergrößert sich die Gruppe und damit die Breite der Zustimmung in der Gesellschaft zu den jeweiligen Vorurteilen, können sie sich legitimieren. Vorurteile können dann Denkmuster, Sprache und daraus folgend Handlungen bzw. das gesamtgesellschaftliche Klima bestimmen.

Welche Formen von gruppenbezogener Menschenfeindlichkeit gibt es?

Gruppenbezogene Menschenfeindlichkeit kann unzählige Formen und Ausprägungen annehmen. Welche Gruppen von Diskriminierung betroffen sind, ist dabei auch im Wandel und in ständiger Diskussion. Einige Formen sind jedoch schon sehr alt und haben eine jahrhundertealte Geschichte. Hier finden Sie einen Überblick über wichtige Ausprägungen von gruppenbezogener Menschenfeindlichkeit:
__________
Amadeu Antonio Stiftung: Welche Formen Gruppenbezogener Menschenfeindlichkeit gibt es?, https://www.amadeu-antonio-stiftung.de/gruppenbezogene-menschenfeindlichkeit/ (letzter Zugriff: 10.03.2023)

Was sind Merkmale von Hate Speech?

Hate Speech kann in unterschiedlichen Erscheinungsformen auftreten und muss immer im jeweiligen Kontext gedeutet werden. Das kann es schwierig machen, sie sofort zu erkennen, da je nach Thematik Hintergrundwissen zu entsprechenden politischen und historischen Bezügen benötigt wird.
Einzelne Begrifflichkeiten können aus unterschiedlichen Perspektiven sozialer und gesellschaftlicher Position verschieden interpretiert und bewertet werden. Individuelle Beleidigungen können mit Hate Speech verknüpft sein. Hate Speech kann emotional und rational formuliert sein. Besonders für Kinder und Jugendliche ist dies eine Herausforderung, vor allem wenn die ideologische Botschaft jugendaffin und lustig aufgemacht ist.

Es gibt übergreifende Merkmale, die bei der Einordnung helfen: (1)

• Welche Worte werden wie eingesetzt?
• Wird verallgemeinert?
• Werden Stereotype und Gleichsetzungen benutzt?
• Werden Verschwörungserzählungen zur Argumentation gebraucht?
• Werden bestehende Diskriminierungen wiedergegeben?
• Werden gängige negative Konnotationen einzelner Begriffe selbstverständlich Gruppen zugeordnet?
• Wird zu konkreten Taten aufgerufen?

Hate Speech ist auch immer an aktuelle Entwicklungen geknüpft und nutzt neue sprachliche Muster bzw. Worte. Manche Formulierungen werden zur Abgrenzung genutzt oder haben Bedeutungen, die zunächst nur innerhalb bestimmter Gruppierungen bekannt sind. Andere Formulierungen werden umgedeutet. Der Sprachgebrauch von Hate Speech ist also immer im Wandel.
__________

(1) Vgl. Banaszczuk, Yasmina: Strategien und Typologisierung von Hate Groups. In: Amadeu Antonio Stiftung (Hrsg.) (o.A.): „Geh sterben!“ Umgang mit Hate Speech und Kommentaren im Internet. Berlin, S. 18.: www.amadeu-antonio-stiftung.de/w/files/pdfs/hatespeech.pdf

Was sind Muster von Hate Speech? (1)

Zu den Mustern von Hate Speech und Desinformation gehören sowohl verschiedene rhetorische Figuren als auch Narrative.

Beispiele sind: 

• Entmenschlichung und herabwürdigende Begriffe
• plakative Bildsprache
• sexistische oder rassistische Beleidigungen 
• Gleichsetzung oder Verallgemeinerungen 
• Bedienen von Stereotypen und Vorurteilen durch bestimmte Begriffe und Sprachmuster
• Wir/Die-Rhetorik 
• Tarnung als Ironie oder Humor

Darüber hinaus werden folgende Muster genutzt: 

• der Einsatz von uninformierten oder falschen Aussagen 
• Normalisierung von bestehenden Diskriminierungen
• Befürwortung, Androhung oder Aufruf zu Gewalttaten
• Schuldzuweisungen oder die Umkehrung von Opfern und Tätern 
• der Einsatz von Verschwörungserzählungen 

__________

1. Vgl. Landesanstalt für Medien NRW (lfm), klicksafe.de und Arbeitsgemeinschaft Kinder und Jugendschutz (AJS) Landesstelle NRW (Hrsg.) (2019): Muster von Hate-Speech, In: Hate Speech - Hass im Netz, S. 12

Perspektive Bildungsexpertin
Die Wirkung von Hate Speech im Zusammenhang mit Desinformation

4 Fragen an Charlotte Lohmann
firewall - Hass im Netz begegnen

Third-party content

Das Video wird von YouTube eingebettet abgespielt. Zum Aktivieren müssen Sie auf „Abspielen“ klicken. Wir weisen Sie darauf hin, dass nach der Aktivierung Daten an den jeweiligen Anbieter übermittelt werden. Es gilt die Datenschutzerklärung von Google.

Miniaturbild