Gruppenbild zur "Task Force gegen Hassinhalte".
BMJV

Task Force gegen Hassinhalte im Internet: Es gibt noch viel zu tun

Im Oktober rief der Bundesjustizminister Heiko Maas eine "Task Force gegen Hassinhalte im Internet" zusammen. Neben Vertreter_innen des Ministeriums trafen sich Internetunternehmen, Beschwerdestellen und NGOs (darunter die Amadeu Antonio Stiftung und Netz-gegen-Nazis.de), um den Umgang mit rassistischer, antisemitischer und demokratiefeindlicher Hassrede im Internet zu erörtern. Das heute veröffentlichte Ergebnispapier ist nur ein Anfang der Bearbeitung einer großen Aufgabe.

Von Simone Rafael

Denn seit dem ersten Treffen der Task Force war klar: Wenn es um Hate Speech geht, haben verschiedene Akteure ein sehr unterschiedliches Verständnis vom Arbeits- und Handlungsfeld. In der "Task Force" des Bundesjustizministeriums ging es - bei diesem Initiator logisch - vor allem um rechtliche Aspekte: Wird deutsches Recht angewandt? Sind die Rechtsabteilungen von Facebook und Google gut genug informiert und aufgestellt, um strafrechtlich relevante Inhalte zu erkennen? Gibt es genug und genügend geschulte Mitarbeiter_innen, um strafrechtlich relevante Inhalte zu entfernen? Entsprechend diskutierten Juristen des Justizministeriums mit Juristen von Google und Policy-Expertinnen von Facebook und Twitter, aber auch mit Juristen der Freiwilligen Selbstkontrolle Multimedia-Diensteanbiter (fsm) oder der Beschwerdestelle des eco-Verbandes der Internetwirtschaft e.V. und den Jugenschutz-Experten von Jugendschutz.net. Das Ergebnis, heute im Ergebnispapier des Bundesjustizministeriums festgehalten (auch s.u.), konzentriert sich entsprechend stark auf die Löschung von strafrechtlich relevanten Inhalten. Nun, das ist wichtig. 

Und das ist bei großen Anbietern wie Google / Youtube und Facebook auch bereits Usus. Diese Unternehmen sollten nun eine 24-Stunden-Zeitspanne zusichern, in der diese Inhalte nach Kenntnisnahme entfernt werden sollen. Auf der Pressekonferenz betonte Arndt Haller, Googles Chefjurist in Deutschland, dass die meisten deutlich erkennbaren strafrechtlich relevanten Inhalte weitaus schneller von Google und Youtube verschwinden. Des weiteren enthält das Ergebnispapier Vereinbarungen, Hinweise von Beschwerdestellen wie den an der Task Force beteiligten fsm, der eco-Beschwerdestelle und von Jugendschutz.net schneller und gezielter zu bearbeiten. Außerdem sollten Mitarbeiter geschult werden. Auch das ist gut.

Gut, aber nicht genug

Allerdings wirft das Problem des Umgangs mit der Hassrede im Netz wesentlich weitergehende Fragen auf. Oft genug ist etwa Volksverhetzung gar nicht so schnell und leicht zu erkennen. Und selbst wenn sie erkannt wird, kann die Verantwortung für den Umgang mit Hassrede nicht nur auf die Internetunternehmen gelegt werden. Bei Netz-gegen-Nazis.de melden sich mindestens ebenso viele frustrierte Nutzer_innen, die strafbare Inhalte bei der Polizei anzeigen - und wenig Erfolge in der Strafverfolgung erleben dürfen. Lange Zeit schien das Internet praktisch eine Art rechtsfreier Raum zu sein, in dem Rassist_innen und Rechtsextreme nur selten Strafen zu fürchten hatten. Es hat der Gesprächskultur im Internet nicht gut getan. Auch deshalb stehen hier so viele Hassinhalte, die Menschen in der nicht-digitalen Öffentlichkeit schon aus Angst vor Repressalien so nicht äußern würden. Das Bundesjustizministerium will dieses Thema nun zumindest in die Justizministerkonferenz einbringen - denn die Umsetzung etwa von Schwerpunkt-Staatsanwaltschaften für Hasskriminalität im Internet wären Ländersache.

Und andererseits ist ein Großteil der Hassrede in Sozialen Netzwerken zwar verstörend für den gesellschaftlichen Frieden in Deutschland, aber von der Meinungsfreiheit gedeckt. Das heißt: Es gibt weit mehr zu tun, als sich nur auf die strafrechtlich relevanten Inhalte zu konzentrieren. Wie kann die "Counter Speech", die Gegenrede einer demokratischen digitalen Zivilgesellschaft, gestärkt, ermuntert, professionalisiert werden? Denn die ist die jeden Tag relevante Antwort in den Sozialen Netzwerken, wenn es um die vielen rassistischen, antisemitischen, flüchtlingsfeindlichen Beiträge geht, die legal, aber nicht der Menschenwürde und den Menschenrechten entsprechend sind. Dieses Thema brachten vor allem die NGOs, neben Netz-gegen-Nazis.de der Amadeu Antonio Stiftung waren dies noch "Gesicht zeigen"  und klicksafe.de, ein. Was muss im Bildungsbereich geschehen, um Nutzer_innen medienkompetent, achtsam und respektvoll zu machen? Wie können die Internetunternehmen sich positionieren, so dass sie die demokratischen Nutzer_innen zu Aktivität ermutigen? Tut die Politik genug, um die demokratische Teilhabe von Minderheiten zu gewährleisten, die digitale Zivilgesellschaft zu stärken? Sind diese Fragen vor allem für das Bundesjustizministerium interessant - oder hätten da nicht auch das Bundesfamilienministerium, das die Demokratiearbeit gegen Rechtsextremismus fördert, oder das Bundesinnenministerium Interesse an der Zusammenarbeit?

Es ist insofern ermutigend, dass alle Beteiligten das jetzt veröffentlichte Ergebnispapier nur als Zwischenstand sehen. Die Task Force soll im nächsten Jahr fortgesetzt werden, um die Gespräche über gemeinsame Handlungsmöglichkeiten aller Beteiligten weiterführen zu können. Gespräche sind gut, denn schon diese ersten Gespräche zeigten, dass es inspierierend und erhellend sein kann, verschiedene Sichtweisen auf ein Thema wahr zu nehmen und daraus neue Ideen zu entwickeln, wie gesellschaftliche Verantwortung für die einzelenen Akteure aussehen kann.

 


Pressemitteilung der Amadeu Antonio Stiftung und von Netz-gegen-Nazis.de zur Task Force:

Arbeit gegen Hassrede in Sozialen Netzwerken: Strafbare Inhalte sind nur die Spitze des Eisbergs

Zu den Ergebnissen der Task Force gegen Hassrede des Bundesjustizministeriums

Der digitale Raum ist wichtig für unsere Demokratie, und die Politik muss deshalb verstehen, dass auch sie Verantwortung trägt, diesen Raum zu gestalten. Ein Schritt dazu ist die „Task Force gegen Hassrede im Internet“, die das Bundesjustizministerium  initiiert hatte und in der Vertreterinnen und Vertreter von Internetunternehmen, Beschwerdestellen und Nichtregierungsorganisationen (NGOs), darunter die Amadeu Antonio Stiftung mit Netz-gegen-Nazis.de, saßen.

Die heute verkündeten Ergebnisse konzentrieren sich auf Maßnahmen, die Internetunternehmen zur Löschung strafrechtlich relevanter Inhalte unternehmen sollen – was diese bereits größtenteils tun. Weniger allerdings ist im Ergebnispapier davon die Rede, dass bei der Bearbeitung von Hate Speech in Internet nur der geringste Teil des demokratiefeindlichen Hasses strafrechtliche Relevanz besitzt. Deshalb bedarf es vieler Akteure, die der Verrohung und Gewalt, dem Rassismus und Antisemitismus entgegen treten: Einer aktiven digitalen Zivilgesellschaft ebenso wie Unternehmen, die gesellschaftliche Verantwortung übernehmen, aber auch einer aktiven und spürbaren Strafverfolgung durch Justizbehörden.

„Die Task Force gegen Hassrede war ein guter Start, um viele Handelnde an einen Tisch zu bringen. Im Ergebnispapier liest es sich allerdings, als könnten Facebook und Google das Problem gesellschaftlicher Hassrede allein durch Löschungen lösen. Dabei waren sich alle Beteiligten einig, dass Counter Speech, also demokratische Gegenrede, ein ebenfalls sehr wirkungsvolles Instrument darstellt. Wie allerdings eine digitale Zivilgesellschaft darin ganz praktisch und auch finanziell unterstützt werden kann, diese Maßnahmen professionell und passgenau umzusetzen, blieb unbeantwortet“, sagt Anetta Kahane, Vorsitzende der Amadeu Antonio Stiftung. „Wir freuen uns deshalb, dass das Justizministerium zugesichert hat, an diesem Thema weiterarbeiten zu wollen. Denn bei rassistischer, demokratiefeindlicher Hassrede müssen alle gesellschaftlichen Akteure partnerschaftlich zusammen arbeiten, um gute Ergebnisse zu erzielen.“

„Dass Google und Facebook gesellschaftliche Verantwortung übernehmen, indem sie digitale Zivilgesellschaft unterstützen, die Kommunikation mit ihren demokratischen Nutzern und Nutzerinnen verbessern und Hassrede wirksamer entgegentreten wollen, ist ein wichtiger Schritt hin zu einer Netzkultur von Achtung und Respekt, die konstruktive demokratische Diskurse ermöglicht“, sagt Simone Rafael, Chefredakteurin von Netz-gegen-Nazis.de, „doch auch die Politik und die  Strafverfolgungsbehörden müssen das Internet als Handlungsraum ernst nehmen und  Volksverhetzung und Bedrohung dort schnell und in allen angezeigten Fällen ahnden – denn der Eindruck eines ‚rechtsfreien Raums‘, der gerade bei rechtspopulistischen und rassistischen Nutzern und Nutzerinnen entstanden ist, trägt entscheidend zur wachsenden Verbreitung von Hassrede bei.“

 


Das Ergebnispapier: Gemeinsam gegen Hassbotschaften

Von der Task Force „Umgang mit rechtswidrigen Hassbotschaften im Internet“ vorgeschlagene Wege zur Bekämpfung von Hassinhalten im Netz

In den vergangenen Monaten war anhand zahlreicher Vorkommnisse eine zunehmende Verrohung der öffentlichen Debatte hin zu fremdenfeindlichen und rassistischen Hassbotschaften zu beobachten. Die Verbreitung von Hassbotschaften über das Internet hat Bundesminister Maas veranlasst, mit Facebook im September die Bildung einer Task Force von Internetanbietern und zivilgesellschaftlichen Organisationen zu vereinbaren. Auftrag war es, unter Leitung des Bundesministeriums der Justiz und für Verbraucherschutz gemeinsam Vorschläge für den nachhaltigen und effektiven Umgang mit Hassbotschaften im Internet und den Ausbau bestehender Kooperationen zu erarbeiten. Der Einladung zur Mitwirkung an der Task Force sind seitens der Internetanbieter Facebook, Google (für seine Videoplattform YouTube) und Twitter, seitens der zivilgesellschaftlichen Organisationen der eco – Verband der Internetwirtschaft e.V., die Freiwillige Selbstkontrolle Multimedia-Diensteanbieter (FSM), jugendschutz.net, klicksafe.de, die Amadeu-Antonio-Stiftung (Netz gegen Nazis) sowie der Verein Gesicht zeigen! gefolgt. Das vorliegende Ergebnispapier gibt das gemeinsame Grundverständnis der Task Force-Mitglieder wieder und enthält konkrete Empfehlungen, wie der Verbreitung von Hassbotschaften im Internet unter voller Wahrung der Grundrechte, insbesondere der Meinungsfreiheit, entgegengewirkt werden kann.

Die vereinbarten Maßnahmen umfassen Best Practice-Mechanismen, die die FSM mit ihren Mitgliedern, zu denen auch Google gehört, in der Vergangenheit entwickelt hat. Die in der Task Force Mitwirkenden werden gemeinsam von der Überzeugung geleitet, dass Hassbotschaften in sozialen Medien keinen Platz haben. Unternehmen, Zivilgesellschaft und Politik müssen sich der Verbreitung von Hassbotschaften gemeinsam entschieden entgegenstellen.

Die in der Task Force Mitwirkenden stimmen darin überein, dass nach deutschem Recht verbotene Hassbotschaften unverzüglich nach Inkenntnissetzung geprüft und entfernt werden sollen. Die in der Task Force vertretenen Unternehmen haben sich auf eine Reihe von unten dargestellten Best Practices und Zielen verständigt, an denen sich die mitwirkenden Unternehmen orientieren sollten, um eine schnelle und effektive Bearbeitung von Hinweisen auf rechtswidrige Inhalte oder Inhalte, die gegen unternehmenseigene Nutzungsbedingungen
verstoßen, sicherzustellen und dabei eine enge Zusammenarbeit mit den zivilgesellschaftlichen Organisationen zu gewährleisten.

Die Meinungsfreiheit ist für den demokratischen Prozess von besonderer Bedeutung. Sie schützt alle rechtmäßigen Meinungsäußerungen, selbst wenn sie anstößig sind. Alle gesellschaftlichen Akteure sind gefordert, rassistischer Stimmungsmache und fremdenfeindlichen Vorurteilen entschlossen entgegenzutreten. Dafür ist Counter Speech ein wirkungsvolles Instrument. Auch ist gesellschaftliches Engagement gefragt. Die in der Task Force vertretenen Unternehmen und zivilgesellschaftlichen Organisationen sind auch insoweit
zum gemeinsamen Handeln entschlossen.

Sämtliche Maßnahmen zur Bekämpfung von Hassrede sollten im Lichte der Menschenrechte betrachtet werden. Die Beteiligten betonen, dass Meinungsfreiheit und freie Meinungsäußerung unerlässliche Voraussetzungen für die vollständige Entwicklung der Persönlichkeit sind. Sie
sind für jede Gesellschaft wesentlich und stellen die Grundlage jeder freien und demokratischen Gesellschaft dar.

I. Effektiver Umgang der Unternehmen mit rechtswidrigen Hassbotschaften

Angesichts der hohen Zahl von Nutzern, Beiträgen und Meldungen stellt die Prüfung von Beschwerden für die Unternehmen eine Herausforderung dar. Die in der Task Force vertretenen Unternehmen stellen sich dieser Aufgabe und setzen sich weiterhin zum Ziel, eine rasche, aber zugleich sorgfältige Prüfung jeder einzelnen Beschwerde zu problematischen Inhalten vorzunehmen und hierbei die besondere Bedeutung der Meinungsfreiheit zu berücksichtigen.

Um dies zu erreichen, werden die in der Task Force vertretenen Unternehmen anstreben, bis Mitte 2016 folgende Praktiken in ihre Beschwerdebearbeitung aufzunehmen:

  • Die in der Task Force vertretenen Unternehmen stellen anwenderfreundliche Mechanismen zur Übermittlung von Beschwerden zur Verfügung.
  • Die in der Task Force vertretenen Unternehmen wenden ihre Richtlinien an, indem sie konkrete Meldungen über hasserfüllte Inhalte und Aufstachelung zu Gewalt auf ihre Gemeinschaftsrichtlinien hin und auf Grundlage des deutschen Rechts, insbesondere § 130 StGB (Volksverhetzung), überprüfen, sobald sie in Kenntnis gesetzt worden sind.
  • Nach Erhalt einer Beschwerde lassen die in der Task Force vertretenen Unternehmen die Beschwerden durch darauf spezialisierte Teams zügig prüfen.
  • Soweit dies für eine rechtliche Bewertung erforderlich ist, setzen die in der Task Force vertretenen Unternehmen für die Prüfung von Beschwerden deutschsprachige Experten ein.
  • Den in der Task Force vertretenen Unternehmen stehen juristische Fachkräfte zur Verfügung, die erforderlichenfalls eine juristische Prüfung vornehmen können.
  • Die in der Task Force vertretenen Unternehmen ergreifen angemessene Maßnahmen gegen Nutzer und Inhalte, die gegen örtlich geltende Gesetze verstoßen; hierzu zählt, soweit gerechtfertigt, das Entfernen rechtswidriger Inhalte für den Geltungsbereich der betreffenden Rechtsordnung und das Sperren von Nutzerkonten im Falle eines Verstoßes gegen die Nutzungsbedingungen des Unternehmens. Die in der Task Force vertretenen Unternehmen verbessern kontinuierlich die Kommunikation mit den Nutzern bei der Rückmeldung auf Beschwerden.
  • Die in der Task Force vertretenen Unternehmen unterhalten und implementieren strikte und transparente Nutzungsbedingungen betreffend ihren Umgang mit Inhalten, die Hass schüren oder zu Gewalt aufstacheln.
  • Rechtswidrige Inhalte werden unverzüglich nach Inkenntnissetzung entfernt; die Mehrzahl der gemeldeten Inhalte werden in weniger als 24 Stunden geprüft und, falls erforderlich, entfernt.
  • Besonders wichtig sind die zahlreichen Nutzer, die auch im Internet Zivilcourage zeigen und gegen Hassbotschaften eintreten. Um diese Nutzer zu unterstützen, sehen die in der Task Force vertretenen Unternehmen anwenderfreundliche Mechanismen und Verfahren vor. Diese dienen dazu, Verstöße gegen ihre Richtlinien zu melden und ihre Nutzungsbedingungen verantwortungsvoll umzusetzen, indem gemeldete Inhalte überprüft werden, einschließlich solcher, die Hass gegen eine Person oder Gruppe schüren oder zu Gewalt gegen diese Person oder Gruppe aufgrund von Rasse, ethnischer Herkunft, Staatsangehörigkeit, Religion, sexueller Ausrichtung, des Geschlechts, sexueller Identität, des Alters oder einer Behinderung aufstacheln.
  • Die in der Task Force vertretenen Unternehmen werden weiterhin gemeldete Inhalte entfernen, die gegen ihre Richtlinien verstoßen, die Person, die die Inhalte gepostet oder hochgeladen hat, gegebenenfalls unterrichten und erforderlichenfalls Nutzerkonten sperren.
  • Die in der Task Force vertretenen Unternehmen stellen weiterhin benutzerfreundliche Instrumente zur Verfügung, mit denen die Nutzer ihre Beziehungen zu anderen Nutzern kontrollieren können, einschließlich Funktionen zum nutzerautonomen Blockieren anderer Nutzer.
  • Die in der Task Force vertretenen Unternehmen verfügen über Nutzungsbedingungen, in denen erläutert wird, unter welchen Voraussetzungen Nutzerdaten an die Strafverfolgungsbehörden weitergegeben werden können.
  • Die in der Task Force vertretenen Unternehmen fördern das breitangelegte Melden und „Flaggen“ von Inhalten, insbesondere über Partnerschaften mit NGOs, indem sie die jeweiligen Unternehmensrichtlinien, den Meldeprozess und beschwerdefähige Inhalte verdeutlichen; solche Partnerschaften können die Unterstützung durch die in der Task Force vertretenen Unternehmen umfassen, die es Partnerorganisationen erlaubt, die Rolle eines „Trusted Reporters“ oder einen ähnlichen Status zu übernehmen.
  • Die in der Task Force vertretenen Unternehmen stellen Transparenz sicher, indem sie der Öffentlichkeit darüber berichten, wie sie ihre Nutzungsbedingungen hinsichtlich der Entfernung gemeldeter Inhalte umsetzen.
  • Die in der Task Force vertretenen Unternehmen stellen sicher, dass ihre Mitarbeiter angemessen geschult werden, insbesondere durch den regelmäßigen Austausch mit bestehenden deutschen Beschwerdestellen / NGOs. Dies umfasst die Sensibilisierung und Bewusstseinsschaffung für aktuelle gesellschaftliche Entwicklungen und Situationen.

II. Unterstützung durch zivilgesellschaftliche Organisationen

Einige der in der Task Force vertretenen Organisationen verfügen über langjährige Erfahrung und große Expertise im Umgang mit strafbaren und jugendgefährdenden Inhalten; die bestehenden Beschwerdestellen in Deutschland bearbeiten eine Vielzahl von Beschwerden und stehen bereits heute in engem Kontakt mit den vertretenen Unternehmen. Die Beschwerdestellen und die anderen zivilgesellschaftlichen Organisationen haben angeboten, die Unternehmen durch eine noch engere Zusammenarbeit dabei zu unterstützen, rechtswidrige Inhalte schneller zu erkennen und effektiver zu bearbeiten.

Die in der Task Force vertretenen Unternehmen und Organisationen werden ihre Zusammenarbeit insbesondere durch folgende Maßnahmen intensivieren:

  • Verstärkter Informationsaustausch und regelmäßige Mitarbeiterschulungen zu aktuellen gesellschaftlichen Entwicklungen, besonderen Gefährdungslagen und deren rechtlicher Einordnung / Bewertung in Deutschland.
  • Zusätzlich wird Facebook innerhalb des ersten Quartals 2016 insbesondere die mit der FSM vereinbarten Maßnahmen umsetzen, um volksverhetzende bzw. in Deutschland strafrechtlich relevante Inhalte besser und schneller zu erkennen.
  • Austausch zur möglichen weiteren Verbesserung der Meldemöglichkeiten und - bearbeitung für Meldungen der Beschwerdestellen sowie anerkannter zivilgesellschaftlicher Organisationen.
  • Die in der Task Force vertretenen Unternehmen wollen auch weiterhin die Tätigkeit der NGOs fördern, insbesondere indem sie Anzeigevolumina auf ihren Plattformen zur Verfügung stellen. Darüber hinaus unterstützen die beteiligten Unternehmen die NGOs bei der Bewusstseinsbildung.
  • Gemeinsame Erarbeitung von Informationsmaterial der NGOs, z. B. eines Leitfadens mit Anleitungen zu Meldemöglichkeiten bei Internetanbietern, rechtlichen Grundlagen und Leitlinien und weiteren Empfehlungen zum Umgang mit Hassbotschaften, der sich auch an kleinere Unternehmen, Startups und Seitenbetreiber richten könnte.
  • Facebook, die FSM und jugendschutz.net erstellen – ggf. unter Einbindung weiterer Task Force-Mitglieder – innerhalb des ersten Halbjahres 2016 einen gemeinsamen Leitfaden zum Thema Hate Speech in sozialen Netzwerken.

III. Kommunikationskultur pflegen; Counter Speech stärken

Die Bekämpfung von rassistischem und fremdenfeindlichem Gedankengut, das im Internet als „Hate Speech“ verbreitet wird, und die Pflege einer offenen und respektvollen Kommunikationskultur ist eine gesamtgesellschaftliche Aufgabe. Dieser Herausforderung müssen sich alle Akteure stellen und Verantwortung übernehmen, die Politik, die Wirtschaft, zivilgesellschaftliche Organisationen, die Öffentlichkeit und jeder einzelne Nutzer. 

  • Alle Beteiligten erkennen den Wert der Gegenrede zu hasserfüllter Rhetorik an und identifizieren und fördern daher wirksame Gegen-Narrative und unterstützen Bildungsprogramme, die das kritische Denken fördern.
  • Social Media-Plattformen können eine treibende Kraft bei der Schaffung sozialen Bewusstseins und bei der Förderung positiver Veränderungen sein. Neue Ideen und Initiativen zur Förderung einer sicheren und zivilisierten Online-Umgebung sind zu begrüßen.

IV. Weitere Maßnahmen des BMJV

Die Politik ist sich ihrer Verantwortung ebenfalls bewusst. Das BMJV wird unter Einbindung weiterer betroffener Akteure aus Politik und Gesellschaft im Sommer 2016 eine Veranstaltung zum Thema „Hate Speech und Meinungsfreiheit“ organisieren. In diesem Rahmen wird auch eine Bewertung der Arbeit der Task Force und der darauf beruhenden Ergebnisse erfolgen.

Die Strafverfolgung fällt in die Zuständigkeit der Länder. Das BMJV wird mit den Ländern im Rahmen der Justizministerkonferenz mögliche Maßnahmen erörtern, wie die Strafverfolgung im Bereich der Hasskriminalität im Internet verbessert werden kann bzw. ob Strafverfahren und
Verurteilungen besser erfasst und öffentlich kommuniziert werden könnten.

 

Mehr zur Task Force beim Bundesjustizministerium:

http://www.bmjv.de/SharedDocs/Artikel/DE/2015/12152015_ErgebnisrundeTaskForce.html

 

Mehr auf netz-gegen-nazis.de:

| Welche Hassrede wird aktuell verurteilt - und was kostet das? Monatlich aktuell auf unserem Überblick zum Internet und Sozialen Netzwerken
| Mehr zu Hate Speech
| Mehr zu Sozialen Netzwerken
| Mehr zu Counter Speech

drucken