Soziale Netzwerke: Wenn ein Emoji den Hitlergruß symbolisiert
Die Betreiber von Online-Plattformen stehen in der Kritik, extremistische Propaganda zuzulassen. Auf Instagram werden Nutzer sogar animiert, einen verbreiteten Neonazi-Code zu verbreiten. Nun schreitet das Innenministerium ein
Das Männchen sieht harmlos aus: Die Hand in die Höhe gereckt, scheint es zu grüßen. Oder zeigt es auf, so wie in der Schule? Welche Bedeutung auch immer ihm zugedacht war: Für sich genommen wirkt das Emoji mit dem erhobenen rechten Arm unauffällig.
Unter Rechtsextremen hat es dagegen eine spezielle Bedeutung: Es ist eine Chiffre für den verbotenen Hitlergruß. Der Kunstgriff ist in extremistischen Milieus verbreitet: Unverdächtig erscheinende Emojis oder Internet-Memes werden als Codes genutzt – um extremistische und womöglich strafbare Botschaften zu verschleiern.
Wenn Rechtsextremisten zwei Blitz-Symbole posten, wollen sie nicht vor einem Unwetter warnen. Sie nutzen die Symbole als Code für die SS-Schläger-Trupps der Nationalsozialisten. Ein Vampir-Emoji wird zum Code für die antisemitische Erzählung „blutsaugender“ Juden. Islamisten nutzen das Symbol einer schwarzen Flagge als Chiffre für die Terrormiliz „Islamischer Staat“.
Das Zeigen zweier Blitze oder eines Vampirs ist bekanntermaßen nicht verboten. Die meisten Nutzer verwenden derlei Symbole zudem nicht, um extremistische Propaganda zu verbreiten. Solche Emojis zu verbieten oder sie aus dem Angebot der Plattformbetreiber zu verbannen, erscheint unverhältnismäßig.
Beim Suchwort „Sieg“ erscheint das Männchen mit dem erhobenen rechten Arm
Die Frage ist nur: Kann man von den Konzernen hinter Sozialen Netzwerken nicht zumindest verlangen, dass sie die extremistische Nutzung szenebekannter Emojis nicht noch befördern?
Denn genau das passiert. Ein von der CORRECTIV-Jugendredaktion Salon5 durchgeführter Test zeigte: Gab man auf der Plattform Instagram in der Maske zur Suche nach einem Emoji das Suchwort „Sieg“ ein, wurde einem als erster von mehreren Einträgen das Gruß-Männchen mit der erhobenen Hand vorgeschlagen.
Mit einem „Sieg“ bringt man dieses Emoji eher nicht in Verbindung – in der Kombination mit dem Wort „Sieg“ aber mit dem verbotenen Hitlergruß und der dazugehörigen nationalsozialistischen Grußformel.
Die Plattform Instagram gehört zum Konzern Meta, der auch Facebook und Whatsapp betreibt. Wie die Betreiber anderer Sozialer Netzwerke wertet Meta die Daten seiner Nutzerinnen und Nutzer akribisch aus. Die Analyse ist Grundlage ihres Geschäftsmodells. Man kann also vermuten, dass Meta die Vorlieben und Kommunikationsmittel seiner Kunden gut kennt.
Fragen belässt Meta weitgehend unbeantwortet
Weiß Meta also, dass Rechtsextremisten das Männchen mit dem erhobenen rechten Arm als Code für den Hitlergruß nutzen? Ist dem Unternehmen bekannt, dass dieses Emoji bei einer Suche mit dem Wort „Sieg“ sogar als erstes vorgeschlagen wird? Will Meta das ändern?
Der Konzern lässt die CORRECTIV-Anfrage von einer Kommunikationsagentur beantworten. Deren Sprecherin übermittelt einen einzigen Satz:
„Die vorgeschlagenen Emojis basieren auf den Emojis, die bei der Suche mit den jeweiligen Wörtern oder Phrasen am häufigsten verwendet werden, sodass Nutzern die relevantesten Vorschläge angezeigt werden.“
Übersetzen könnte man Metas Antwort so: Verantwortlich sind nicht wir. Verantwortlich ist der Algorithmus.
Die Frage ist nur: Warum ändert der Konzern den Algorithmus nicht? Wäre er dazu sogar verpflichtet?
Illegale Inhalte sollen nicht auf die Plattformen gelangen
Die Pflichten von Betreibern von Online-Plattformen sind nicht im nationalen Recht festgeschrieben, sondern im 2022 erlassenen Digital Service Act der EU. Betreiber von Plattformen mit mehr als 45 Millionen monatlichen Nutzerinnen und Nutzern in der EU („sehr große Plattformen“) müssen demnach das Risiko minimieren, dass illegale Inhalte überhaupt erst auf die Plattformen gelangen.
Für sich genommen ist die Verwendung des Gruß-Männchen-Emojis allerdings nicht illegal. Wenn es als rechtsextreme Chiffre genutzt wird, könnte dagegen ein Straftatbestand erfüllt sein: des Verwenden von Kennzeichen verfassungswidriger Organisationen (Strafgesetzbuch §86a).
So sieht es jedenfalls Martin Heger, Professor für Strafrecht an der Berliner Humboldt-Universität. Wenn das Emoji im Kontext von Aussagen zur NS-Ideologie genutzt werde, „spricht das dafür, dass man den zum Gruß erhobenen rechten Arm auch als das ansieht, was er wohl sein soll – nämlich ein Hitler-Gruß oder diesem zum Verwechseln ähnlich“, sagte Heger auf Anfrage von CORRECTIV.
Die Strafrechtsprofessorin Gabriele Kett-Straub von der Universität Erlangen sieht es anders. „Natürlich ist klar, wofür das Emoji in diesem Kontext tatsächlich stehen soll“, sagte Kett-Straub. „Aber für eine Strafbarkeit reicht dieser Hintergedanke nicht aus.“
Nachteilige Wirkungen auf die öffentliche Sicherheit
Die Frage einer möglichen Strafbarkeit ist also umstritten. Der Digital Service Act bietet aber womöglich noch einen anderen Hebel, um Meta in die Pflicht zu nehmen: Denn laut Artikel 34 des Gesetzeswerkes müssen Plattformbetreiber sogenannte „Risikobewertungen“ erstellen. Dabei sollen sie „alle (…) nachteiligen Auswirkungen (ihrer Dienste) auf die gesellschaftliche Debatte (…) und die öffentliche Sicherheit“ berücksichtigen.
Um die Risiken negativer Auswirkungen zu minimieren, müssen die Betreiber „angemessene, verhältnismäßige und wirksame“ Maßnahmen ergreifen – zum Beispiel durch eine Änderung ihrer „Empfehlungssysteme“ (Artikel 35).
Kann man den Digital Service Act so verstehen, dass Meta keine Emojis empfehlen sollte, die in Verbindung mit bestimmten Suchwörtern dazu animieren, rechtsextreme Codes zu verbreiten? Weil dies nachteilige Auswirkungen auf die „gesellschaftliche Debatte“ und die „öffentliche Sicherheit“ haben könnte?
Das Gesetz ist nicht eindeutig
Der Medienrechtler Max Dregelies von der Universität Trier weist auf Anfrage von CORRECTIV darauf hin, dass das Gesetz nicht eindeutig sei. Es gelte zudem erst seit 2022, sodass es noch keine Rechtsprechung gebe. „Es ist daher noch unklar, ob der konkrete Fall hier darunter fällt“, sagt Dregelies. „Wenn sich herausstellen sollte, dass das Emoji insbesondere mit verbotenen – etwa volksverhetzenden – Inhalten verwendet wird, wenn die Nutzer zuvor ‘Sieg’ eingegeben haben, könnte hier ein Anwendungsfall vorliegen.“
Verstöße gegen den Digital Service Act können der Bundesnetzagentur gemeldet werden. Sofern es um „sehr große“ Plattformbetreiber geht (mehr als 45 Mio. Nutzer), übermittelt die Bundesnetzagentur diese Meldungen der EU-Kommission. Diese entscheidet, ob tatsächlich ein Verstoß vorliegt.
CORRECTIV hat die Kommission daher um eine Einschätzung gebeten: Verstößt Instagram mit der Empfehlung für das Gruß-Männchen-Emoji bei Eingabe des Suchwortes „Sieg“ gegen den Digital Service Act?
Die Kommission übermittelt allgemeine Aussagen zum Inhalt des Digital Service Act. Ein Sprecher verweist zudem darauf, dass die Kommission bei Instagram und Facebook derzeit das System zur Meldung rechtswidriger Inhalte überprüfe. Zudem prüfe die Kommission Metas aktuellen Risikobewertungsbericht. Die Frage, ob Meta durch die Empfehlung des als Hitlergruß-Chiffre genutzten Emojis gegen den Digital Service Act verstoße, beantwortet der Sprecher dagegen nicht.
Innenministerium warnt vor „Verharmlosung des Nationalsozialismus“
Stellung bezieht dagegen das Haus von Bundesinnenminister Alexander Dobrindt (CSU). Das Ministerium ist zwar nicht für die Überwachung Sozialer Netzwerke zuständig – wohl aber für die Extremismus-Bekämpfung. Auf Anfrage von CORRECTIV teilt ein Sprecher des Ministeriums mit:
„Die Verknüpfung des hitlergrußartigen Winke-Emojis mit dem Wort ‚Sieg‘ ist aus Sicht des Bundesinnenministeriums abzulehnen. Sie kann vor dem Hintergrund der Assoziationen, die mit ‚Sieg Heil‘-Rufen verbunden sind und die durch den konkreten Gebrauch dieser Art von Emojis in der rechtsextremistischen Szene verstärkt werden, als Verharmlosung des Nationalsozialismus, seiner Vernichtungspolitik, seiner Eroberungskriege und der Verherrlichung davon interpretiert werden.“
Außerdem schreibt der Sprecher des Bundesinnenministerium (BMI):
„Das Bundesministerium des Inneren und Meta sind dazu in Kontakt.“
Über Details der „vertraulichen Gespräche“ könne er keine Auskunft geben.
Unklar ist auch, ob Meta nach der Anfrage von CORRECTIV bereits von sich aus den Algorithmus für seine Empfehlungssysteme geändert hat. Bei einem kurz vor Erscheinen dieses Artikels durchgeführten Test schlug Instagram beim Suchwort „Sieg“ jedenfalls nicht mehr das Männchen mit dem erhobenen rechten Arm vor – sondern ein Emoji mit einem goldenen Pokal.
Faktencheck: Jean Peters
Redigat: Jean Peters, Samira Joy Frauwallner
Transparenzhinweis: CORRECTIV ist seit 2017 in einer Kooperation mit dem Facebook-Konzern Meta, um Desinformation auf dem Sozialen Netzwerk zu bekämpfen. Mehr Informationen zu der Kooperation erhalten Sie hier.
