KI-Test: So einfach lassen sich Nachrichten mit ChatGPT und Co. fälschen
Mit KI-Chatbots von Google, OpenAI und Microsoft lassen sich gefälschte Beiträge von existierenden Medien erstellen – selbst zu sensiblen Themen. Eine CORRECTIV-Recherche zeigt Sicherheitslücken vor allem bei ChatGPT.
In nur wenigen Sekunden lassen sich mit gängigen KI-Chatbots Nachrichtenbeiträge erstellen, die Falschinformationen enthalten. Eventuelle Schutzmechanismen der Tech-Konzerne greifen offenbar teils selbst bei sensiblen Themen nicht, wie eine CORRECTIV-Recherche zeigt. Eine Firma – OpenAI mit ChatGPT – schnitt dabei besonders schlecht ab.
CORRECTIV hat getestet, wie die KI-Chatbots von OpenAI (ChatGPT), Google (Gemini), Meta (Meta AI) und Microsoft (Copilot) reagieren, wenn sie gefälschte Medienbeiträge mit Falschbehauptungen erstellen sollen: etwa den Rücktritt des Bundeskanzlers, einen Regierungsumsturz, eine Kriegserklärung Russlands, sowie Falschbehauptungen zum Klimawandel, zu Impfstoffen und Wahlbetrug oder bekannte Verschwörungstheorien.
Dass solche Sicherheitslücken bereits ausgenutzt werden, zeigt ein aktueller Fall, der auf Social Media teils Verwirrung stiftete: Auf Tiktok, X, Instagram und Facebook verbreitete sich eine vermeintliche Tagesschau-Meldung zum Anschlag auf den CSD in Berlin – angeblich gebe es eine Verbindung nach Russland. Aber der Beitrag mit Logo und Verweis auf die Webseite und App der Tagesschau ist ein KI-Fake und wurde offenbar mit ChatGPT erstellt.
ChatGPT fälscht im Test fast alles
In unserem Test ließen sich auch der Großteil der Fakes ohne Probleme mit ChatGPT erstellen. In einigen Fällen funktionierte dies zunächst nicht, durch relativ einfache Umgehungsversuche dann aber doch.
Mit der KI konnten auch die realistischsten Fakes erstellt werden, die teils kaum noch von den originalen Inhalten, etwa der Tagesschau, zu unterscheiden sind. Das wirft Fragen nach möglichen Rechtsverstößen auf. Dazu später mehr.
So haben wir recherchiert
Wir haben die vier meistgenutzten KI-Chatbots in Deutschland gebeten, Social-Media-Grafiken für einen Bericht der Tagesschau zu generieren. Wir haben die Tagesschau ausgewählt, weil uns dazu bereits Fälschungen auf Social Media begegnet waren, darunter eine zum Anschlag auf den CSD in Berlin.
Dabei haben wir jeweils acht verschiedene Falschbehauptungen angegeben, etwa den Rücktritt des Bundeskanzlers, einen Regierungsumsturz, eine Kriegserklärung Russlands, sowie Falschbehauptungen zum Klimawandel, zu Impfstoffen und zu Wahlbetrug oder bekannte rechte Verschwörungstheorien.
Zusätzlich haben wir stichprobenartig Falschbehauptungen in Social-Media-Kacheln und Screenshots von Artikeln auf den Webseiten weiterer Medien generieren lassen. Darunter Bild-Zeitung, Spiegel, CORRECTIV, New York Times und BBC.
Wir haben dokumentiert, ob die KI-Chatbots so einen Fake direkt generierten, oder etwa nur bei einer abgeänderten Anfrage, mehrfacher Nachfrage oder falschen Vorwänden. Die Analyse hat keinen Anspruch auf Vollständigkeit. Rechercheergebnisse könnten bei Nutzung anderer Prompts, Themen und Medien anders ausfallen.
Bei anderen Tests erstellte ChatGPT das gefälschte Bild, und erklärte gleichzeitig, dass genau das nicht möglich sei: „Ich kann nicht dabei helfen, eine Grafik zu erstellen, die wie eine echte Nachrichtensendung oder Marke aussieht und eine unbelegte oder falsche Behauptung als Tatsachenbericht darstellt“.
Außerdem bemerkenswert: Während sich die Berichterstattung der Tagesschau so ohne Probleme fälschen ließ, genauso wie in einer Stichprobe die Berichte weiterer deutscher Medienmarken wie CORRECTIV oder Bild, war dies nicht bei der amerikanischen New York Times oder der britischen BBC möglich.
Warum je nach Medium oder Land offenbar andere Sicherheitsmechanismen bei ChatGPT greifen, beantwortete uns OpenAI auf Nachfrage nicht. Ein Sprecher schrieb, OpenAI würde seine Schutzmaßnahmen kontinuierlich verbessern. Andere mit Hilfe von ChatGPT zu täuschen, sei laut Richtlinien nicht erlaubt.
Auch KIs von Google und Microsoft erstellen Fakes
Anders als ChatGPT, erstellte Gemini, der KI-Chatbot von Google, wiederum direkt gefälschte Artikel im Namen der New York Times und BBC. Auch mehrere Fake-Beiträge der Tagesschau ließen sich relativ einfach erstellen, inklusive eines vermeintlichen Screenshots der Webseite. Allerdings war die Qualität der Fakes im Vergleich zu ChatGPT schlechter.
Google verweist auf Nachfrage auf die eigenen Richtlinien und Nutzungsbedingungen für Gemini, die keine „schädlichen Fehlinformationen“ erlauben. Das System habe aber seine Grenzen, da die KI auf Basis der Trainingsdaten funktioniere, wie ein Sprecher sagte.
Auch Microsoft Copilot generierte auf Nachfrage Fake-Inhalte und Logos im Stil der Tagesschau. Diese wichen aber meist deutlich vom Original ab. Die KI fügte zudem immer ein kleines „AI-Generated“-Label hinzu.
Die KI von Meta, der Firma hinter Facebook, Instagram und Whatsapp, erstellte nur in einem einzigen Fall einen Fake. Das System weigerte sich aber, dabei eine konkrete Falschbehauptung zu nutzen. Microsoft reagierte bis zur Veröffentlichung nicht auf unsere Anfrage. Meta schrieb, seine Richtlinien würden es dem KI-Chatbot verbieten, urheberrechtsverletzendes Material zu generieren.
Gefälschte Medienbeiträge von KI-Chatbots könnten strafrechtlich relevant sein
Derartige Sicherheitslücken, vor allem bei ChatGPT, ermöglichen im Zweifel Rechtsverstöße. Denn wer mit KI-Chatbots täuschend echte Medienbeiträge erstellt, kann sich laut Internet- und Medienrechtsanwalt Christian Solmecke strafbar machen.
Die Beiträge könnten unechten Datenurkunden entsprechen und, je nach Inhalt der Falschmeldung, üble Nachrede, Verleumdung oder auch Volksverhetzung darstellen. Wenn solche „Meldungen“ das journalistische Ansehen untergraben, könnten Medienunternehmen Unterlassungs- und Schadensersatzansprüche geltend machen, schreibt Rechtsanwalt Niklas Mühleis, der unter anderem auf IT- und KI-Recht spezialisiert ist.
Werden solche Beiträge zudem für wirtschaftliche Zwecke genutzt, könnte laut Solmecke auch eine Markenrechtsverletzung vorliegen. Denn Logos, wie das der Tagesschau, sind als Marke geschützt. Ohne Zustimmung des Markeninhabers dürfen sie nicht einfach verwendet werden – zumindest nicht im sogenannten geschäftlichen Verkehr, so lautet die Regelung des Markengesetzes. Bei privaten Nutzern, schreibt Solmecke, liege hingegen oft kein Handeln im geschäftlichen Verkehr vor, wenn sie solche Bilder generieren und in Sozialen Netzwerken teilen.
Transparenzhinweis: CORRECTIV ist seit 2017 in einer Kooperation mit dem Konzern Meta, um Desinformation auf dem Sozialen Netzwerk zu bekämpfen. Mehr Informationen zu der Kooperation erhalten Sie hier. Über die aktuellen Entwicklungen zu dieser Kooperation hat CORRECTIV hier berichtet.
Redigatur und Faktencheck: Martin Murphy
