Frieren im Winter: Video von angeblicher Grünen-Politikerin ist KI-generiert
Ein Video auf Facebook soll eine Grünen-Politikerin bei Markus Lanz zeigen, die fordert, dass Menschen einen Winter lang frieren müssten, wenn sie eine Nachzahlung beim Heizgeld bekämen. Das Video ist mit KI erstellt, die Frau existiert nicht.
In den Sozialen Netzwerken werden derzeit KI-generierte Videos genutzt, um Desinformation zu verbreiten und Stimmung zu machen. Zuletzt etwa mit einem Video auf Facebook. Darin ist eine Frau zu sehen, die sich so geäußert haben soll: „Wir von den Grünen sagen ganz klar: Wenn ich eine fette Nachzahlung beim Heizgeld bekomme, dann muss ich auch mal ’nen Winter lang frieren können. Das kann ja wohl nicht so schlimm sein“. Ursprünglich wurde in der Beschreibung des Videos suggeriert, dass es sich um einen Ausschnitt der ZDF-Talkshow „Markus Lanz“ handeln soll.
Das Video erhielt 1.200 „Gefällt-mir“-Angaben, wurde rund 100.000 Mal angesehen und etwa 400 Mal geteilt. In den Kommentaren beschimpfen Nutzerinnen und Nutzer die Frau: „Typisch Grün. Hohl, doof und überflüssig“ oder „Dumm wie Brot“. Andere ergehen sich in Kommentaren über ihr Äußeres. Dass das Video eine Fälschung ist, bemerkt offenbar so gut wie niemand.
Angebliche Politikerin der Grünen gibt es nicht – sie ist KI-generiert
Wir haben uns zunächst angesehen, ob das Video wirklich aus der ZDF-Talkshow Markus Lanz stammt. Bereits ein kurzer Vergleich mit der Studiokulisse zeigt, dass sie ganz anders aussieht, die Sendung läuft zudem seit 2022 ohne Publikum.
Das Video der vermeintlichen Grünen-Politikerin kann dort also gar nicht entstanden sein. Ob die Frau überhaupt echt ist, steht darüber hinaus in Frage. Bilder-Rückwärtssuchen nach ihr führen zu keinen Ergebnissen. Bei einer Politikerin, die in einer bundesweit ausgestrahlten Talkshow auftritt, ist das sehr ungewöhnlich. Wenn der Ausschnitt aus einer echten Talkshow stammen würde, wäre zu erwarten, dass sich dafür irgendein Beleg finden lässt. Das ist nicht der Fall.
Anzeichen, die noch vor einiger Zeit ganz typisch für KI-generierte Inhalte gewesen wären – etwa zu viele Finger oder plötzlich auftauchende Objekte – fehlen in dem Video. Ein Experte sieht dennoch Hinweise auf KI: Andreas Ingerl, Professor an der Hochschule für Technik und Wirtschaft Berlin für Audiovisuelle Medien, weist auf verschiedene Merkmale hin.
Das grüne Shirt der Frau werfe im oberen Teil Schatten, „die sich nicht logisch zur Person bewegen“. Darüber hinaus sei der Ausschnitt asymmetrisch und bewege sich „mit, als ob er auf der Haut aufgeklebt ist und quasi den Stoff unnatürlich staucht/quetscht“. Ein weiteres Indiz sei, dass die Frau an keiner Stelle atme: „Eine Person, die recht laut und intensiv spricht, müsste bei einem Satz dieser Länge zumindest einmal sichtbar ein- oder ausatmen“, so Ingerl. Und ein weiterer Hinweis: Die Finger eines Zuschauers im Hintergrund seien zwar richtig ineinander gefaltet, „aber die Fingerlängen und grundsätzliche Anatomie der Hand“ stimmten nicht.
Account verbreitet regelmäßig KI-Videos
Ein Blick auf das Profil namens „Mindhug-Comedy International“, wo das Video zuerst erschien, zeigt, dass der Account immer wieder Videos verbreitet, die Talkshow-Situationen zeigen sollen. Eines davon ist klar als KI-generiert zu erkennen. Einem Mann, der darin spricht, wächst beim Gestikulieren plötzlich ein weiterer Finger.
Zunächst versah der Account seine Beiträge auf Facebook noch mit Schlagworten wie „Sora 2“ oder „Veo 3“. So heißen die KI-Video-Apps von Open AI und Google. Beide wurden in der Vergangenheit genutzt, um Desinformation zu verbreiten. Nach den ersten zehn Videos auf dem Account fehlen diese Schlagworte jedoch. Auffällig: Die Beiträge ohne entsprechende Kennzeichnung werden im Durchschnitt sehr viel häufiger angesehen.
In der Profilbeschreibung sind weitere gleichnamige Accounts auf Youtube, Tiktok und Instagram verlinkt. Alle verbreiten laut Eigenbeschreibung angebliche Satire und lustige Memes. Dort veröffentlichen die Verantwortlichen neben den angeblichen Talkshow-Ausschnitten auch weitere Videos, häufig mit sexistischem und rassistischem Inhalt.
Auf Tiktok kennzeichneten die Betreibenden einige ihrer Videos als KI-generiert, bei anderen fehlt diese Kennzeichnung. Das ist auch bei dem Video mit dem Mann der Fall, dem plötzlich ein weiterer Finger wächst. Laut den Richtlinien von Tiktok ist eine solche Kennzeichnung in derartigen Fällen jedoch verpflichtend. Auch Meta, der Konzern hinter Facebook und Instagram, fordert eine solche Kennzeichnung von Nutzerinnen und Nutzern.
Verbreiter gibt an Missverständnisse bei Nutzerinnen und Nutzern zu bedauern
Wir haben den Account kontaktiert und zu dem Video mit der vermeintlichen Grünen-Politikerin befragt. Als Antwort schrieb man uns: „Das genannte Video wurde vollständig mit KI erstellt“ und sei auch als solches gekennzeichnet. Doch auf Facebook fehlt ein entsprechender Hinweis. Nach unserer Anfrage löschte der Account aus der Videobeschreibung den Hinweis, dass es dabei um eine Lanz-Sendung gehe. Die Verantwortlichen bestätigten außerdem, dass es sich bei der Frau nicht um eine echte Person handele.
Wir wollten darüber hinaus wissen, ob sich die Account-Betreibenden bewusst sind, dass einige der Videos zu Hass und Hetze führen. Der Account antwortete lediglich: „Unser Ziel ist nicht, Zuschauer zu täuschen, sondern KI-Inhalte unterhaltend und satirisch zu präsentieren. Dass manche Nutzerinnen und Nutzer das dennoch missverstehen, bedauern wir selbstverständlich.“
Meta antwortete auf unsere Nachfrage, weshalb die ungekennzeichneten KI-Inhalte auf Facebook verfügbar sind, lediglich, dass man die entsprechenden Links überprüfen werde. Auf unsere Fragen ging die Sprecherin des Konzerns nicht weiter ein.
Von Tiktok erhielten wir bis zur Veröffentlichung dieses Faktenchecks keine Antwort.
Transparenzhinweis: CORRECTIV ist seit 2017 in einer Kooperation mit dem Facebook-Konzern Meta, um Desinformation auf dem Sozialen Netzwerk zu bekämpfen. Mehr Informationen zu der Kooperation erhalten Sie hier.
Redigatur: Sara Pichireddu, Gabriele Scherndl
Die wichtigsten, öffentlichen Quellen für diesen Faktencheck:
- Community-Richtlinien von Tiktok: Link (archiviert)
- Community-Richtlinien von Meta: Link (archiviert)
