Vermeintliche Talkshow mit Jugendlichen über Migrationspolitik ist KI-Fake
Online verbreitet sich ein Video von Jugendlichen, die sich in einer Talkshow kritisch zur deutschen Migrationspolitik äußern. Doch das Video ist mit der KI-App „Sora“ des Unternehmens Open AI generiert worden.
Auf X und Tiktok verbreitet sich ein Ausschnitt einer Talkshow mit Jugendlichen. Darin kritisieren mehrere Jungen und Mädchen in deutlichen Worten die deutsche Migrationspolitik der vergangenen Jahre. Nichts davon ist jedoch echt, der Clip ist mit der Video-App Sora 2 erstellt worden.
Die Fälschung entgeht einigen Nutzerinnen und Nutzern, anderen ist sie offenbar egal. So finden sich unter den Videos Kommentare wie: „Die Jugend hat eine gute Einstellung“ oder „KI oder nicht, aber die Wahrheit“. Auf Tiktok und X erhielt das Video mehr als 10.000 Likes.
Auch in einem anderen Faktencheck berichteten wir über eine Fälschung, die mit Hilfe von Sora 2 erstellt wurde. Einfache Tipps, wie Sie die Fälschung auch in diesem Fall entlarven können, geben wir im Folgenden.
Video entstand mittels der KI-Video-App Sora 2
Am 30. September 2025 brachte der Tech-Konzern OpenAI die App Sora 2 heraus, die mithilfe von Künstlicher Intelligenz (KI) täuschend echte Videos erstellen kann. Die Nutzung der App war anfangs nur auf Einladung in den USA und Kanada möglich, seit Mitte Oktober ist sie aber auf Umwegen auch in Deutschland nutzbar.
Laut Medienberichten ist Sora anfällig für Falschinformationen sowie sexistische und rassistische Stereotype. Die App machte auch wegen Urheberrechtsverletzungen Schlagzeilen, weil sie problematische Aufnahmen produzierte, etwa von der Trickfigur Spongebob im Hitler-Kostüm. Die Betreiber justierten teilweise nach – inzwischen sind bestimmte Personen und Figuren gesperrt.
KI-Fälschung ist am Wasserzeichen zu erkennen
Zurück zum Video. Dabei fällt zunächst der Name der Video-App ins Auge, der durchgängig zu sehen ist. Auf Tiktok hat der Verbreiter das Video zudem als KI-generiert gekennzeichnet. Am Ende der Videobeschreibung steht, es handele sich um „Satire“ und eine „Parodie“. Dieser Hinweis ist allerdings nur für diejenigen ersichtlich, die die Videobeschreibung vollständig öffnen. Auf X fehlt ein solcher Hinweis.
Auf dem Tiktok-Kanal, der mutmaßlich Urheber des Video ist, finden sich darüber hinaus zahlreiche weitere Videos, die alle mit Sora 2 erstellt wurden. Die Inhalte seines Kanals beschreibt der Nutzer mit den Worten: „Die Talkshow, die im deutschen Mainstream fehlt. Zurücklehnen und genießen.“
Im Video sind Unregelmäßigkeiten zu erkennen. So sehen etwa die Bewegungen der Münder unrealistisch aus. In einer Sequenz verändern sich auch die Finger der Jugendlichen beim Gestikulieren auf unnatürliche Weise:
Ob das Video auf Vorlagen von echten Menschen beruht, ist unklar
Daran, dass das Video KI-generiert wurde, besteht also kein Zweifel, fraglich ist aber, ob die Jugendlichen, die darin zu sehen sind, selbst Nutzerinnen und Nutzer von Sora sind. Denn wer sich dort registriert, kann ein sogenanntes Cameo von sich erstellen lassen. Das heißt, Nutzerinnen und Nutzer nehmen ein kurzes Video von sich auf und sagen ein paar Worte. Die KI hinter Sora erstellt daraus dann eine digitale Version der jeweiligen Person.
Je nachdem, wie man den Datenschutz im eigenen Account einstellt, können diese Cameos von allen Nutzerinnen und Nutzern auf der Plattform weiterverwendet werden.
Mit Blick auf die Nutzung von Cameos und auf Jugendliche schreibt Open AI, die Firma hinter Sora: „Der Schutz des Wohlbefindens von Teenagern ist uns wichtig“, man führe „strengere Berechtigungen bei Cameos ein“. Und weiter: „Nur du entscheidest, wer dein Cameo verwenden darf. Du kannst den Zugriff jederzeit entziehen oder jedes Video entfernen, in dem es enthalten ist.“
Der Leiter von Sora gab darüber hinaus am 6. Oktober auf X bekannt, dass man Nutzenden die Möglichkeit geben wolle, die Nutzung des eigenen Cameos gezielt einzuschränken. So solle es zum Beispiel möglich sein, der KI zu verbieten Videos zu generieren, in denen man sich zu politischen Inhalten äußere oder ein bestimmtes Wort sage.
Wir wollten von Open AI wissen, ob das Video mit den Jugendlichen auf solchen Cameos beruht. Das Unternehmen schrieb uns: „Die Teenager im Video sind keine Cameos, sie basieren auf einem Text-To-Video Prompt. Vom Tiktoker wollten wir wissen, woher das Video mit den Jugendlichen stammt und ob er dafür auf öffentliche Cameos zurückgriff. Eine Antwort erhielten wir bis zur Veröffentlichung nicht.
Redigatur: Paulina Thom, Steffen Kutzner
Update, 22. Oktober 2025: Wir haben eine Antwort von Open AI ergänzt.
