Wie mit KI-Bildern von einem Weihnachtsmarkt Unsicherheit erzeugt wird
Ein Bildvergleich soll zeigen, wie hoch die Sicherheitsvorkehrungen auf einem Weihnachtsmarkt mittlerweile sind. Doch die Bilder sind KI-generiert, den Ort gibt es wohl nicht.
Während es 2015 noch ein Riesenrad und ein Karussell auf einem Weihnachtsmarkt gegeben haben soll, befinden sich im Jahr 2025 dort angeblich ein hoher Sicherheitszaun, Stacheldraht und Bodyscanner. Das soll ein Sharepic mit zwei Bildern zeigen, das sich im November in sämtlichen Sozialen Netzwerken verbreitet hat. Allein ein Tiktok-Beitrag erreichte knapp eine halbe Millionen Aufrufe.
Das Wort „Stadtbild“ auf dem Sharepic ist offenbar eine Anlehnung an eine umstrittene Aussage des Bundeskanzlers Mitte Oktober. Friedrich Merz sagte beim Thema Migration gebe es ein „Problem“ im Stadtbild. In tschechischsprachigen Beiträgen heißt es zu den Bildern, der Weihnachtsmarkt befinde sich in Deutschland. In den Kommentaren sind manche ängstlich oder verunsichert, andere hetzen gegen Migrantinnen und Migranten. Wieder andere schreiben, das Bild sei KI-generiert.
Unstimmigkeiten in Bildern von Weihnachtsmarkt sind „klassische KI-Fehler“
Tatsächlich sind in beiden Bildern Unstimmigkeiten erkennbar. So ist zum Beispiel auf einem Polizeiwagen das Wort „Polizei“ nicht lesbar und bei einem anderen Polizeiwagen stimmen die Proportionen nicht, er ist zu breit. Auch die Gesichter von manchen Personen sehen auf beiden Fotos unnatürlich aus. Laut Andreas Ingerl, Professor für Audiovisuelle Medien an der Hochschule für Technik und Wirtschaft Berlin, sind das klassische KI-Fehler.
Zudem stehen die Türme der Kirche in keinem logischen Verhältnis. Der linke Turm steht mitten im Querschiff der Kirche.
Ingerl vermutet, dass als erstes das Bild von 2025 mit Hilfe von Künstlicher Intelligenz generiert wurde. Denn die darin sichtbaren hohen Zäune sind noch leicht verschwommen im Bild von 2014 erkennbar.
KI-generierte Bilder eines Weihnachtsmarktes zeigen mutmaßlich keinen echten Ort
Mehrere Bilder-Rückwärtssuchen mit Bildausschnitten, auf denen die Kirche und die Statue sichtbar sind, führen zudem zu keinen sinnvollen Ergebnissen.
Ein Tool, das Ralph Ewerth, Professor für multimodale Modellierung und maschinelles Lernen an der Universität Marburg, mit seiner Forschungsgruppe an der Technischen Universitätsbibliothek (TIB) in Hannover entwickelt hat, schlägt für die Bilder, die angeblich den gleichen Ort zeigen sollen, unterschiedliche Orte vor. Wir haben diese stichprobenartig überprüft und keine passenden Aufnahmen gefunden.
Wie die Nachrichtenagentur AFP berichtet, verorten auch die Tools Backstory von Google Deepmind und Googles KI-Assistent Gemini die Bilder an unterschiedlichen Orten, zum einen am Roten Rathaus in Berlin, zum anderen an der Frauenkirche in München. Ein Abgleich mit Google-Maps-Aufnahmen der Orte zeigt, dass beides nicht zutrifft.
Es ist also wahrscheinlich, dass es den abgebildeten Ort nicht gibt.
KI-generierte Inhalte müssen laut Community-Richtlinien von Tiktok gekennzeichnet sein
In der Profilbeschreibung des mutmaßlichen Erstverbreiters der KI-Bilder heißt es: „Profil beinhaltet politische Satire“. Dieser Hinweis ging bei der weiteren Verbreitung in Sozialen Netzwerken jedoch verloren.
Tiktok schreibt in seinen Community-Richtlinien außerdem vor, dass Nutzerinnen und Nutzer verpflichtet sind, „KI-generierte oder erheblich bearbeitete Inhalte, die realistisch wirkende Szenen oder Personen zeigen, entsprechend zu kennzeichnen“. Wir wollten daher wissen, ob der Bildvergleich des angeblichen Weihnachtsmarktes unter diese Richtlinie fällt. Doch Tiktok antwortete bis zur Veröffentlichung nicht. Der mutmaßliche Erstverbreiter antwortete uns zwar, ging jedoch nicht inhaltlich auf unsere Fragen ein.
Auch wenn einige Weihnachtsmärkte ihre Sicherheitsvorkehrungen zunehmend erhöhen, wird regelmäßig mit Falschbehauptungen rund um das Thema Stimmung gemacht. BR24 hat dazu mit Richard Kuchta vom Institute for Strategic Dialogue (ISD Germany) gesprochen. Er sieht demnach in derartigen Falschbehauptungen „allgemeine Niedergangserzählungen und migrationsfeindliche Narrative“.
Redigatur: Paulina Thom, Gabriele Scherndl
