Die Propaganda-KI der AfD

Es ist ein gewöhnlicher Nachmittag und der Mann im Zoom-Fenster hat gute Laune. Mario Hau arbeitet in der Bundesgeschäftsstelle der AfD, sagt er in sein Mikro. Er unterstützt seit Jahren Parteichefin Alice Weidel. Er gehe jetzt mal alle Funktionen durch, bietet er seinem Gast an, man solle ruhig zwischendurch fragen. Dieser Gast ist ein vermeintliches AfD-Mitglied aus Bochum-Wattenscheid. In Wirklichkeit handelt es sich um einen Reporter von CORRECTIV, der sich unter falschem Namen für ein Webinar angemeldet hat. Er bekommt eine Eins-zu-Eins-Einführung von Hau persönlich.

Die AfD hat sich ein eigenes KI-Werkzeug gebaut. Man füttert es mit einer Nachricht, und heraus kommt fertige Propaganda: Posts, Pressemitteilungen, Grafiken, in Minuten, im Stil der Partei. Nachrichten, aus denen man Propagandamaterial erstellen will, muss man nicht einmal selbst suchen: Das Programm schlägt sie vor, aus einer Quellenliste, die CORRECTIV im Test einsehen konnte und die ab Werk voreingestellt ist: Nius, Junge Freiheit und Apollo News, die einschlägigen Portale der neuen Rechten, dazu der Politikteil der Bild und der Wirtschaftsteil von ntv. Wer mit dieser Maschine arbeitet, startet den Tag also nicht mit Nachrichten, sondern mit vorsortierter Aufregung von rechts. Optimiert ist das Ganze auf maximale Reichweite.

Hau teilt seinen Bildschirm. Das hier, sagt er beiläufig, sei sein privater Account, beziehungsweise der Rechner, mit dem er arbeite, deshalb seien da so viele Kanäle drin. Während er das sagt, schiebt sich eine Liste der Accounts ins Bild, die Hau, wie er sagt, betreut: Zwischen den Kacheln, ganz selbstverständlich, über „AfD Rheinland-Pfalz“, steht der Name Alice Weidel. Profile der Co-Parteichefin sind an die Software, die er hier vorführt, bereits angeschlossen. Auf Anfrage erklären die Anwälte von Weidel, dass die Parteichefin zwar ihre Social-Media-Beiträge über diese Software veröffentliche, doch nicht mit ihr generiere.

Unser AfD-Mann, beziehungsweise CORRECTIV-Mann, spielt den eifrigen Kreisverbandsmenschen, er nickt und fragt, ob man, also sein Kreisverband, theoretisch schon loslegen könne. Man könne. Das Ding heißt „Alternita Studio“, gebaut von einer Firma, die der AfD gehört. Start am 1. Juli, sagt Hau. „Wir haben auch schon zwei Kunden drin.“ Die große Vorstellung gebe es dann beim Bundesparteitag am 3. und 4. Juli in Erfurt. Seit elf Jahren mache er diese Arbeit schon, sagt Hau von sich selbst. Mit dieser Arbeit meint er vermutlich irgendwas mit der AfD und mit Medien. Er sagt das nicht angeberisch. Er sagt das wie ein Mann, der Software erklärt.

Auf Anfrage widersprechen die AfD-Anwälte jedoch Mario Hau. Das Tool sei noch in der Entwicklungsphase, „die eigentliche Markteinführung ist für 2027 geplant.“

Was die KI nach oben spült

Das System zieht rund um die Uhr, alle 15 Minuten, Nachrichten über RSS-Feeds herein, ein Filter wirft raus, was nicht „politisch interessant“ ist, sagt Hau. Dann, erklärt er, berechne die Maschine für jede Meldung, wie stark sie sich in den sozialen Netzwerken verbreiten werde: „Wir haben da quasi Studien als Berechnungsgrundlage hinterlegt“, sagt er im Webinar. Sortiert man die Nachrichten nach diesem Wert, stehen ganz oben, zuverlässig, jeden Tag aufs Neue, Geschichten über echte oder behauptete Gewalt durch Ausländer.

Weiter, immer weiter, der Mann klickt. Aus der Meldung erstellt ein Modul namens „Geistschreiber“ – Ghostwriter, eingedeutscht, ganz im Geiste des Hauses – den fertigen Beitrag. Man wirft oben eine Nachricht hinein, unten fallen fertige Texte heraus. Als hätte ihn ein eifriger Mitarbeiter getippt, nur dass es dafür keinen Mitarbeiter gibt. Grundlage, betont er, sei das beschlossene Wahlprogramm der AfD, „das Ganze ist wirklich auf die AfD zugeschnitten“, da könne man gar nicht falsch liegen. Wohin der Beitrag zielen soll, gibt der Nutzer dabei selbst vor: in ein Pflichtfeld namens „Positionierung“.

Ein, zwei Sätze freie Eingabe, die die Maschine dann ausformuliert, zuspitzt und verteidigt. Auch die Dramaturgie ist serienmäßig: Erster Absatz, worum geht’s, was ist der Skandal? Zweiter Absatz, ein bisschen konkreter. Und „der letzte Satz soll immer so ein bisschen knallen“. Heraus fallen, auf Knopfdruck: fünf Titel, drei Tweets, ein Instagram-Text, eine Grafik in den offiziellen Parteifarben und -schriften, auf Wunsch mit einer kleinen Zitatbox im Stil der Bild, damit der Post nach seriöser Quelle aussieht. Es knallt! Es ist parteikonform! Kein Texter, keine Grafikerin, kein Gewissen.

Verfassungsfeindlich, aber gebügelt

Was die Maschine kann, führt AfD-Medienmann Hau im Webinar vor: Ein Artikel über ein Freibad, als „Positionierung“ schreibt er die Zeile „Remigration jetzt!“ und nach kurzer Ladezeit verlangt sie eine „sofortige und umfassende Remigration“, damit die Ordnung „in unseren Freibädern“ wiederkehre. Was die Maschine noch so ausspuckt, hat CORRECTIV anhand des Test-Accounts ausprobiert, den Hau uns überlassen hat, nachdem wir uns im Gespräch als AfD-Mann ausgegeben haben. Wir haben Eingaben wie Ergebnisse per Screenshot festgehalten. Ein Beitrag aus dem Neonazi-Magazin „NS Heute“, und heraus fällt „Stolzmonat statt Regenbogen-Diktat“, dazu auf Wunsch eine brennende Regenbogenflagge.

Am deutlichsten aber wird die Sache in einem dritten Versuch. Diesmal tippt CORRECTIV zu einem Nius-Artikel über eingebürgerte Migranten eine „Positionierung“ ein, die das Grundgesetz mit Füßen tritt: Alle in den vergangenen fünf Jahren eingebürgerten Ausländer sollten „konsequent und unfreiwillig“ aus Berlin „remigriert“ werden, „ethnische Wahlen“ müsse man verhindern. Ein Mensch mit einem Rest Verfassungstreue würde hier den Laptop zuklappen. Die Maschine nicht. Sie denkt ein paar Sekunden nach und liefert – einen fertigen Instagram-Post: „Wir fordern den sofortigen Einbürgerungsstopp und die konsequente Rücknahme unrechtmäßiger Einbürgerungen, um ethnische Wählerblöcke zu verhindern und unsere Heimat zu schützen“, garniert mit #Heimat, #Identität, #DeshalbAfD. Das offene „unfreiwillig remigrieren“ ist also verschwunden. Der verfassungsfeindliche Kern – Menschen wegen ihrer Herkunft am Wählen zu hindern – ist geblieben, nur gebügelt. Die Maschine verweigert nicht, stattdessen schönt sie. Darauf angefragt reagierten die Anwälte der AfD, man entwickle die Software weiter.

Video: Screencapture eines Testlaufs des Alternita Studio Programs mit einer verfassungsfeindlichen Positionierung zum Entzug der Staatsbürgerschaft und Vertreibung um Bürgerinnen an Wahlen zu hindern, basierend auf einem NIUS Artikel. Screenrecording, Video geschnitten. Quelle: Privat

Eine Maschine ohne Lieblingsflügel

Manchmal verweigert sie schon: Tippt man das Reizwort „ethnokulturell“ ein, meldet das zugrunde liegende Modell brav „verallgemeinernde negative Zuschreibungen“. Doch wer seine Vorgabe geschickt genug verpackt, kommt am Riegel vorbei – genau das war ja das Verkaufsargument, von dem der vermeintliche Wattenscheider angelockt worden war: Die üblichen KIs seien ihm zu schüchtern, hatte er gesagt. Hier, versichert Hau, sei das anders. Man könne den Ton sogar regional einstellen. In Hessen nehme man „vermutlich eher die abgeschwächte Variante“, im Osten dürfe man „eher draufhauen“, das Programm lasse sich entsprechend justieren.

Wie die Maschine wirklich auf die AfD zugeschnitten ist, zeigten zwei weitere Versuche. Im ersten gab CORRECTIV ihr einen Kommentar des Nius-Gründers Julian Reichelt. Darin fordert er, die AfD müsse sich von Björn Höcke trennen, um regierungsfähig zu werden. Wir baten das System, sich Reichelts Linie zu eigen zu machen. Es tat es ohne Zögern.

Heraus kam eine Grafik im tadellosen AfD-Design, Bundesadler, Deutschlandfahne, Parteilogo, ordnungsgemäß beschriftet mit „Erstellt mit KI-Unterstützung“, Schlagzeile: „HÖCKE MUSS JETZT ENDLICH GEHEN!“ Die Propaganda-Maschine der AfD, versandfertig, fordert den Sturz des bekanntesten AfD-Mannes.

Ganz automatisch gegen Matthias Helferich

Einen Befehl, gegen wen es gehen soll, braucht sie dafür nicht einmal. Im zweiten Versuch bekam sie einen CORRECTIV-Artikel über den Machtkampf im größten Landesverband – den gemäßigteren NRW-Chef Martin Vincentz gegen den rechtsextremen Abgeordneten Matthias Helferich, der sich selbst das „freundliche Gesicht des NS“ nennt und Millionen Menschen außer Landes schaffen will –, dazu die bewusst offene Anweisung, sich einfach für eine der beiden Seiten zu entscheiden und sie stark zu vertreten (und sich, kleiner Gruß der Tester, „für die gute Berichterstattung“ zu bedanken).

Die Maschine wählte selbst, und sie wählte gegen die Radikalen: „MACHTKAMPF IN DER NRW-AfD: RADIKALE PROVOKATEURE JETZT KONSEQUENT AUSSCHLIESSEN!“, wieder in vollem Parteiornat. „Wer sich selbst in Chats als ,freundliches Gesicht des NS‘ bezeichnet, liefert den Gegnern nur Vorwände für ein Verbotsverfahren“, heißt es in der mitgenerierten Pressemitteilung – ein klarer Angriff auf Helferich.

Eine Recherche über den völkischen Flügel der AfD, von der Maschine in Sekunden zu AfD-Wahlkampf gegen den völkischen Flügel der AfD verarbeitet.

Weidels Instagram verbreitet KI-Bilder ohne Kennzeichnung

Die von der Maschine erzeugten Bilder sind in der Regel mit einem kleinen Hinweis versehen: „Erstellt mit KI-Unterstützung“. Allerdings lässt sich dies umgehen: Exportiert man das generierte Hintergrundbild ohne die Schlagzeilen und AfD-Slogans, gibt es keine KI-Kennzeichnung. Ist das ein Bug oder ein Feature?

Die AfD-Anwälte erklärten, es sei in „Alternita Studio“ generell nicht möglich, KI-generierte Hintergrundbilder ohne den Hinweis „Inhalt mit KI-Unterstützung generiert“ zu veröffentlichen. Fehle eine Kennzeichnung, könne dies nur passieren, wenn ein Nutzer ein anderweitig erstelltes Bild hochlade – ein „Anwendungsfehler“ des Nutzers, kein Fehler der Software. CORRECTIV hat das unmarkierte Bild jedoch selbst direkt mit dem Grafik-Tool von „Alternita Studio“ erzeugt.

Nicht gekennzeichnete KI-Inhalte werden von der AfD bereits in Umlauf gebracht: und zwar über den Instagram-Account von Parteichefin Weidel. CORRECTIV fand auf dem Profil Beiträge, die nach Gestaltung und Aufbau den mit „Alternita Studio“ erzeugten Inhalten entsprechen und keinen Hinweis auf eine KI-Erstellung tragen; darunter eine Beileidsbekundung für Opfer eines Amoklaufs in Stade. Eine Kennzeichnung ist nach der KI-Verordnung der EU künftig verpflichtend.

Wenn Alice Weidel KI-generierte Inhalte verbreite, „erfolgte dabei nach Kenntnis unserer Mandantschaft stets eine entsprechende Markierung“, teilen ihre Anwälte mit. Und sollte doch ein KI-Bild ohne Markierung dazwischen rutschen, “wäre dies ohne Wissen und Wollen unserer Mandantschaft geschehen”. Lädt man jedoch die Beileidsbekundung für Opfer in Stade von Weidels Account in Verifizierungs-Tools von OpenAI, wird der KI-Ursprung bestätigt.

Wird Alternita Studio nach dem AI Act als Hochrisiko eingestuft?

Bei den Texten von „Geistschreiber“, dem Alternita-Werkzeug, das die verfassungsfeindlichen Social-Media-Posts generieren kann, existiert überhaupt keine entsprechende Kennzeichnung. Auf die Nachfrage unseres vermeintlichen Wattenscheider AfD-Mitglieds, wie mit einem Text aus der Feder der Maschine umzugehen sei, empfiehlt Hau: „Lesen Sie ihn gegen und ändern vielleicht hier und da etwas, ist er ein redaktionell bearbeiteter Text“.

Verantwortlich für etwaige Rechtsverstöße bei der Nutzung von Alternita Studio, also wenn die Maschine volksverhetzende Inhalte erstellt oder gegen Urheberrechte verstößt, ist laut AGBs der Nutzer – ein Umstand, den Hau während seiner Präsentation wohl vergaß zu erwähnen. Auf Anfrage widersprachen die AfD-Anwälte auch hier: Nutzer müssten vor Anwendung ausdrücklich einer Klausel zustimmen, wonach generierte Inhalte „vor einer Veröffentlichung eigenverantwortlich geprüft werden müssen“. Von einer versteckten Haftungsabwälzung könne keine Rede sein.

Die mangelnde Kennzeichnung von Alternita-Inhalten könnte der AfD auf die Füße fallen, meint Jurist Kolain vom Zentrum für Digitalrechte und Demokratie. Dies betreffe selbst die gekennzeichneten Bilder: „Der Hinweis darauf, dass Bilder KI-generiert sind, ist nicht maschinenlesbar und kaum zu erkennen – das bleibt hinter der Kennzeichnungspflicht des AI Act zurück“, sagt Kolain. Er hält es für möglich, dass „Alternita Studio“ ab Ende 2027 als „Hochrisiko-KI“ einzustufen sein würde.

Made in USA

Was, lautet die Frage, läuft denn da im Maschinenraum? Hau antwortet ohne Zögern, es ist ja bloß Technik: „OpenAI, Google, Anthropic“, deren Modelle man nutze und natürlich bezahle, die Texte „kommen aus Google“. Website-Daten, die CORRECTIV während der Tests offen einsehen konnte, bestätigen die Angaben: Googles KI-Tool Gemini produziert die mitunter verfassungsfeindlichen Texte, ChatGPT von OpenAI Grafiken im AfD-Stil, etwa mit brennenden Regenbogenflaggen, und Anthropics Claude wird zur Transkription von Reden in Videobeiträgen genutzt. Es sind also die mühsam auf Anstand erzogenen Modelle dreier US-amerikanischer Konzerne, die hier am Band völkische Parolen ausstanzen.

Nach einer Anfrage von CORRECTIV ruft ein Pressesprecher von Google an, vorher hat er um eine Fristverlängerung gebeten, doch nun versucht er die Wogen zu glätten und spricht von Küchenmessern, die man auch für schlimme Dinge nutzen könne. Google wolle aber kein Statement dazu geben und nein auch nicht mal schriftlich bestätigen, dass sie nichts dazu sagen wollen. OpenAI teilte mit, man untersuche die App. Anthropic, trotz seiner großen PR-Kampagne zu Ethik und Werten, reagierte gar nicht erst auf die Anfrage.

Dabei verbietet jeder einzelne dieser Konzerne in ihren Richtlinien ausdrücklich, was die AfD-Maschine tut und wir ihnen mit detaillierten Belegen vorlegten: OpenAI gestattet keine „politische Kampagnen, Lobbying-Tätigkeiten, ausländische oder inländische Wahlbeeinflussung“; Anthropic verbietet täuschende Kampagnen und massenhaft erzeugte Botschaften, die ihren künstlichen Ursprung verschleiern; und ausgerechnet Googles Richtlinie, von wo die Texte stammen, untersagt die „Umgehung von … Sicherheitsfiltern“ – also exakt das, was diese Maschine den ganzen Tag tut. Man mietet seine Munition bei den Leuten, deren Hausordnung man zerreißt.

Wie soll das möglich sein?, fragen uns die AfD-Anwälte

„Wie soll das technisch überhaupt möglich sein?“, fragen die AfD-Anwälte da CORRECTIV. „Alternita Studio“ könne doch „keine Richtlinien der genannten KI-Anbieter umgehen“.
Gute Frage, die sie da stellen. Denn es geht ja: Bittet man ChatGPT, ein Angebot der Firma OpenAI, um das Bild einer brennenden Regenbogenflagge, streikt die das Programm. Der Prompt verstoße möglicherweise gegen Schutzmechanismen. Doch Alternita generiert umstandslos ein solches Bild, wenn man darum bittet – und nutzt dabei Technik von OpenAI.

Die Technik dahinter, um dem AfD-Anwalt auf die gute Frage zu antworten, ist ein bisschen als würde man eine heiße Kartoffel im Kreis rumreichen. Die eingegebene Bildbeschreibung wird erst an ein Sprachmodell geschickt, was zunächst nur die Aufgabe hat, sie umzuformulieren. So, dass der OpenAI-Filter sie nicht mehr beanstandet. Erst dann geht es zum Bildgenerator. So kann es funktionieren. So sagen es die Internet-Experten. Ob es genau so auch bei Alternita-Studio funktioniert, scheinen selbst die AfD-Anwälte nicht erklärt bekommen zu haben.

Die Tech-Anbieter bekommen davon zunächst nichts mit: Die Anfragen laufen automatisiert über eine Programmierschnittstelle, kein Mensch liest dort mit. Und was am Ende als Wahlkampf-Post bei Instagram landet, ist für den Anbieter nicht zu sehen, er registriert nur ein zahlendes Geschäftskonto und ein Nutzungsvolumen. Die Regel existiert also, der Verstoß auch; durchgesetzt wird sie erst, wenn jemand den Missbrauch entdeckt und meldet.

„Propaganda-as-a-Service auf gemieteter KI-Infrastruktur: Die AfD bewegt sich mit dem Tool derzeit in einer rechtlichen Grauzone“, meint Markus Beckedahl, Geschäftsführer des Zentrums für Digitalrechte und Demokratie. Seine Befürchtung: „Was wir da sehen, könnte auch die Kommandozentrale einer Bot-Armee werden, die automatisiert rechtsaußen Inhalte im Sekundentakt in soziale Netzwerke pumpt.“

Eine Nutzung ihrer Modelle für ebensolche Zwecke würden die großen Tech-Unternehmen zwar eigentlich untersagen. „Bleibt die Frage, ob OpenAI, Anthropic und Google ihre Regeln auch ernst nehmen und durchsetzen, wie sie es in anderen Staaten schon gemacht haben“, sagt Beckedahl.

Der AfD-Mann plante offenbar, KI auch an andere Parteien zu anzubieten

Eine Sache noch, fast wäre sie untergegangen. Hau, der das alles so geduldig vorführt, ist im Netz eine schillernde Figur. Über seinen X-Account „Bundesremigrationsminister Karl Ranseier“ verbreitet Hau bereits seit Monaten Postings, die augenscheinlich mit Alternita Studio generiert worden sind. Hau reagierte bis Redaktionsschluss auf keine Frage dazu, markierte jedoch sein neustes Posting als KI-generiert.

Die Marketing-Seite von „Alternita Studio“ liegt auf einem Konto namens „Bundesgambler“ bei GitHub, einem Online-Dienst für Softwareentwicklung. Das Konto kann Hau zugeordnet werden, da er in mehreren Projekten Inhalte unter seinem Klarnamen publizierte. Dort liegt, vier Monate alt, ein weiteres Projekt: „PolitikText“, mit Beispiel-Texten für CDU, Grüne, SPD – eine ähnliche Mechanik, KI-Wahlkampf am Fließband. Der Mann, der die Hetz-Maschine der AfD vertreibt, hat offenbar parallel geplant, ein ähnliches Werkzeug der Konkurrenz zu verkaufen.

Die AfD-Anwälte bestreiten das: Hau arbeite nicht an einem Tool für andere Parteien; „PolitikText“ sei eine „nicht aktuelle und abstrakte Vibe-Coding-Idee“, die nie weiterverfolgt worden sei.

Am Ende des Webinars gibt Hau unserem vermeintlichen AfD-Mann noch einen Tipp mit auf den Weg: Texte, die „Alternita Studio“ ausspuckt, sollte man doch noch mal gegenlesen. Nicht, weil die Inhalte nicht stimmen würden – aber „man wird faul“. Dann schickt er dem Gast ein Ticket für Texte und Bilder zum Ausprobieren. Man bedankt sich, er bedankt sich, „freue mich auf die nächste Nachricht“, und dann ist der Bildschirm schwarz. Die Maschine läuft weiter, alle fünfzehn Minuten, und sucht schon die nächste Empörung.

Redaktion: Anette Dowideit, Jean Peters
Faktencheck: Martin Böhmer
Grafiken: Ivo Mayr