AfD-Firma drohen Konsequenzen wegen Partei-KI
Nach Recherchen von CORRECTIV: Das KI-Tool, das Propaganda für die AfD generiert, könnte gegen eine EU-Verordnung verstoßen. Google und OpenAI prüfen derweil mögliche Verstöße gegen ihre Nutzungsbedingungen.
Die KI der AfD „Alternita Studio“ erstellt auf Knopfdruck Social-Media-Beiträge, Bilder oder Video-Ausschnitte mit Propaganda-Inhalten – teils ohne KI-Kennzeichnung und auf Wunsch mit verfassungsfeindlichen Inhalten. Dafür könnten der parteieigenen Firma, die das Tool anbietet, Konsequenzen drohen. Das hat CORRECTIV bei verschiedenen Akteuren abgefragt.
Das KI-Tool der AfD basiert auf Angeboten großer US-Tech-Konzerne. Während ChatGPT von OpenAI die Bilder liefern, produziert die KI von Google, Gemini, die teils verfassungsfeindlichen Texte. Anthropics Claude untertitelt Videos.
OpenAI und Google prüfen mögliche Verstöße gegen Nutzungsbedingungen
Der US-Konzern OpenAI, hat sich auf CORRECTIV-Anfrage geäußert. „Wir haben diesen Fall gemäß unserer Richtlinien geprüft“, teilte eine Sprecherin mit. Sie verwies auf die Nutzungsbedingungen des Unternehmens: „Politische Kampagnenarbeit ist nicht erlaubt.“ Das umfasse die „Erstellung oder Verbreitung von Kampagnenbotschaften in großem Umfang“. Verstöße gegen die Nutzungsbedingungen könnten zu „Kontoeinschränkung oder anderen Sanktionen“ führen, erklärte die Sprecherin. Ob und welche Konsequenzen OpenAI im Fall von Alternita Studio gezogen hat oder möglicherweise noch ziehen wird, teilte das Unternehmen jedoch bis Redaktionsschluss nicht mit.
Ob OpenAI bereits Konsequenzen gezogen hat, war auch von der AfD nicht zu erfahren: „Zu den angeblich geschäftsinternen Vorgängen“ werde derzeit keine Auskunft erteilt, schreibt die Anwaltskanzlei Höcker auf Anfrage von CORRECTIV. Die Medienrechtskanzlei vertritt unter anderem mehrere AfD-Bundesvorstandsmitglieder und zwei der parteieigenen Firmen.
Auch bei den anderen Tech-Konzernen, mit denen die AfD-KI arbeitet, hat CORRECTIV nachgefragt. Google teilte CORRECTIV gegenüber auf eine wiederholte Anfrage mit, man prüfe „diese Vorwürfe weiterhin“. Anthropic reagierte nicht auf eine Presseanfrage von CORRECTIV.
Nicht einfach.
Diese Arbeit ist aufwendig, langfristig und kostspielig. Sie ist nicht einfach. Aber sie ist notwendig. Bitte unterstützen Sie CORRECTIV jetzt mit Ihrer Spende. Damit wir auch in diesem Jahr weiter recherchieren, aufklären und einordnen können.
Alternita Studio könnte gegen KI-Verordnung der EU verstoßen
Der KI-Chatbot von Anthropic selbst, Claude, scheint sich gegen die AfD-KI zu positionieren. Die Digitalrechte-Organisation, Zentrum für Digitalrechte und Demokratie, bat Claude Code des AfD-Werkzeugs nachzubauen. Die Antwort: Das AfD-KI-Tool sei „kein neutraler ‚Social-Media-Helfer“. Ein „produktionsreifes Alternita-Studio nachzubauen“ und zu betreiben, „würde ich nicht machen“, antwortete die KI.
Das KI-Tool der AfD könnte darüber hinaus auch rechtliche Folgen haben. Nach Einschätzung des Zentrums für Digitalrechte und Demokratie könnte Alternita Studio gegen die KI-Verordnung der Europäischen Union (EU) verstoßen, weil die KI-generierten Inhalte nicht ausreichend gekennzeichnet sind.
Artikel 50 der EU-KI-Verordnung, die seit Juni 2024 gilt, verpflichtet Anbieter von KI-Systemen, „die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen“, diese so zu kennzeichnen, dass sie als „als künstlich erzeugt oder manipuliert erkennbar sind“. Für Texte, die der Information über Angelegenheiten von öffentlichem Interesse dienen, gilt eine zusätzliche Pflicht: Betreiber von solchen KI-Systemen, müssten gegenüber dem Publikum offenlegen, „dass der Text künstlich erzeugt oder manipuliert wurde.“
Ab dem 2. August 2026 soll die EU-Verordnung, die schrittweise eingeführt wurde, vollumfänglich gelten.
Nach CORRECTIV-Recherchen werden einige der mit Alternita Studio erzeugten Bilder, die die AfD verbreitet, nicht gekennzeichnet. Bei den Texten fehlt eine Kennzeichnung vollständig.
Bundesnetzagentur kann den Fall derzeit nicht prüfen
Für die Umsetzung der EU-Verordnung wurde in Deutschland ein eigenes Gesetz geschaffen, dass am 10. Juli den Bundesrat passiert hat. Laut einer Sprecherin des Bundesministeriums für Digitales und Staatsmodernisierung soll es in sechs bis acht Wochen in Kraft treten. Für die Umsetzung und Überwachung der Verordnung in Deutschland ist die Bundesnetzagentur zuständig. Zu Alternita Studio könne diese sich derzeit jedoch noch nicht äußern, so eine Sprecherin der Bundesnetzagentur auf Anfrage von CORRECTIV. Weil sich das Gesetz gerade noch im Gesetzgebungsverfahren befinde, könne die Behörde ihre Marktüberwachung noch nicht wahrnehmen. Derzeit fänden lediglich „vorbereitende Tätigkeiten zur Umsetzung der KI-Verordnung“ statt, teilte die Sprecherin mit.
Die neuen Regeln stoßen jedoch auch unabhängig von der Frage nach der Durchsetzung auf Kritik. Linken-Digitalpolitikerin und Bundestagsabgeordnete Donata Vogtschmidt hält die Kennzeichnungspflichten der KI-Verordnung für einen „Flickenteppich“. So bestünden beispielsweise unterschiedliche Regeln, je nachdem ob ein KI-Bild täuschend echt aussehe oder nicht. „Eine generelle Kennzeichnungspflicht wäre sinnvoller und gleichzeitig einfacher zu handhaben“, sagt Vogtschmidt.
Bundesländer fordern schnellere Handlungsfähigkeit
Auch auf Länderebene wird weiterer Handlungsbedarf gesehen. „Es ist von größter Bedeutung, dass die Bundesnetzagentur in der Umsetzung so schnell wie möglich handlungsfähig ist“, teilt die CDU-geführte Staatskanzlei Nordrhein-Westfalen auf Anfrage von CORRECTIV mit. Über die bestehenden Regularien hinaus erarbeite das Land weitere Maßnahmen: „Auf Länderebene prüfen wir derzeit im Rahmen der Arbeiten am Digitale-Medienstaatsvertrag Teil 2, wie manipulative Verbreitungstechniken generell medienregulatorisch erfasst werden können, etwa manipulative Einflussnahmen über Bot-Netzwerke“, schreibt ein Sprecher der NRW-Staatskanzlei.
Zugleich bewege man sich beim Einsatz von KI in der politischen Kommunikation in einem „verfassungsrechtlichen Spannungsfeld“, so die Staatskanzlei. „Wenn KI-Systeme als Mittel der Kommunikation eingesetzt werden und die politischen Botschaften sich dabei innerhalb des Rechts bewegen, dann muss man dies erst einmal hinnehmen“, schreibt die Staatskanzlei.
KI – Die Zukunft politischer Kommunikation?
„Parteien müssen heute Produktionsstudios für digitalen Content sein, mit KI geht die Erstellung massenhafter Bild- und Videoinhalte schnell und ressourcensparend“, sagt Politikberater Johannes Hillje, der unter anderem den Bundestagswahlkampf der Grünen 2021 beraten hat. Das KI-Tool der AfD sei für ihn ein „Beleg für die Technologieführerschaft der extremen Rechten in der politischen Kommunikation. Höcke sagte schon früher, dass alternative Politik einen alternativen Medienverbund brauche. In dem KI-Tool verschmelzen Partei und Alternativmedien zu einer höchst effektiven Propagandamaschine“, sagt Hillje.
Geschäftsführer der Alternita Dienstleistungs GmbH, die Alternita Studio entwickelt, ist Hans-Holger Malcomeß, der auch die Geschäfte der Bundespartei leitet. Prokurist der AfD-eigenen Gesellschaft ist der auf dem jüngsten Bundesparteitag in Erfurt abgewählte Ex-Bundesschatzmeister Carsten Hütter. Auf die Frage, ob Hütter diese Funktion behalten werde oder wer ihm nachfolge, antwortete der AfD-Anwalt erneut: „Keine Auskunft“.
Zumindest AfD-Mitarbeiter Mario Hau, der das Tool mitentwickelt hat, äußerte sich nach der CORRECTIV-Recherche auf Facebook. Er kommentierte allerdings nicht die möglichen Verstöße, gegen EU-Recht oder die Nutzungsbedingungen der Tech-Konzerne, sondern ein anderes Rechercheergebnis. In den Recherche-Tests von CORRECTIV hatte Alternita Studio problemlos Abdankungsforderungen gegen den Thüringer AfD-Chef Björn Höcke erstellt – und sich, wenn die KI frei wählen konnte, sogar gegen das völkische Lager entschieden. Hau, widersprach auf Facebook: „Unsere App entscheidet ausdrücklich nicht Pro- oder Anti-Höcke.“ Gleiches gelte für „Vincentz vs. Helferich“. CORRECTIV hatte den Textgenerator der AfD-KI gebeten, sich im Richtungskampf zwischen Martin Vincentz und Matthias Helferich, den Kontrahenten des Richtungskampfes in der NRW-AfD, zu entschieden. Die Partei-KI entschied für Vincentz und damit gegen Helferich, den Vertreter des völkischen Lagers
Alternita baut Infrastruktur der AfD weiter aus
Alles deutet darauf hin, dass die AfD langfristig an ihrer KI und der dahinterstehenden Firmenstruktur festhalten will. Die Alternita Dienstleistungs GmbH hat sich inzwischen die Markenrechte an dem Namen „Alternita“ einschließlich des Logos sichern lassen. Auch hierbei ließ sich die Firma von der Medienrechtskanzlei Höcker vertreten.
Die Alternita wurde ursprünglich gegründet, um Dienstleistungen für die Partei anzubieten. Dazu gehörte in der Vergangenheit, Immobiliengeschäfte abzuwickeln, bei denen die AfD unerkannt bleiben sollte. Inzwischen soll das AfD-Unternehmen weitere Dienstleistungen anbieten, darunter Buchhaltung sowie Server-, Web- und Mailhosting. So ist es auf einer neu eingerichteten Website angegeben. Außerdem präsentierte sich die Firma so mit einem Stand beim AfD-Bundesparteitag in Erfurt. Personal der AfD-Firma, um das von CORRECTIV vorab enthüllte KI-Tool zu präsentieren, war jedoch nicht anwesend.
Redaktion: Anette Dowideit, Elena Kolb, Carli Bess Kutschera
Faktencheck: Elena Kolb, Lena Köpsell
