Propaganda-by-Design

Wir sind nicht der AfD-Kreisverband Bochum, aber konnten unter seinem Namen die neue Kampagnensoftware der AfD unter die Lupe nehmen.

Möglich gemacht hat das ein Testzugang, den das gemeinnützige Medienhaus CORRECTIV erlangen konnte. Ein Rechercheteam hat investigativ Zugang zu einem Werkzeug bekommen, das die AfD ihren Gliederungen beim Parteitag Anfang Juli in Erfurt vorstellen will. Die Kolleg:innen von CORRECTIV haben uns für eine digitalpolitische und -rechtliche Bewertung angefragt. Wir beobachten seit vielen Jahren, wie sich politische Kommunikation im Netz verändert - und welche Auswirkungen neue Gesetze auf die demokratische Öffentlichkeit haben. Ein Blick in dieses Tool ist für beides aufschlussreich.

Die Software soll Parteikommunikation automatisieren

Was die Software "Alternita Studio" tun soll, ist schnell erzählt: den Social-Media-Betrieb der Parteigliederungen weitgehend automatisieren. Schneller und öfter posten, mit weniger Leuten und einer vereinheitlichten Sprache, die polarisiert. Konsequent weitergedacht könnten das nächstes Jahr auch KI-Agenten komplett übernehmen. Die Software ist technisch auf der Höhe der Zeit und bindet die üblichen KI-Dienste ein, ChatGPT, Claude und Gemini. Zu den rechtlichen Fragen, die das aufwirft, später mehr.

Herzstück ist ein Modul namens „Geistschreiber". Es lehnt sich an den Begriff „ghostwriting" an: Geistschreiber soll den Kreisverbänden und Parteifunktionären die Textarbeit abnehmen, ohne dass das nach außen deutlich wird. In dem Modul laufen im Viertelstundentakt die Nachrichten-Feeds von NIUS, Junge Freiheit, Apollo News, BILD Politik und n-tv-Wirtschaft ein. Eine KI liest mit und vergibt für jede Meldung einen „Viralitätsscore" von eins bis zehn, dazu eine Kurzzusammenfassung und mitunter gleich ein passendes Framing im Sinne der AfD-Programmatik.

Was im „Viralitätsscore" schlecht abschneidet, sortiert die Maschine aus. Übrig bleiben oftmals Meldungen über Straftaten von Menschen mit Migrationshintergrund. Die KI generiert dann Meldungen zu „kriminellen Ausländern", zu Abschiebung und Grenzkontrollen. Das bekannte Playbook der Rechtsaußen-Empörung, nur nicht mehr von Hand kuratiert.

Der „Geistschreiber“ sortiert nach Empörung

Und das ist der spannende Punkt. Über die Geschwindigkeit wird viel geredet: öfter posten, mehr Reichweite, viel Erregung und vor allem einheitliche Messages. Die entscheidende Arbeit erledigt die Software aber vorher. Der „Viralitätsscore" ist in Wahrheit ein Empörungsscore - und wird zur Redaktionsentscheidung. Was nach oben kommt und weiterverarbeitet wird, hat eine KI offenbar nach einem einzigen Kriterium ausgewählt: möglichst viel Wut erzeugen und polarisieren. Die politische Vorauswahl ist getroffen, bevor es sich ein Mensch überhaupt anschaut. Aber auch dieser letzte Prüfschritt lässt sich automatisieren.

Auch die voreingestellten Quellen sind kein Zufall. NIUS und Apollo News sind Rechtsaußen-Desinformationsportale. Ihr Geschäftsmodell ist es, Angst und Empörung zu erzeugen und weiterzutragen. Finanziert werden die (selbst titulierten) „alternativen Medien" teilweise von ideologisch motivierten Milliardären. Dazu kommen die Scharniermedien aus dem Hause Springer, die dieselbe Empörung in konservativere Kreise tragen. Was diese Häuser produzieren, ist im „Geistschreiber“ schon der Rohstoff. Das Tool automatisiert, was das Rechtsaußen-Medienökosystem ohnehin liefert – und verstärkt es mit KI-generierten Botschaften.

Das KI-Tool senkt die Kosten für Schwarm-Posts

Der Blick auf das Tool der parteieigenen GmbH „Alternita" zeigt: Dass hinter der schieren Menge an AfD-Inhalten in den sozialen Netzwerken stets echte Menschen aus Deutschland stehen, ist keineswegs gesagt. Ob eine Person mehrere Accounts unter wechselnden Identitäten betreut, bleibt offen. Ebenso, wie viele der Unterstützenden überhaupt aus Deutschland kommen und wie viele Teil von Troll- und Bot-Armeen einer ausländischen Desinformationsstrategie sind. Das von uns getestete Tool lässt sich weltweit nutzen und theoretisch mit unzähligen Accounts verknüpfen.

Dass die AfD auf allen Ebenen erhebliche personelle Ressourcen weniger in parlamentarische Arbeit als in Kommunikation steckt, ist ein offenes Geheimnis. Das Ziel ist stets, im Schwarm der Accounts von Kommunal- bis Bundesebene größtmögliche Empörung zu erzeugen und Andersdenkende im Namen „der Meinungsfreiheit" anzugehen. Ein Werkzeug wie das KI-Kampagnentool senkt die Kosten dafür weiter und optimiert den Output.

Zurück ins Tool. Mit einem Klick kommt man von der NIUS-Meldung zur Weiterverarbeitung. Über Stichwörter kann man dann noch eigene Schwerpunkte setzen. Daraus baut die Software Vorlagen für die verschiedenen Plattformen. Aus einer Handvoll Posting-Vorschlägen wählt man den passenden aus und teilt ihn direkt auf X, Instagram oder TikTok; vorausgesetzt, man hat einen Account im Tool hinterlegt.

Auch die grafischen Kacheln („sharepics") entstehen weitgehend automatisch. Die angeschlossene KI generiert ein Bild, in unseren Versuchen stets in derselben düsteren AfD-Ästhetik. Friedrich Merz in Handschellen oder Alice Weidel mit grimmigem Blick. Eine kurze Schlagzeile kommt in den passenden AfD-Schriftarten dazu, der Absender - etwa der Kreisverband Bochum - wird automatisiert mit Logo eingebaut. Klein und kaum lesbar findet sich oben rechts der „Transparenz"-Hinweis, dass das Bild KI-generiert sei.

Am Schutzfilter vorbei zu verfassungsfeindlichen Inhalten

Interessant ist, dass offensichtlich eingebaute Filter dafür sorgen sollen, dass bestimmte Aussagen, die Nutzer der KI auf den Weg mitgeben, korrigiert und optimiert werden. Wenn man „Ausländer raus" eintippt, wird daraus immer ein „Kriminelle Ausländer raus". Das Tool ist der AfD wohl auch dabei behilflich, ihre Parteibasis davon abzuhalten, weiter Material für ein mögliches Parteiverbot zu liefern. Unklar ist, ob dies auf Beschönigungen durch die KI-Modelle zurückzuführen ist oder ob die AfD bestimmte Standardformulierungen aus ihrem Vokabular als Vorsichtsmaßnahme später eingebaut hat. Unsere Experimente zeigten aber: Es bedarf nur wenig Kreativität, um am Filter vorbei trotzdem verfassungsfeindliche Inhalte zu generieren.

Eine erweiterte Version des Kampagnentools, die wir nicht ausprobieren konnten, kann auch Videos schneiden und erstellen. Man lädt eine Rede oder anderes Material hoch, die Software sucht automatisch den Ausschnitt mit dem größten Empörungspotenzial heraus. Den Zusammenschnitt packt das Programm in eine passende Vorlage, die sich dann schnell auf TikTok oder Instagram posten lässt. Die KI macht Vorschläge, die Nutzenden wählen ihre Favoriten. So lassen sich reißerische Reden im Bundestag oder provokante Talkshow-Auftritte in Windeseile in Kurzvideos übersetzen. Und im Turbo-Gang auf TikTok hochladen.

Was passiert, wenn man das Tool mit KI nachbauen will?

Wir haben einige Screenshots von dem Tool gemacht und den KI-Bot „Claude Code“ gebeten, das Werkzeug per Vibe-Coding nachzubauen. Die Antwort war eine Weigerung:

„Was dieses Tool tatsächlich ist: Das ist kein neutraler „Social-Media-Helfer". Die Beispiele zeigen explizit AfD-Messaging (Alice Weidel, „Argumentiere für ein AfD-Verbot"-Prompt, Pressemitteilung gegen das Verbotsverfahren). Und die Kernmechanik — eine Quelle → bis zu 10 Beiträge → gleichzeitig auf 7 Plattformen, optimiert nach „Viralitäts-Score" — ist im Kern eine Maschine für skalierte, koordinierte politische Content-Produktion. Also genau das, was man als computational propaganda / koordiniertes inauthentisches Verhalten bezeichnet. Ein produktionsreifes „Alternita-Studio" nachzubauen und zu betreiben, würde ich nicht machen."

Was ein Sprachmodell von sich aus verweigert, betreibt die AfD über die kostenpflichtigen Schnittstellen derselben Anbieter im großen Stil. Genau da wird es für OpenAI, Google und Anthropic zum Problem.

Verstoß gegen die Nutzungsbedingungen der Sprachmodelle

Alternita nutzt die kostenpflichtigen APIs von OpenAI, Google und Anthropic, um in einem politischen Kontext mitunter polarisierende Inhalte zu erzeugen. Es kann daher gut sein, dass ChatGPT, Gemini und Claude die Zugänge der AfD kappen müssen, wenn sie ihre eigenen Nutzungsbedingungen ernst nehmen. Ein Blick in die drei Regelwerke:

OpenAI: Schon die Anwendung für politische Kampagnen gerät in Konflikt mit den Nutzungsbedingungen, die eine Nutzung für „political campaigning" ausdrücklich ausschließen. Das Unternehmen hat solche Zugänge in der Vergangenheit auch gesperrt: beim „Dean.Bot", der den US-Präsidentschaftskandidaten Dean Phillips imitieren sollte, im indischen Wahlkampf sowie bei der in Ruanda seit den 1990ern regierenden Partei „Patriotic Front", die ChatGPT zum Erstellen von Posts auf X nutzte.

Google (Gemini): Die Bedingungen sind weniger eindeutig, verbieten aber eine Nutzung für „Hassrede", „Gewalt" oder „Belästigung" - was auf einzelne Posts der AfD durchaus zutreffen kann. Wenn eine Partei das Modell nutzt, um einseitig ihr Framing in zugespitzter (aber nicht strafbarer) Form zu platzieren, kollidiert das zudem mit dem Anspruch, dass die Google-KI „neutrale Antworten" liefern soll, „die auf fundierten, allgemein anerkannten Fakten beruhen, oder verschiedene Perspektiven aufzeigen". Die AfD-Posts sind vieles - aber multi-perspektivisch sind sie nicht.

Nach den Recherchen von Correctiv stammen die Texte der Posts aus der Google-KI. Offen bleibt, ob und wie das AfD-Tool die Vorschläge aus Gemini nachträglich verändert - ob der Bezug zum Parteiprogramm schon Teil des Prompts an die Schnittstelle ist oder die Übersetzung in AfD-Sprech („kriminelle Ausländer") erst in einem zweiten Schritt entsteht. Im letzteren Fall könnte es sich um eine gezielte Umgehung der Sicherungsfilter handeln - auch das kann zu einem Verstoß gegen die Nutzungsbedingungen führen.

Anthropic: Der KI-Bot Claude verweigert bereits den Nachbau des Werkzeugs - mit der eingangs zitierten Begründung, es handele sich um eine Maschine für koordinierte politische Content-Produktion. Die Nutzungsbedingungen schließen es auch aus, die KI für eine automatisierte Öffentlichkeitsarbeit mit Zielgruppe potentieller Wähler zu nutzen, ohne den KI-Einsatz offenzulegen. Verboten ist auch die Verbreitung falscher oder irreführender Inhalte in einem politischen Kontext.

AfD-Firma Alternita schließt die illegale Nutzung in den AGB aus

Dass Alternita ihren Nutzern in den AGB untersagt, das Tool für strafbare Zwecke oder für „automatisierte Massenveröffentlichung von Inhalten“ zu verwenden, ist beim Vertrieb von IT-Tools nicht außergewöhnlich. Für die Inhalte ist in erster Linie zuständig, wer sie generiert und die Entscheidung trifft, sie zu posten. Aber grundsätzlich nicht, wer nur die Plattform mit den Vorschlägen bereitstellt. Üblich ist auch, dass der Anbieter der Plattform über seine Nutzungsbedingungen die Pflicht weiterreicht, auch die Nutzungsbedingungen der KI-Modellanbieter einzuhalten.

Durch die Regelung in den Nutzungsbedingungen von "Alternita Studio" ist aber nicht vollständig ausgeschlossen, dass die Plattform für das Verhalten der Nutzer gegenüber Dritten rechtlich eintreten muss. Denn die AGB binden erstmal nur Auftraggeber und Auftragnehmer untereinander und haben keinen Einfluss auf eine mögliche Haftung gegenüber Dritten. Sollte die Plattform jedoch AGB-widrig oder sonst missbräuchlich genutzt werden oder fehlen ausreichende Sicherheitsvorkehrungen gegen absehbaren Missbrauch, kann eine Plattform auch für das Verhalten ihrer Nutzer einstehen müssen. Denn die Plattform macht die rechtswidrige Nutzung erst möglich.

Der Geschäftsführer ist gleichzeitig Leiter der AfD-Bundeszentrale

Und bei dem Kampagnen-Tool der AfD ist der Weg zwischen Auftraggeber und Auftragnehmer ohnehin kurz: Der Geschäftsführer der GmbH ist zugleich Leiter der AfD-Bundeszentrale und betreut offenbar auch die Social-Media-Kanäle der Vorsitzenden Weidel. Sobald unter seiner Aufsicht ein volksverhetzender Post durch Alternita gelaufen ist, oder er von missbräuchlicher Nutzung in den Parteigliederungen Kenntnis erlangt, könnte das auch der GmbH zurechenbar sein.

Durch die Personenidentität erscheint auch die AGB-Klausel, nach der „autorisierte Mitarbeiter des Auftragnehmers im Rahmen von Support, Fehlerbehebung und Betriebssicherung Einsicht in die auf der Plattform gespeicherten Inhalte nehmen“ können, in einem anderen Licht. Für abtrünnige Landesverbände könnte das ein Hindernis sein, die Plattform vertrauenswürdig zu nutzen.

Politische Kommunikation im Netz findet nicht im luftleeren Raum statt. Sie ist an Regeln gebunden, die unsere Öffentlichkeit demokratisch strukturieren sollen - einige davon sind neu. Man kann fragen, was ein solches Tool von einem Werkzeug unterscheidet, das eine Umweltorganisation ihren Mitgliedern zur Verfügung stellt. Der Unterschied ist erheblich: Eine Partei ist Akteurin im Wahlwettbewerb und sie unterliegt dem Parteienrecht. Und im Fall der AfD steht ein mögliches Verbotsverfahren im Raum, bei dem die Äußerungen von Kreis- oder Landesverbänden eine zentrale Rolle für die juristische Bewertung spielen.

Darüber hinaus gibt es Vorgaben in den neuen EU-Digitalgesetzen.

Was sagt die KI-Verordnung?

Die Plattform von Alternita könnte künftig als Hochrisiko-KI gelten und damit engmaschigen Vorgaben unterliegen. Denn sie fällt in die Kategorie der KI-Systeme, die laut der Verordnung „bestimmungsgemäß verwendet werden sollen, um (...) das Wahlverhalten natürlicher Personen (...) zu beeinflussen". Die Details der Auslegung sind aber noch offen – und die Regeln für Hochrisiko-KI gelten erst ab Ende 2027.

Auch die zugrunde liegenden Sprachmodelle von Anthropic, Google und OpenAI weisen nach dem AI Act „systemische Risiken" auf. Die Verordnung verpflichtet die großen Anbieter dazu, die Risiken ihres Geschäftsmodells zu analysieren und zu minimieren. Ein Praxisleitfaden der EU-Kommission benennt als Risiko nicht nur die Gefahr für Grundrechte oder demokratische Prozesse, sondern auch „harmful manipulation".

Wenig Schutzvorkehrungen in der KI-Wertschöpfungskette

Es bleibt unklar, ob Google seiner Pflicht hier nachkommt. Denn was als einzelner Post eines AfD-Kreisverbands daherkommt, ist das Produkt einer zentral gesteuerten Plattform, die im Sekundentakt automatisiert Bilder, Texte und Pressemitteilungen erzeugen kann. Zur Risikominderung müsste jedenfalls gehören, dass die Modellanbieter die Nutzung ihrer Schnittstellen durch Anbieter wie Alternita analysieren, mit Schutzvorkehrungen gegen Missbrauch absichern und im Zweifel den Zugang sperren.

Doch in der KI-Wertschöpfungskette gibt es zu wenig Schutzvorkehrungen. Sie kosten Geld. Und jeder Token, den Alternita nutzt, um Text oder Bilder zu erzeugen, steigert den Umsatz. Konsequent wäre, dass die KI-Anbieter die Zugänge von „Geistschreiber" sperren und auch anderen Parteien keinen Zugang für ihre Kampagnen geben.

Denn wie bereits erläutert verstößt es gegen die Nutzungsbedingungen der Anbieter, wenn sich eine Kampagnen-Plattform wie „Geistschreiber" an diese Schnittstellen hängt, um Parteipropaganda zu erzeugen - erst recht, wenn möglicherweise verfassungswidrige oder volksverhetzende Inhalte im Spiel sind. Und für groß angelegte Kampagnen mit Tools wie Alternita müssten ohnehin die Transparenz- und Kennzeichnungspflichten nach KI-VO und TTPW-VO greifen.

Fehlende Kennzeichnung für politische Werbung

Nach der EU-Verordnung über die Transparenz und das Targeting politischer Werbung (TTPW-VO) müssen Dienstleister, die an politischer Werbung mitwirken, ihre Posts als solche kennzeichnen; die geschalteten Anzeigen sind künftig in ein Register einzutragen. In Deutschland ist dieses Register noch nicht eingerichtet, die Bundesnetzagentur wurde erst jüngst als nationale Aufsichtsbehörde benannt.

Auf die Vorgaben der TTPW-VO ist Alternita offenbar nicht vorbereitet. „Geistschreiber" hat zwar automatisch die Funktion, die Bilder (ganz klein, oben rechts in der Ecke) als KI-generiert zu kennzeichnen - aber nicht, sie als „politische Werbung" transparent zu markieren. Interessanterweise waren es gerade Portale wie NIUS, mit Unterstützung der AfD im Bundestag, die sich gegen eine Durchsetzung der Verordnung eingesetzt haben (wir berichteten). Schon damals stand die Vermutung im Raum, dass die AfD im Verborgenen halten will, wie und mit wessen Unterstützung sie ihre politischen Anzeigen erstellt und ausspielt.

Andere Parteien als mögliche Nachahmer

Weil die TTPW-VO neu ist, sind viele Fragen offen. Reicht das AfD-Logo auf den Bildern, um einen Post als politische Werbung erkennbar zu machen? Setzt die Parteispitze bewusst auf eine GmbH mit dem Leiter der Bundeszentrale an der Spitze, damit Alternita nicht als „externer Dienstleister" unter die Verordnung fällt, sondern als parteiinterne Software gilt? Geht sie davon aus, dass strategische Social-Media-Kampagnen, für die kein Geld fließt, aus dem Anwendungsbereich herausfallen (eine derzeit unter Fachexperten heiß umstrittene Frage)?  Diese Fragen sollte die für die Durchsetzung zuständige Bundesnetzagentur nun genau prüfen.

Denn „Geistschreiber" wird nicht nur für Empörung über die erzeugten Inhalte sorgen, sondern auch Nachahmer in anderen Parteien finden. Es lohnt sich, hier früh Rechtssicherheit zu schaffen. Nicht zuletzt im Interesse der Bürger:innen, die wissen wollen, ob sie es mit einem KI-erzeugten Post, einer bezahlten Kampagne oder der selbst formulierten Meinungsäußerung eines Menschen zu tun haben.

„Propaganda-as-a-Service" auf gemieteter KI-Infrastruktur

Die AfD bewegt sich mit dem Tool in einer rechtlichen Grauzone. Zugleich nutzt sie KI-Modelle, deren AGB eine Nutzung für politische Kampagnen und Desinformation verbieten. Bleibt die Frage, ob OpenAI, Anthropic und Google ihre Regeln ernst nehmen und durchsetzen - so, wie sie es in anderen Staaten schon getan haben.

Nur so lässt sich derzeit kurzfristig vermeiden, dass „Geistschreiber“ künftig zur Kommandozentrale einer Bot-Armee wird, die rechtsaußen Inhalte automatisiert und im Sekundentakt in die sozialen Netzwerke pumpt. Das treibt die Polarisierung weiter und erschwert konstruktive demokratische Debatten.

Mit Blick auf die EU-Digitalgesetze ist es wichtig, dass die Aufsichtsbehörden sich kontinuierlich auf neue Entwicklungen vorbereiten und bei möglichen Rechtsverstößen schnell reagieren. Unsere Digitalrechte sind kein „nice to have“, sie schützen demokratische Prozesse und schaffen das dringend notwendige Vertrauen in digitale Technologien.