KI-Propaganda auf TikTok – was ich aus der AfD-Recherche gelernt habe

Vor Kurzem bekam ich am Wochenende eine Anfrage von Golem.de: Ob ich Lust hätte, eine investigative Analyse zu den KI-Videos von AfD-Supportern zu machen.

Da konnte ich natürlich nicht Nein sagen. Für mich gibt es kaum etwas Spannenderes als datengetriebene investigative Recherchen.

Woher kommen die KI-Videos?

Zuerst musste ich herausfinden, wer überhaupt KI-Videos im AfD-Umfeld produziert und worauf wir unsere Untersuchung begrenzen.

Da wir die Recherche relativ zeitnah veröffentlichen wollten, konzentrierten wir uns auf TikTok. Als Erstes habe ich die offiziellen Accounts der AfD untersucht.

Dort habe ich insgesamt nur zwölf KI-Videos gefunden. Danach habe ich TikTok-Accounts überprüft, die direkt AfD-Politikern gehören.

Hier fand ich zwar KI-generierte Bilder, aber keine bewegten KI-Videos. Damit stellte sich die entscheidende Frage: Woher kommen die vielen KI-Videos dann?

* Teilweise KI-Bilder

** Warnung: “Posts that some may find uncomfortable are unavailable.”

Zwei neue TikTok-Accounts und möglichst viel AfD-Content

Ich wollte meinen eigenen TikTok-Account nicht mit AfD-nahen Inhalten füllen. Also erstellte ich einen neuen Account.

Tatkräftig unterstützt wurde ich dabei von meiner Frau, die ebenfalls einen neuen Account anlegte. Wir deaktivierten unser WLAN und begannen damit, gezielt AfD-Inhalte auf TikTok zu konsumieren.

Das Ziel war, über die Empfehlungsalgorithmen eine Stichprobe von Accounts zu finden, die regelmäßig AfD-nahe Inhalte verbreiten.

Was ist für die Recherche ein AfD-naher Account?

Als AfD-nah habe ich Accounts eingeordnet, bei denen sich ein eindeutiger Bezug zur AfD anhand wiederkehrender Inhalte und positiver Bezugnahmen auf die Partei, ihre Politiker oder ihre politischen Positionen feststellen ließ.

Zusätzlich mussten auf dem Account mindestens zehn Videos zu finden sein, in denen erkennbar generative KI eingesetzt wurde.

Der Bezug zur AfD konnte sich beispielsweise auch aus den Captions der Videos ergeben.

AfD-Merch aus dem KI-Generator

Was ich bei dieser Suche gefunden habe, war teilweise schon ziemlich interessant.

Neben Accounts, die dem typischen Bild eines politischen Unterstützer-Accounts entsprachen, stieß ich beispielsweise auf eine Art AfD-KI-Shop: Accounts, auf denen KI-generierte Bilder von Menschen mit AfD-Merchandise veröffentlicht wurden.

In den Profilen gab es teilweise die Möglichkeit, entsprechende Produkte zu kaufen. Was dort tatsächlich verkauft wird und ob Käufer die Produkte überhaupt erhalten, kann ich nicht beurteilen.

Diese Accounts sind deshalb auch nicht in die eigentliche Analyse eingeflossen.

Die gleichen Inhalte in mehreren Sprachen

Noch interessanter war eine andere Beobachtung.

Einige AfD-nahe Accounts, die politische Narrative der Partei unterstützten, veröffentlichten identische oder sehr ähnliche Bild- und Videoinhalte auch in anderen Sprachen, beispielsweise auf Polnisch, Englisch oder Französisch.

Das allein ist natürlich kein Beleg für eine koordinierte Einflussoperation. Es kann aber ein Hinweis darauf sein, dass Inhalte systematisch über Länder- und Sprachgrenzen hinweg verbreitet werden.

Gerade bei solchen Mustern stellt sich deshalb die Frage, ob dahinter organisierte Netzwerke oder möglicherweise Trollfarmen stehen. Um das tatsächlich nachzuweisen, wäre allerdings eine eigene Recherche zur Herkunft, Verbreitung und Vernetzung dieser Accounts notwendig.

Was wir in den Videos gefunden haben

Zurück zur eigentlichen AfD-Recherche.

In meinem Artikel bei Golem.de, „KI-Propaganda auf TikTok: So inszenieren AfD-Supporter den Niedergang Deutschlands“, findet ihr die detaillierten Ergebnisse der Analyse.

Was ich aus der Recherche besonders mitgenommen habe:

Informationskrieg sieht heute anders aus als noch vor einigen Jahren.

Das Thema Remigration tauchte beispielsweise vergleichsweise selten auf. Möglicherweise spielen dabei auch Moderations- und Sperrmechanismen der Plattformen eine Rolle. Stattdessen werden andere, weniger eindeutig erkennbare Narrative transportiert.

Und diese Inhalte werden zusätzlich von Menschen verstärkt, die den KI-Videos offenbar Glauben schenken.

Einige Videos werden von ihren Erstellern selbst als Satire gekennzeichnet. Betrachtet man anschließend die Kommentare darunter, zeigt sich allerdings häufig ein anderes Bild: Dort werden die dargestellten Aussagen teilweise begeistert aufgenommen und offenbar als Bestätigung bestehender Überzeugungen verstanden.

Die neuen Narrative

Auffällig ist dabei, welche Narrative an die Stelle der klassischen Migrationsbotschaften treten. Immer wieder wird etwa behauptet, Friedrich Merz nehme den Deutschen die Rente weg, Wolodymyr Selenskyj bekomme das gesamte deutsche Steuergeld oder Deutschland sei bereits vollständig islamisiert und ohnehin nicht mehr zu retten.

Inhaltlich sind diese Botschaften unterschiedlich, funktionieren aber nach demselben Prinzip: Ein komplexes politisches oder wirtschaftliches Thema wird auf einen einzelnen Schuldigen reduziert und anschließend maximal emotionalisiert. Statt einer politischen Debatte entsteht so ein einfaches Weltbild aus Gewinnern und Verlierern, Tätern und Opfern. Generative KI macht es dabei möglich, solche Erzählungen nicht mehr nur als Text oder Meme zu verbreiten, sondern sie mit scheinbar passenden Bildern und Videos zu emotionalisieren.

Was kann man dagegen tun?

Nach Veröffentlichung des Artikels fragte mich ein deutscher Politiker, was eine mögliche Antwort auf diese Welle aus Desinformation und Manipulation sein könnte.

Ich habe ihm im Wesentlichen Folgendes geantwortet:

1. Politische Aufklärung

Alle demokratischen Parteien könnten stärker darüber aufklären, dass massenhaft Desinformation von vermeintlichen AfD-Supportern produziert und verbreitet wird.

Diese Aufklärung müsste allerdings möglichst einfach und verständlich sein.

Wenn ich vergleichsweise “leichten” rechtsradikalen Content auf TikTok oder Instagram analysiere, aber auch extremere Bereiche wie Imageboards und Darknet-Foren, fällt mir immer wieder auf, wie stark dort mit einfachen Botschaften und einfachen Erklärungen gearbeitet wird.

Man könnte beispielsweise zeigen, warum manche Kanäle Inhalte verbreiten, die zuvor bereits in anderen Sprachen veröffentlicht wurden. Bei einzelnen Mustern stellt sich zumindest die Frage, ob koordinierte Netzwerke oder ausländische Einflussoperationen beteiligt sein könnten.

Das ist allerdings ein steiniger Weg.

Meiner Meinung nach braucht es dafür ein Aufklärungsformat, das die AfD oder andere Parteien bewusst gar nicht erwähnt. Sobald eine Partei genannt wird, schaltet die jeweilige Gegenseite häufig ab.

Es bräuchte also eine Art “Stealth-Format”, das zentrale Narrative und Behauptungen sachlich überprüft und mit Fakten widerlegt, ohne sie ausdrücklich einer Partei zuzuordnen.

Im Mittelpunkt sollten allein die Fakten und eine möglichst verständliche Erklärung stehen.

2. Die Plattformen müssen technisch reagieren

Der technische Teil muss bei den Netzwerken selbst passieren.

TikTok und andere große Plattformen transkribieren und klassifizieren Inhalte bereits automatisiert. Diese Systeme müssten menschenfeindliche Aussagen besser erkennen und politische Propaganda stärker prüfen.

Das passiert bereits, meiner Einschätzung nach aber noch nicht auf einem ausreichenden Niveau.

Ich habe außerdem den Eindruck, dass sich Accounts an bestehende Moderationssysteme anpassen. Migration ist beispielsweise nicht mehr immer das dominante Thema. Eine mögliche Erklärung wäre, dass Klassifikationssysteme inzwischen stärker auf entsprechende Inhalte reagieren.

Stattdessen werden zunehmend andere Narrative aufgegriffen.

Die entscheidende Frage ist allerdings, ob ByteDance, Meta und andere Plattformbetreiber auf politischer Ebene überhaupt entsprechend zusammenarbeiten möchten.

Könnte man beispielsweise einen Social-Media-Kodex einführen? Und wie verhindert man gleichzeitig, dass notwendige Moderation pauschal als “Zensur” oder Angriff auf die Meinungsfreiheit dargestellt wird?

3. Medienkompetenz beginnt in der Schule

Langfristig glaube ich, dass sich das Problem vor allem dann wirksam bekämpfen lässt, wenn wir Medienkompetenz, Menschenrechte, Logik und ein grundlegendes Verständnis moderner Technologien von früh an stärker in unsere Bildung integrieren.

Wir reden dabei allerdings eher über Jahrzehnte als über Jahre.

Am Ende spielt die AfD mit Sorgen und Ängsten von Menschen und bietet dafür einfache Lösungen an, die komplexen gesellschaftlichen Problemen häufig nicht gerecht werden.

Die eigentliche Frage lautet deshalb:

Wie kommt man mit Fakten gegen einfache Rhetorik und Desinformation an?

Fazit

Am Ende war diese Recherche für mich eine Reise in eine Welt, die ich in dieser Form noch nicht kannte.

Völlig unbekannt war sie mir allerdings nicht.

Wer meine Vorgeschichte mit Ganescha Labs kennt, weiß, dass wir schon damals auch extreme Seiten sozialer Netzwerke und rechtsradikale Online-Communitys beobachtet haben.

Damals gab es allerdings noch keine generativen KI-Videos.

Trotzdem erinnert mich vieles an die gleichen grundlegenden Methoden: Hetze, einfache Lösungen für unglaublich komplexe Probleme und die Suche nach einem Sündenbock.

Der Unterschied ist, dass das heute auf eine subtilere Art und mit einer enormen Menge an Inhalten passiert.

Generative KI fügt der politischen Kommunikation damit ein weiteres Werkzeug hinzu: Aussagen und Narrative, die früher hauptsächlich über Texte, Memes oder einzelne Bilder transportiert wurden, lassen sich heute in wenigen Minuten mit scheinbar realen Videos emotional aufladen.

Und genau diese Kombination aus Masse, Emotionalisierung und niedrigen Produktionskosten dürfte uns in den kommenden Jahren noch intensiv beschäftigen.

The circumstances of one’s birth is irrelevent,it is what you do with the gift of life that determines who you are.