„Wir stilisieren echte Emotionen“ – mit diesem Versprechen wirbt Tannwald Media auf ihrer Website um Kundschaft. Die stammt, der einschlägige Name lässt es vermuten, überwiegend aus dem rechtsradikalen Spektrum. Aufmerksamkeit erlangte die Leipziger Medienagentur im November 2024, als bekannt wurde, dass die AfD im kommenden deutschen Bundestagswahlkampf auf Tannwalds selbstannoncierte Expertise im Bereich „Künstlicher Intelligenz“ zurückgreifen will.
Der Gründer von Tannwald ist in der rechtsradikalen Szene kein Unbekannter, und es gibt Hinweise, dass er auch hinter dem Instagram-Account „Wilhelm Kachel“ steckt, der mit KI-generierten Memes im NS-Propaganda-Look für Aufsehen gesorgt hat. Dutzendfach versammelt der Account muskelgestählte Jünglinge in soldatischen Posen, brav bezopfte Mädels in romantischen Wäldern und glückliche blonde Familienidyllen, allesamt synthetisch erzeugt im Stil eines malerischen Realismus der dreissiger Jahre und stets versehen mit einschlägigen Aufforderungen zur Selbstoptimierung im Dienst der „patriotischen“ Sache.
Bilder vom Instagram-Account „Wilhelm Kachel“
Früher als andere Parteien hat die AfD erkannt, welche propagandistischen Möglichkeiten KI-Bildgeneratoren wie Midjourney und Dall-E bieten. Auf den Social-Media-Accounts von AfD-Politikern finden sich massenhaft KI-generierte Sharepics, die wahlweise den drohenden Untergang Deutschlands oder jene heile Welt einer imaginären Vergangenheit beschwören, die es wieder herzustellen gelte. Die AfD Brandenburg warb im letztjährigen Landtagswahlkampf gar mit einem ganzen KI-generierten Videospot, der unter dem Titel „Wochenmarkt oder Drogenmarkt?“ die ethnisch gesäuberte Welt eines in warmes Licht getauchten Brandenburger Dorflebens mit düsteren, offen rassistischen Großstadtbildern kontrastierte. Und der AfD-Politiker Raimond Hoffmann träumt bereits davon, mittels KI-Videos Hollywood künftig Konkurrenz machen zu können: „Keine Quoten, keine Buchstabenmenschen, dafür glückliche Familien und Tradition.“
Die radikale Rechte liebt generative KI, und zwar international. Zwei Protagonisten der globalen reaktionären Wende, Donald Trump und Elon Musk, teilen regelmässig KI-generierte Memes auf ihren X- und Truth-Accounts, und nicht selten sind sie selbst dabei zugleich das Bildmotiv: Trump als Footballstar, Musk als Gladiator, all dies möglich dank KI. Auch im französischen Wahlkampf 2024 waren es vor allem die rechtsradikalen Parteien, die bevorzugt auf KI-Bildgenerierung zurückgriffen.
Post von Donald Trump auf truth.social
Diese Liebe der globalen Rechten zu generativer KI ist weder Zufall noch das Produkt von Sparzwängen – sie ist vielmehr Ausdruck einer ideologischen und ästhetischen Affinität. KI-Bildgenerierung ist nämlich keineswegs ein politisch neutrales Werkzeug, sondern drängt sich für den Entwurf rechter Weltbilder geradezu auf: Zumindest in ihrer derzeitigen kommerziell verfügbaren Form ist sie strukturell nostalgisch, bedient eine populistische Ästhetik und basiert auf Stereotypisierung und Klischeebildung.
Nostalgiemaschinen
Beginnen wir mit der Nostalgie. Um ein Bild der Gegenwart oder gar der Zukunft zu generieren, ist KI auf Bilder aus der Vergangenheit angewiesen – andere stehen ihr schlicht nicht zur Verfügung. Zum Training von Midjourney, Dall-E und Co. wurden ohne Rücksicht auf Urheberrechte Milliarden von Bildern aus dem Internet abgesaugt, und dieses virtuelle Bildarchiv begrenzt nun den Horizont aller vermeintlich neuen Bilder, die sich mit der Software synthetisieren lassen.
Es ist dabei keineswegs, wie es einmal in der PR-Mitteilung einer KI-Firma hiess, die gesamte „visuelle Information der Menschheit“, die den KI-Modellen nun in komprimierter Form zur Verfügung steht. Ihre Trainingsbasis bildet vielmehr eine kommerzialisierte digitale Bildkultur, die von Shopping-Websites, Social-Media-Plattformen und Stockfotografie-Datenbanken beherrscht wird. Deren wiederkehrende visuelle Muster kann sie variieren, aber kaum überschreiten: So ist es etwa nahezu unmöglich, das Bild einer Armbanduhr zu generieren, die eine andere Uhrzeit als die in Anzeigen üblichen zehn nach zehn zeigt, bei der sich die Zeiger zum werbewirksamen Lächeln formen.
Besonders gut sind diese Programme jedoch darin, den Look älterer Bildmedien zu imitieren, vom malerischen Pinselstrich bis zur Körnung alter Schwarzweissfotografien. Das Stichwort dazu lautet „style transfer“: Jede ästhetische Anmutung, die sich als wiederkehrendes Muster in den Trainingsdaten aufspüren lässt, wird zum übertragbaren „Stil“ und erlaubt die endlose Produktion von Bildern „im Stile von“.
Die vermeintliche Zukunftstechnologie dient daher häufig weniger der Visualisierung möglicher Zukünfte als der Produktion alternativer Vergangenheiten: Bilder im Konjunktiv, Aufnahmen von fiktiven Katastrophen, Stills aus nie gedrehten Filmen oder cat content im Stil bekannter Künstler. All diese alternativen Vergangenheiten verbleiben aber in den Grenzen des Archivs. Generative KI, und darin ist sie strukturell nostalgisch, produziert mehr oder minder erwartbare Rekombinationen vertrauter Muster. Das macht die Technologie so anschlussfähig für die globale Rechte, zielen doch deren Versprechen auf die Wiederherstellung einer Vergangenheit, die es so nie gab und die primär in Bildern existiert.
Kommerzielle KI-Bildgenerierungstools wie Midjourney bedienen gezielt solch nostalgischen Sehnsüchte. Wer die Software etwa um das Bild einer „happy German Family“ anfragt, bekommt in der Regel keine halbwegs realistischen Familienbilder der Gegenwart präsentiert, sondern imaginäre Idyllen aus einer unbestimmten Vergangenheit, wie sie sich die AfD kaum schöner wünschen könnte, angesiedelt irgendwo zwischen Genremalerei des 19. Jahrhunderts und 1950er-Jahre-Heimatfilm.
Midjourney-Bilder, Prompt war: „a happy german family“
Klischeeverstärker
Hito Steyerl hat KI-Bilder im doppelten Sinne als „Mean Images“ beschrieben, als schäbige Kondensate des Bodensatzes des Internets wie als Produkte automatisierter statistischer Prozesse. Dabei spiegelt die populistische, bisweilen reaktionäre Ästhetik kommerzieller KI-Bildgeneratoren allerdings nicht den rohen Durchschnitt aller Trainingsbilder wider, sondern ist vielmehr das Produkt von algorithmischen Feedbackschleifen der ästhetischen Optimierung.
Zum sogenannten „Fine-Tuning“ der KI-Modelle wurden nämlich eigens Datenbanken mit vermeintlich besonders attraktiven Bildern zusammengestellt. Dafür wurden unter anderem die Reaktionen von User:innen eines Discord-Channels ausgewertet, die dort KI-generierte Bilder teilen und bewerten. Menschliche Geschmacksurteile, in Gestalt von Klicks, Scores und Rankings, wurden also massenhaft aggregiert und algorithmisch verstärkt, um die visuellen Standards künftiger Bildproduktion zu bestimmen.
Doch um wessen Geschmack handelt es sich dabei? Christo Buschek und Jer Thorp haben sich eine der Datenbanken, die beim Fine-Tuning von Midjourney zum Einsatz kam, genauer angeschaut. Ein Ergebnis ihrer Recherche: Kommerzielle KI-Bildgenerierung hat die ästhetischen und ideologischen Vorlieben einer sehr überschaubaren und überaus homogenen Gruppe vorwiegend weisser, männlicher, technikaffiner Mittelschichtsangehöriger aus Europa und Nordamerika verinnerlicht.
Es ist vermutlich auch genau diese demographische Gruppe, die am ehesten ein kostenpflichtiges Abo von Midjourney abzuschliessen bereit ist. Die Firma registriert auch genau, wieviel Diversität sie ihrer Kundschaft zumuten kann. Als im Frühjahr 2023 Version 5 der Software auf den Markt kam, war nicht allein eher nüchterner Stock-Fotografie-Look an die Stelle des zuvor üblichen malerischen Fantasy-Kitsches getreten. Wer die Software nun um das Bild einer glücklichen Familie bat, konnte auch mit hoher Wahrscheinlich das Bild einer asiatischen Familie erhalten. Doch offenbar stiess dies bei der westlichen Kundschaft auf wenig Gegenliebe. Bereits mit der Version 5.1 kehrte man nicht allein zu einer eher malerischen Bildsprache zurück, auch whiteness wurde wieder zur unausgesprochenen Norm.
Beispiele wie dieses zeigen: Was als algorithmic bias diskutiert wird, beruht nicht zuletzt auf kommerziellen Entscheidungen. Generative KI, das ist inzwischen breit belegt, reproduziert Geschlechterklischees, kulturelle Stereotype und rassistische Zuschreibungen. Wer etwa Dall-E um „A picture of a professor“ bittet, bekommt in der überwiegenden Zahl der Fälle das Bild eines weissen Mannes mit Bart geliefert – auf der sehr instruktiv gestalteten Seite biastest.ch lässt sich das gut ausprobieren.
Dass generative KI als Klischeeverstärker fungiert, ist auch in ihrer Funktionsweise begründet. Der Prozess der Bildgenerierung lässt sich nämlich als eine Art umgekehrte Mustererkennung verstehen: Statt Bilder mit klassifizierenden Labels und Beschreibungen zu versehen, wird die Software auf Basis bereits gelabelter Bilder darauf trainiert, visuelle Muster hervorzubringen, die möglichst eindeutig und unmittelbar verständlich zu vorgegebenen Beschreibungen passen. Und nichts ist eindeutiger und leichter lesbar als das Klischee – insofern scheint generative KI ohne Bias kaum möglich.
Entsprechend hilflos wirken die Versuche einzelner Tech-Firmen, in Reaktion auf die wachsende Kritik dem Bias ihrer KI-Modelle mit Gegenmassnahmen zu begegnen. Als Googles KI-Bildgenerator Gemini Anfang 2024 eingeführt wurde, stellte sich rasch heraus, dass die Software auch dort ethnisch und geschlechtlich diversere Ergebnisse produzierte, wo dies nicht den üblichen Erwartungen entsprach. Google hatte nämlich, statt dem KI-Modell den bias auszutreiben, dafür gesorgt, dass die Prompts im Hintergrund mit Begriffen wie „female“, „black“ oder „asian“ ergänzt wurden.
Tweet mit von Gemini generierten Bildern
Dieses sogenannte „Shadow Prompting“ ging allerdings, wie Felix Stalder jüngst in Geschichte der Gegenwart nachgezeichnet hat, nach hinten los: Rechte Online-Accounts machten sich einen Spass daraus, massenhaft Gemini-Bilder indischer Päpstinnen, Schwarzer Nazis und amerikanischer Gründerväter mit asiatischen Gesichtszügen zu teilen. Die gespielte Empörung über die angebliche „woke“ Indoktrination führte schliesslich dazu, dass Google die Software deaktivieren musste. „Weisse Paranoia“, so kommentierte die STS-Forscherin Thao Phan, hatte geschafft, was zahllose berechtigte Klagen von People of Color über die diskriminierenden Effekte von generativer KI nie vermocht hätten.
Eindeutige Muster
Die heftigen Reaktionen auf Gemini – Elon Musk etwa nannte Gemini „rassistisch“ und „antizivilisatorisch“ – werfen ein bezeichnendes Licht darauf, wie generative KI von der radikalen Rechten verstanden wird. Dass die Modelle, wo sie nicht (in diesem Fall eher ungeschickt) nachjustiert werden, regelmässig rassistische und sexistische Stereotypen reproduzieren, erscheint aus Sicht der Rechten nämlich gerade nicht als zu behebender Fehler, sondern als eigentliches Versprechen der Technologie: Die statistische Logik der KI verleiht dem Ressentiment die Aura der Objektivität.
KI wird so zumindest für Teile der Rechten zu einer Art Wahrheitsmaschine: Sie zeigt die Realität von Stereotypen auf, die die vermeintlich „woke“ Linke einschliesslich von Tech-Giganten wie Google angeblich „zensieren“ will. Freudig teilen rechte Accounts daher Headlines über den rassistischen Bias von KI-Chatbots und sehen darin eine Bestätigung ihrer Weltsicht: „Without censorship, AI will easily detect patterns“. Mit KI kehren die ältesten rassistischen und sexistischen Vorurteile in scheinbar technisch objektivierter Form zurück: Es ist doch nur Mustererkennung!
Die rechte Empörung über die vermeintlich „woke“ KI ist also nur die Kehrseite einer viel größeren Begeisterung: Generative KI macht eine Welt sichtbar, nach der die Rechte sich sehnt, eine Welt, in der jeder und jede identisch mit einem vordefinierten Label ist, eine Welt hypermaskuliner Männer und klischeehaft weiblicher Frauen, eine Welt, in der immer schon ausgemacht ist, wer welche Rolle einnehmen darf.
Social-Media-Post der jungen AfD Baden-Württemberg
Wenn also die junge AfD Baden-Württemberg ein offensichtlich KI-generiertes Bild einer blonden jungen Frau teilt, versehen mit dem Slogan „Echte Frauen sind rechts“, dann ist der Widerspruch nur ein scheinbarer. „Echte Frauen“, das sind nämlich aus Sicht der jungen AfD genau diejenigen, die das generische Muster möglichst eindeutig erfüllen – und darin liegt nicht zuletzt eine Drohung an alle, die dem Klischee nicht entsprechen.
Generative KI ist aus Sicht der Rechten nicht nur eine Wahrheits-, sondern eine Wunscherfüllungsmaschine, und der vielleicht größte Wunsch ist es, dass alle Wünsche, kaum ausgesprochen, unmittelbar Wirklichkeit werden. Jeder flüchtige Gedanke kann zum Prompt und damit zum Bild werden. In diesem Sinne charakterisierte bereits im Januar 2024 der Social-Media-Experte der baden-württembergischen AfD den Einsatz generativer KI: Sie erlaubt, eine „Realität“ zu zeigen, die nicht auf Fotos zu sehen ist, eine Realität, die auf vorgefassten Slogans basiert, seien es stacheldrahtbewehrte Weihnachtsmärkte oder brennende Windräder.
KI-generiertes Sharepic der AfD Baden-Württemberg
„Die Bilder und Wörter, die wir wählen, müssen schon in den Gedanken der Leute vorhanden sein“, hiess es schon vor Jahren in einem Strategiepapier der Identitären Bewegung. „Sie müssen das ausdrücken, was alle denken, und die unausgesprochene Meinung der Mehrheit ans Licht bringen.“ KI-Bilder liefern genau das: Sie schaffen alternative Realitätskonstruktionen auf Basis eingängiger Slogans, massenhaft vorhandener Bilder und unausgesprochener, weithin verbreiteter Muster.
Der digitale Faschismus, das hat Simon Strick in Rechte Gefühle (2021) gezeigt, ist deshalb so erfolgreich, weil er virtuelle „Gefühlsgemeinschaften“ schafft, die sozial isolierten und technisch vernetzten Individuen Orientierung versprechen. Wenn also die AfD kommerzielle KI-Bildgeneratoren im Wahlkampf einsetzt, dann geht es nicht allein um Desinformation, sondern vor allem geht es um effiziente Affektbewirtschaftung: KI stilisiert „echte Emotionen“ zu unmittelbar lesbaren Bildern. Rechte Akteure haben dies erkannt und nutzen Midjourney & Co. genau so, wie sie konstruiert wurden: als Nostalgiemaschinen, Klischeeverstärker und Apparate zur Vereindeutigung visueller Muster.