xAI verliert gegen Minnesota: Grok und KI-Nacktbilder vor Gericht

xAI wollte Minnesotas neues Gesetz gegen KI-Nacktbilder stoppen. Ein Bundesgericht lehnt den Antrag ab. Für Grok bleibt das Gesetz damit vorerst in Kraft, entschieden ist der Grundsatzstreit aber noch nicht.

xAI verliert vorerst gegen Minnesota

Elon Musks KI-Unternehmen xAI hat im Streit um ein neues Gesetz gegen sogenannte Nudification-Tools einen weiteren Rückschlag erlitten. US-Bundesrichter Donovan W. Frank lehnte am 4. September 2026 einen Antrag des Unternehmens ab, mit dem xAI die Anwendung des Gesetzes vorläufig verhindern wollte.

Konkret geht es um Minnesotas H.F. 1606, inzwischen als Minn. Stat. § 325E.91 kodifiziert. Das Gesetz richtet sich gegen Dienste, mit denen sich realistisch wirkende sexuelle Darstellungen identifizierbarer Personen künstlich erzeugen lassen.

Für xAI ist das unmittelbar relevant, weil das Unternehmen mit Grok Imagine selbst einen Bild- und Videogenerator betreibt.

Wichtig ist allerdings die juristische Einordnung: Das Gericht hat nicht entschieden, dass Minnesotas Gesetz endgültig mit der US-Verfassung vereinbar ist. Abgelehnt wurde zunächst nur xAIs Antrag auf eine “preliminary injunction”, also eine einstweilige gerichtliche Blockade des Gesetzes während des laufenden Verfahrens.

Genau diese Unterscheidung ist für den Fall entscheidend.

Was ist Nudification?

“Nudification” bezeichnet in diesem Zusammenhang die Verwendung von KI, um aus einem vorhandenen Bild oder Video einer realen Person eine neue Darstellung zu erzeugen, auf der intime Körperbereiche zu sehen sind, die im Original nicht dargestellt wurden.

Minnesotas Gesetz setzt zusätzlich voraus, dass das Ergebnis so realistisch wirkt, dass eine vernünftige Person glauben könnte, die dargestellten Körperteile gehörten tatsächlich zu der identifizierbaren Person.

Damit geht es nicht einfach um beliebige erotische KI-Bilder. Im Zentrum stehen synthetische Darstellungen realer Menschen.

Das Gesetz richtet sich dabei nicht primär gegen einzelne Nutzer. Verantwortlich sind Anbieter, die Websites, Apps, Software oder andere Dienste kontrollieren und Nutzern entsprechende Funktionen bereitstellen.

Genau dieser Ansatz macht den Fall auch außerhalb Minnesotas interessant: Nicht nur die Person, die einen problematischen Deepfake erzeugt, soll Verantwortung tragen. Die Regulierung setzt bereits bei der technischen Plattform an.

Was Minnesotas Gesetz konkret verbietet

H.F. 1606 trat am 1. August 2026 in Kraft. Das Gesetz untersagt Anbietern unter anderem, einen Dienst so bereitzustellen, dass Nutzer damit Bilder oder Videos im definierten Sinn “nudifyen” können.

Bei Verstößen kann der Attorney General von Minnesota zivilrechtlich gegen die Anbieter vorgehen. Möglich sind Strafen von bis zu 500.000 US-Dollar pro Verstoß.

Die Definition der betroffenen Körperbereiche ist relativ weit. Neben Genitalbereich, Gesäß und Brust nennt das zugrunde liegende Recht beispielsweise auch Leiste und Innenseite der Oberschenkel.

Für xAI ist genau diese Breite eines der zentralen Probleme.

Das Unternehmen argumentiert, dass damit nicht nur offensichtlich schädliche oder nicht einvernehmliche sexuelle Deepfakes erfasst werden könnten. Auch satirische, künstlerische oder anderweitig harmlose Bilder könnten nach Ansicht von xAI unter die Definition fallen.

Im Verfahren führte das Unternehmen unter anderem hypothetische Darstellungen von Personen in Badebekleidung oder satirischen Szenen als Beispiele für mögliche Grenzfälle an.

Warum xAI gegen das Gesetz klagt

xAI reichte seine Klage am 27. Juli 2026 gegen Minnesotas Attorney General Keith Ellison ein.

Der Kern der Argumentation betrifft den First Amendment der US-Verfassung und damit den Schutz der Meinungs- und Ausdrucksfreiheit.

Aus Sicht von xAI reguliert Minnesota nicht nur eine Technologie, sondern bestimmte Inhalte. Das Unternehmen hält das Gesetz deshalb für eine zu weit gefasste inhaltsbezogene Einschränkung geschützter Ausdrucksformen.

Das ist mehr als eine technische Detailfrage.

Generative Modelle können denselben Mechanismus für vollkommen unterschiedliche Inhalte verwenden. Ein Bildgenerator kann Produktbilder, Memes, politische Satire, Kunst und problematische sexuelle Deepfakes mit derselben grundlegenden Technologie erzeugen.

Die juristische Frage lautet deshalb unter anderem, wie gezielt ein Staat bestimmte Anwendungen generativer Modelle verbieten darf, ohne gleichzeitig geschützte Formen der Kommunikation einzuschränken.

Damit berührt das Verfahren nicht nur Politik und Plattformregulierung, sondern eine der grundsätzlichen Fragen rund um generative KI: Reguliert man das Ergebnis, den Nutzer oder bereits die Funktion des Modells?

Warum das Gericht xAIs Antrag ablehnte

Für die aktuelle Entscheidung musste Richter Donovan W. Frank die große verfassungsrechtliche Frage noch gar nicht abschließend beantworten.

xAI musste zunächst zeigen, dass ohne eine vorläufige Blockade des Gesetzes ein nicht wieder gutzumachender Schaden droht.

Das gelang dem Unternehmen nach Ansicht des Gerichts nicht.

Ein wesentlicher Punkt war das Timing. Minnesota hatte das Gesetz bereits am 7. Mai 2026 verabschiedet. xAI reichte seine Klage jedoch erst am 27. Juli ein und beantragte zwei Tage später eine Notfallentscheidung, nur wenige Tage bevor das Gesetz am 1. August in Kraft treten sollte.

Bereits am 31. Juli hatte das Gericht deshalb einen ersten Antrag auf eine kurzfristige Aussetzung abgelehnt.

Auch beim zweiten Versuch spielte die Verzögerung eine zentrale Rolle. Wer über Monate wartet, bevor er einen angeblich unmittelbar bevorstehenden irreparablen Schaden geltend macht, hat es schwerer, die Dringlichkeit einer einstweiligen Verfügung zu begründen.

Die 500.000-Dollar-Strafe überzeugte das Gericht nicht

xAI verwies außerdem auf mögliche Strafen von bis zu 500.000 US-Dollar pro Verstoß.

Auch dieses Argument reichte dem Gericht nicht.

Finanzielle Schäden gelten bei solchen Verfahren normalerweise nicht automatisch als irreparabel. Geld lässt sich grundsätzlich später ersetzen oder zurückfordern, falls eine Regelung letztlich für ungültig erklärt wird.

Hinzu kam ein praktischer Punkt: Nach den Gerichtsunterlagen hatte xAI seine Nudification-Funktion für Nutzer in Minnesota bereits eingeschränkt beziehungsweise deaktiviert.

Dadurch betrachtete das Gericht das unmittelbare Risiko hoher Strafen als weniger überzeugend.

Auch mögliche Verluste von Nutzern oder Marktanteilen bewertete das Gericht als zu spekulativ.

Das Gericht sieht erhebliche öffentliche Interessen

Auf der anderen Seite stehen die Interessen Minnesotas.

Das Gesetz wurde mit sehr breiter parteiübergreifender Unterstützung beschlossen. Im parlamentarischen Verfahren beschäftigten sich Abgeordnete unter anderem mit Fällen, in denen realistische sexualisierte Fälschungen realer Personen verbreitet wurden.

Besondere Aufmerksamkeit galt dabei nicht einvernehmlichen Darstellungen sowie Material, das Minderjährige sexualisiert.

Das Gericht sah deshalb ein erhebliches öffentliches Interesse daran, die Verbreitung solcher KI-generierten Bilder einzudämmen.

Bei der Abwägung zwischen den von xAI dargestellten Schäden und dem öffentlichen Interesse Minnesotas fiel die Entscheidung deutlich zugunsten des Bundesstaates aus.

Für die gesellschaftliche Debatte um generative KI ist das interessant. Minnesota verfolgt nicht ausschließlich den Ansatz, Missbrauch im Nachhinein zu bestrafen. Der Staat verlangt von Plattformen, bestimmte Möglichkeiten bereits technisch nicht bereitzustellen.

Der entscheidende Verfassungsstreit ist weiterhin offen

Die bisherige Niederlage von xAI sollte deshalb nicht mit einem endgültigen Urteil verwechselt werden.

Richter Frank stellte ausdrücklich fest, dass die von beiden Seiten vorgebrachten verfassungsrechtlichen Fragen komplex sind.

Das Gericht hat in dieser Entscheidung insbesondere nicht abschließend geprüft, ob xAI mit seinem First-Amendment-Argument letztlich Erfolg haben könnte.

Die zentrale Frage bleibt also bestehen: Darf Minnesota Anbietern generativer KI verbieten, bestimmte realistische Bilder überhaupt erzeugen zu lassen, oder greift das Gesetz dabei zu stark in verfassungsrechtlich geschützte Ausdrucksformen ein?

Darüber muss im weiteren Verfahren entschieden werden.

Grok Imagine steht exemplarisch für ein größeres Problem

Der Fall ist auch deshalb relevant, weil Grok Imagine nur ein konkretes Beispiel für ein strukturelles Problem generativer Bildmodelle ist.

Je einfacher Bildgenerierung und Bildbearbeitung werden, desto weniger technisches Wissen ist notwendig, um glaubwürdig wirkende Manipulationen realer Personen zu erzeugen.

Früher erforderte eine hochwertige Bildmontage zumindest grundlegende Erfahrung mit Bildbearbeitung. Generative Systeme reduzieren diesen Prozess zunehmend auf das Hochladen eines Bildes und eine kurze Texteingabe.

Damit verändert sich auch die Frage der Verantwortung.

Bei klassischen Bildbearbeitungsprogrammen liegt die Entscheidung über einzelne Arbeitsschritte weitgehend beim Anwender. Moderne KI-Dienste abstrahieren dagegen einen Großteil dieses Prozesses und stellen gezielt Funktionen über einfache Benutzeroberflächen bereit.

Minnesotas Gesetz versucht genau an dieser Stelle eine Grenze zu ziehen.

Interessant ist dabei eine Ausnahme im Gesetz: Dienste können anders behandelt werden, wenn die Manipulation technische Fähigkeiten des Nutzers voraussetzt. Auch daran zeigt sich, dass Minnesota besonders niedrigschwellige automatisierte Nudification-Angebote adressieren will.

Was der Fall für andere KI-Anbieter bedeutet

Das Urteil gilt zunächst nur im konkreten Verfahren und macht Minnesota nicht automatisch zum Modell für die gesamten USA.

Trotzdem dürfte der Fall von anderen Anbietern generativer Bild- und Videomodelle genau beobachtet werden.

Sollte sich die Regulierung langfristig durchsetzen, könnten Anbieter gezwungen sein, Funktionen stärker regional zu beschränken. Technisch würde das beispielsweise bedeuten, bestimmte Bildbearbeitungsfunktionen abhängig vom Standort eines Nutzers zu deaktivieren oder zusätzliche Moderationssysteme einzusetzen.

Damit entsteht ein Problem, das Softwareunternehmen bereits aus anderen Bereichen kennen: Eine global verfügbare Anwendung muss unterschiedliche lokale Gesetze technisch abbilden.

Generative KI macht diese Herausforderung besonders kompliziert, weil sich erlaubte und verbotene Ergebnisse nicht immer über eine einfache Funktionsschranke voneinander trennen lassen.

xAI geht in Berufung

Der Rechtsstreit ist entsprechend noch nicht beendet.

xAI legte am 4. September 2026, am selben Tag wie die Entscheidung über die vorläufige Verfügung, Berufung beim zuständigen U.S. Court of Appeals for the Eighth Circuit ein.

Parallel bleibt das eigentliche Verfahren vor dem Bundesgericht in Minnesota offen.

Auch Minnesota hat bereits einen Antrag auf Abweisung der Klage gestellt. Die weitere Behandlung dieses Antrags wurde zunächst ausgesetzt, während die Berufung gegen die Entscheidung zur einstweiligen Verfügung läuft.

Das Nudification-Gesetz selbst bleibt währenddessen in Kraft.

Fazit

xAI hat den Kampf gegen Minnesotas Gesetz noch nicht endgültig verloren. Das Unternehmen ist aber mit dem Versuch gescheitert, die Regeln während des laufenden Verfahrens außer Kraft setzen zu lassen.

Damit bleibt eine ungewöhnlich direkte Form der KI-Regulierung zunächst bestehen: Minnesota verbietet nicht nur bestimmte Handlungen einzelner Nutzer, sondern verpflichtet Plattformen dazu, bestimmte Formen automatisierter Nudification gar nicht erst anzubieten.

Der langfristig wichtigere Teil des Verfahrens steht noch bevor.

Gerichte müssen klären, wo bei generativer KI die Grenze zwischen technischer Regulierung, Schutz realer Personen und verfassungsrechtlich geschützter Ausdrucksfreiheit verläuft. Gerade weil dieselben Modelle sowohl harmlose Satire als auch realistische sexuelle Deepfakes erzeugen können, dürfte diese Abgrenzung weit über Grok und Minnesota hinaus relevant werden.

Quellen: Ausgangspunkt ist der Bericht von Gizmodo. Juristische Grundlage ist der Beschluss in X.AI LLC v. Ellison, Civil No. 26-3425 (DWF/DTS), Doc. 54, U.S. District Court for the District of Minnesota, 4. September 2026, sowie Minn. Stat. § 325E.91.