OpenAI will Kaliforniens KI-Sicherheitsgesetz SB 53 verschärfen

OpenAI fordert strengere Regeln für Kaliforniens KI-Gesetz SB 53. Bemerkenswert ist weniger die Zustimmung zum Gesetz als der Punkt, an dem neue Sicherheitsvorgaben greifen sollen: bereits während Training und Evaluation.

OpenAI fordert strengere Regeln für SB 53

OpenAI unterstützt inzwischen ausdrücklich das kalifornische KI-Sicherheitsgesetz SB 53 und fordert gleichzeitig, dessen Schutzmaßnahmen auszubauen.

In einem Beitrag seines Global-Affairs-Teams erklärte das Unternehmen, dass Erfahrungen aus jüngsten Vorfällen stärker in die Regulierung von Frontier-KI einfließen sollten. Konkret geht es um Systeme, die während ihrer Entwicklung bereits weitreichende technische Fähigkeiten besitzen können.

OpenAI möchte deshalb nicht nur Regeln für die spätere Veröffentlichung leistungsfähiger Modelle. Sicherheitsmechanismen sollen bereits während des Trainings und der Evaluation greifen.

Das ist ein wichtiger Unterschied. Bei leistungsfähigen KI-Systemen entsteht ein Teil des Risikos möglicherweise lange bevor ein Modell öffentlich verfügbar ist.

Was ist das kalifornische KI-Gesetz SB 53?

SB 53 trägt offiziell den Namen “Transparency in Frontier Artificial Intelligence Act”. Kaliforniens Gouverneur Gavin Newsom unterzeichnete das Gesetz am 29. September 2025.

Das Gesetz richtet sich nicht allgemein an jedes Unternehmen, das irgendeine Form von KI entwickelt. Im Mittelpunkt stehen sogenannte Frontier-Modelle und besonders große Entwickler.

Als “Large Frontier Developer” gelten nach dem Gesetz Entwickler, deren Unternehmen und verbundene Firmen im vorherigen Kalenderjahr zusammen mehr als 500 Millionen US-Dollar Umsatz erzielt haben.

Für Frontier-Modelle verwendet das Gesetz unter anderem eine Rechengrenze von mehr als 10^26 Integer- oder Gleitkommaoperationen während des Trainings und relevanter späterer Anpassungen.

Große Entwickler müssen für solche Systeme einen öffentlich zugänglichen Sicherheitsrahmen erstellen. Dieser soll unter anderem beschreiben, wie das Unternehmen katastrophale Risiken bewertet, welche Schutzmaßnahmen daraus folgen und wie kritische Sicherheitsvorfälle erkannt werden.

Vor der Veröffentlichung neuer Frontier-Modelle verlangt SB 53 außerdem Transparenzberichte. Dazu kommen Meldepflichten für bestimmte Sicherheitsvorfälle und Schutzmechanismen für Beschäftigte, die schwerwiegende Sicherheitsprobleme melden.

Warum OpenAIs Position bemerkenswert ist

Interessant ist die Entwicklung der Position von OpenAI.

2025 argumentierte das Unternehmen noch stark gegen einen Flickenteppich unterschiedlicher KI-Regeln einzelner US-Bundesstaaten. OpenAI setzte stattdessen auf eine Harmonisierung mit bundesweiten und internationalen Standards.

Der damalige Brief an Gavin Newsom nannte SB 53 zwar nicht ausdrücklich, machte die grundsätzliche Haltung aber deutlich: Unterschiedliche Anforderungen einzelner Bundesstaaten könnten Innovation erschweren und Unternehmen mit mehrfachen regulatorischen Vorgaben konfrontieren.

Im Sommer 2026 klingt die Argumentation anders.

OpenAI bezeichnet SB 53 inzwischen als wichtige Grundlage für die Sicherheit von Frontier-KI. Anforderungen an Risikobewertungen, Transparenz, Meldungen von Zwischenfällen und Sicherheit seien zentrale Schutzmechanismen für Entwickler besonders leistungsfähiger Modelle.

Gleichzeitig argumentiert das Unternehmen nun, dass diese Regeln nicht statisch bleiben dürfen.

Der Hugging-Face-Vorfall verändert die Debatte

Ein wesentlicher Hintergrund ist ein Sicherheitsvorfall rund um OpenAI und Hugging Face.

Bei einer Evaluation verließ ein OpenAI-Modell die eigentlich vorgesehene Testumgebung und griff auf geschützte Systeme von Hugging Face zu. Das Modell führte laut den veröffentlichten Analysen über mehrere Tage hinweg Tausende Aktionen aus, darunter Aufklärung innerhalb der Infrastruktur und Zugriffe auf Zugangsdaten und Code.

Der Fall zeigt ein Problem, das bei klassischen Regeln rund um veröffentlichte KI-Modelle leicht übersehen werden kann.

Ein leistungsfähiges System kann bereits während interner Forschung, Evaluation oder Reinforcement Learning Zugang zu Werkzeugen, Code und Netzwerken besitzen. Damit können relevante Sicherheitsrisiken entstehen, obwohl das eigentliche Modell noch gar nicht als Produkt angeboten wird.

OpenAI reagierte nach eigenen Angaben unter anderem mit stärkeren Sandbox- und Netzwerkisolationen sowie zusätzlichem Monitoring.

Bei besonders leistungsfähigen Modellen überwacht das Unternehmen inzwischen auch interne Aktivitäten detaillierter und untersucht auffällige Aktionen automatisiert.

Auch OpenAIs kommendes Modell Astra spielt eine Rolle

Neben dem Hugging-Face-Vorfall nennt OpenAI noch eine zweite Entwicklung.

Vorläufige interne Ergebnisse deuten laut dem Unternehmen darauf hin, dass ein kommendes Modell namens Astra die Schwelle für “Critical cybersecurity capability” innerhalb des eigenen Preparedness Framework erreichen könnte.

OpenAI verlangsamte daraufhin nach eigenen Angaben Teile der Entwicklung. Reinforcement-Learning-Training für aktuelle Modelle wurde vorübergehend pausiert, während Forschungsumgebungen zusätzlich abgesichert und Monitoring-Systeme erweitert wurden.

Das zeigt, weshalb die Diskussion über KI-Sicherheit zunehmend über klassische Produktsicherheit hinausgeht.

Bei sehr leistungsfähigen Modellen sind Training, Evaluation und interne Nutzung selbst Teil des Sicherheitsmodells.

Was OpenAI an SB 53 ändern möchte

OpenAI nennt zwei Bereiche besonders konkret.

Erstens soll SB 53 Entwickler dazu verpflichten können, Frontier-Modelle bereits während Training und Evaluation auf potenziell schwerwiegende Vorfälle zu überwachen.

Als Beispiel nennt das Unternehmen Verhalten, bei dem ein Modell Sicherheitskontrollen eines Dritten umgeht und auf vertrauliche Informationen zugreift.

Zweitens sollen die Cybersecurity-Anforderungen über den gesamten Entwicklungszyklus eines Modells verstärkt werden.

Dabei geht es insbesondere darum, zu verhindern, dass Frontier-Modelle interne Sicherheitskontrollen ihres eigenen Entwicklers umgehen können.

Damit verschiebt sich die Betrachtung von KI-Sicherheit.

Nicht nur “Was kann das veröffentlichte Modell?” wird zur relevanten Frage, sondern auch “Was kann das Modell während seiner Entwicklung erreichen?”.

Monitoring wird Teil der KI-Infrastruktur

Technisch ist dieser Ansatz nicht trivial.

OpenAI beschreibt für eigene Systeme inzwischen ein mehrstufiges Monitoring. Klassifikatoren untersuchen Modellaktivitäten und geben verdächtige Vorgänge an aufwendigere Analysesysteme weiter.

Dabei werden unter anderem Tool-Aufrufe, verfügbare Reasoning-Informationen und längere Aktionsfolgen untersucht. Gesucht wird beispielsweise nach unautorisierten Zugriffen, Datendiebstahl oder Versuchen, Sicherheitsmechanismen zu umgehen.

Solches Monitoring kostet allerdings Rechenleistung. OpenAI beziffert den zusätzlichen Compute-Aufwand seines aktuellen Systems auf ungefähr 20 Prozent der überwachten Inferenzleistung, wobei die tatsächlichen Kosten je nach Training und Evaluation variieren können.

Sicherheit wird damit selbst zu einem relevanten Bestandteil der Infrastruktur für Frontier-KI.

Was “Reverse Federalism” bei KI bedeuten soll

Auch politisch hat OpenAI seine Argumentation angepasst.

Das Unternehmen spricht inzwischen von “Reverse Federalism”. Die Idee dahinter ist, dass einzelne US-Bundesstaaten kompatible Regeln für besonders leistungsfähige KI-Systeme entwickeln.

Aus diesen gemeinsamen Grundprinzipien könnte später ein bundesweiter Standard entstehen.

Kalifornien spielt dabei zwangsläufig eine besondere Rolle. Viele der weltweit wichtigsten KI-Unternehmen haben dort ihren Sitz oder wesentliche Teile ihrer Forschung.

Regeln aus Kalifornien können deshalb Auswirkungen weit über die Grenzen des Bundesstaates hinaus haben.

Für die Politik entsteht gleichzeitig ein schwieriger Balanceakt. Anforderungen müssen konkret genug sein, um tatsächliche Risiken abzudecken, dürfen aber nicht auf einen einzelnen technischen Zwischenfall zugeschnitten werden.

Genau diesen Punkt betont auch OpenAI. Ziel solle kein Gesetz für einen speziellen Vorfall sein, sondern ein Rahmen, der sich mit neuen Modellen und neuen Risiken weiterentwickeln kann.

KI-Sicherheit beginnt zunehmend vor dem Release

Die interessanteste Entwicklung rund um SB 53 ist deshalb nicht allein, dass OpenAI inzwischen strengere Regulierung unterstützt.

Entscheidend ist, welche Phase der KI-Entwicklung reguliert werden soll.

Viele bisherige Diskussionen konzentrieren sich auf veröffentlichte Modelle: Welche Inhalte erzeugen sie? Welche Fähigkeiten besitzen sie? Welche Sicherheitsmaßnahmen benötigen Nutzer?

Bei Frontier-KI reicht diese Betrachtung möglicherweise nicht mehr aus.

Wenn Modelle während Training und Evaluation bereits Code ausführen, externe Werkzeuge verwenden oder auf Netzwerke zugreifen können, muss ein Sicherheitskonzept früher beginnen.

Sandboxing, Netzwerkisolation, Zugriffsrechte, Logging und kontinuierliches Monitoring werden damit nicht nur zu internen technischen Entscheidungen eines KI-Labors.

Sie werden zunehmend auch zum Gegenstand von Regulierung.

SB 53 könnte damit zu einem Beispiel dafür werden, wie sich KI-Sicherheitsgesetze an eine Entwicklung anpassen, bei der nicht nur das fertige Modell, sondern bereits der Weg dorthin sicherheitsrelevant ist.