OpenAI unterstützt Kaliforniens KI-Jugendschutzgesetz SB 1119

Kalifornien will den Umgang von KI-Chatbots mit Minderjährigen stärker regulieren. OpenAI unterstützt SB 1119 und damit Regeln zu Altersprüfung, Audits, Elternkontrollen und automatischen Schutzmaßnahmen.

OpenAI unterstützt California Senate Bill 1119

OpenAI hat sich öffentlich hinter den California Senate Bill 1119 gestellt. Das Gesetz soll festlegen, welche Schutzmaßnahmen Anbieter von KI-Chatbots treffen müssen, wenn ihre Produkte von Kindern und Jugendlichen genutzt werden.

Der Entwurf, häufig kurz als SB 1119 bezeichnet, wurde am 31. August 2026 vom kalifornischen Parlament verabschiedet. Damit liegt er nun bei Gouverneur Gavin Newsom, der das Gesetz noch unterzeichnen muss.

OpenAI fordert Newsom ausdrücklich dazu auf.

Für den Anbieter von ChatGPT ist die Unterstützung auch deshalb relevant, weil einige der vorgesehenen Vorgaben unmittelbar die Gestaltung von KI-Produkten betreffen. Dazu gehören Altersbestimmung, Sicherheitsprüfungen vor der Bereitstellung für Minderjährige und zusätzliche Schutzmechanismen bei sensiblen Inhalten.

Damit entwickelt sich die Debatte um Jugendschutz bei KI zunehmend von freiwilligen Produktentscheidungen hin zu konkreten gesetzlichen Anforderungen.

Was SB 1119 für KI-Chatbots vorsieht

SB 1119 richtet sich insbesondere an Anbieter von KI-Chatbots, die auch von Kindern und Jugendlichen genutzt werden können.

OpenAI hebt in seiner Stellungnahme mehrere Punkte hervor, die das Unternehmen unterstützt. Anbieter sollen demnach das Alter ihrer Nutzer bestimmen und Risiken für Minderjährige bereits vor der Veröffentlichung eines Produkts identifizieren.

Hinzu kommen unabhängige Audits.

Besondere Anforderungen gelten für Inhalte, die für junge Nutzer ein erhöhtes Risiko darstellen können. Dazu gehören beispielsweise Interaktionen rund um Selbstverletzung, sexuell ausbeuterische Inhalte oder andere Situationen, in denen ein Chatbot problematische Antworten erzeugen könnte.

Eltern sollen außerdem Werkzeuge erhalten, mit denen sie die Nutzung durch ihre Kinder begleiten oder begrenzen können.

Bei schwerwiegenden Krisensituationen sollen Systeme auf geeignete Hilfsangebote verweisen können. Gleichzeitig sieht der Rahmen Einschränkungen für personalisierte Werbung sowie besondere Anforderungen beim Umgang mit personenbezogenen Daten junger Nutzer vor.

Für Nutzer zwischen 13 und 17 Jahren sollen solche Schutzmaßnahmen nach Vorstellung des Gesetzgebers nicht erst manuell aktiviert werden müssen. Sie sollen standardmäßig gelten.

Altersprüfung wird zu einem zentralen Punkt

Eine der technisch interessantesten Anforderungen ist die Altersbestimmung.

Viele digitale Dienste arbeiten bislang im Wesentlichen mit einer Selbstauskunft. Nutzer geben bei der Registrierung ein Geburtsdatum an, das System übernimmt diese Information.

Für einen konsequenten Jugendschutz reicht dieses Modell nur begrenzt aus.

OpenAI arbeitet deshalb bereits mit einer sogenannten Age Prediction. Das System versucht anhand verschiedener Signale einzuschätzen, ob ein Nutzer wahrscheinlich minderjährig ist.

Nach Angaben des Unternehmens werden Personen automatisch in die für Jugendliche vorgesehene ChatGPT-Version eingeordnet, wenn das System sie als unter 18 einschätzt oder sie selbst ein Alter zwischen 13 und 17 Jahren angeben.

Die entscheidende Frage verschiebt sich damit allerdings nur.

Statt ausschließlich zu prüfen, ob ein Nutzer ein korrektes Geburtsdatum angegeben hat, müssen Anbieter entscheiden, anhand welcher Daten sie Alter zuverlässig einschätzen können und wie sie dabei gleichzeitig die Privatsphäre der Nutzer schützen.

Altersbestimmung und Datenschutz stehen deshalb technisch in einem Spannungsverhältnis, das Anbieter nicht einfach durch zusätzliche Datensammlung lösen können.

ChatGPT for Teens soll Schutzmaßnahmen automatisch aktivieren

Parallel zur politischen Diskussion hat OpenAI mit “ChatGPT for Teens” eine eigene Umgebung für Nutzer unter 18 Jahren eingeführt.

Dabei handelt es sich nicht nur um eine Sammlung optionaler Einstellungen.

Nach Angaben von OpenAI werden die zusätzlichen Schutzmaßnahmen automatisch aktiviert, sobald ein Nutzer als minderjährig erkannt wird. Jugendliche sollen diese Basisschutzmaßnahmen nicht selbst abschalten können.

Gleichzeitig will OpenAI den Funktionsumfang von ChatGPT nicht auf eine reine Kindersicherung reduzieren.

Funktionen wie Lernmodus, Quizze oder Visualisierungen sollen weiterhin verfügbar sein. Auch Kontext aus früheren Unterhaltungen und Memory können grundsätzlich genutzt werden.

OpenAI argumentiert, dass dieser Kontext nicht nur bei Lernprojekten hilfreich sein kann. Er könne auch dazu beitragen, problematische Muster über mehrere Gespräche hinweg besser zu erkennen.

Gerade Memory ist dabei ein interessanter Punkt. Eine Funktion, die mehr Kontext über einen Nutzer speichert, kann einerseits bessere und konsistentere Schutzmechanismen ermöglichen. Andererseits entstehen dadurch zusätzliche Anforderungen an Datenschutz und Datenminimierung.

KI-Chatbots sind nicht einfach soziale Netzwerke

SB 1119 zeigt außerdem, dass die Regulierung von KI-Chatbots zunehmend als eigenes Problem betrachtet wird.

Viele der vergangenen Debatten über Jugendschutz im Internet konzentrierten sich auf soziale Netzwerke. Dort geht es unter anderem um öffentliche Inhalte, algorithmische Feeds, Werbung und Interaktionen zwischen Nutzern.

Bei einem KI-Chatbot ist die Situation anders.

Die Interaktion findet häufig direkt zwischen Nutzer und System statt. Antworten werden individuell erzeugt und können sich über längere Gespräche entwickeln.

Damit entstehen andere Risiken.

Ein problematischer Beitrag in einem sozialen Netzwerk kann moderiert oder entfernt werden. Bei generativer KI muss dagegen verhindert werden, dass das System problematische Inhalte überhaupt erzeugt oder über mehrere Nachrichten hinweg in eine ungünstige Richtung entwickelt.

Das erklärt auch, warum Anforderungen wie Risikobewertungen, Audits und kontinuierliche Schutzmechanismen bei KI-Systemen eine größere Rolle spielen.

Kalifornien könnte erneut zum regulatorischen Vorbild werden

Der politische Kontext ist ebenfalls relevant.

Kalifornien ist nicht nur Heimat vieler großer Technologieunternehmen. Entscheidungen des Bundesstaates können aufgrund seiner wirtschaftlichen Bedeutung Auswirkungen weit über die eigenen Grenzen hinaus haben.

OpenAI argumentiert, dass Kalifornien angesichts fehlender bundesweiter Regeln in den USA einen eigenen Standard für den Jugendschutz bei KI schaffen könne.

Ob daraus tatsächlich ein Modell für andere Bundesstaaten oder eine spätere nationale Regulierung entsteht, lässt sich noch nicht sagen.

Die Richtung ist jedoch erkennbar.

Jugendschutz bei generativer KI entwickelt sich zunehmend zu einem eigenen regulatorischen Feld. Altersbestimmung, sichere Voreinstellungen, unabhängige Prüfungen und der Umgang mit besonders sensiblen Interaktionen dürften dabei zu zentralen Themen werden.

Für Unternehmen wie OpenAI ist es deshalb sinnvoll, solche Anforderungen bereits direkt in ihre Produkte zu integrieren, statt ausschließlich auf freiwillige Einstellungen durch Eltern oder Jugendliche zu setzen.

Was SB 1119 für ChatGPT-Nutzer bedeutet

Für normale erwachsene ChatGPT-Nutzer verändert SB 1119 zunächst wenig.

Relevant wird das Gesetz vor allem dort, wo Systeme von Minderjährigen verwendet werden oder ein Anbieter davon ausgehen muss, dass ein Nutzer noch nicht volljährig ist.

Dann könnten besondere Schutzvorgaben automatisch greifen.

Für Eltern bedeutet das perspektivisch mehr Kontrollmöglichkeiten. Für Jugendliche kann es dagegen bedeuten, dass bestimmte Antworten, Funktionen oder Inhalte stärker eingeschränkt werden.

Entscheidend wird sein, wie zuverlässig Anbieter das Alter ihrer Nutzer bestimmen können.

Eine zu lockere Erkennung würde Schutzmechanismen leicht umgehbar machen. Eine zu aggressive Altersklassifizierung könnte dagegen erwachsene Nutzer fälschlicherweise einschränken.

Damit wird aus einer politischen Forderung schnell ein konkretes technisches Problem.

Jugendschutz wird Teil des Produktdesigns

Interessant an SB 1119 ist deshalb weniger eine einzelne vorgeschriebene Funktion als der grundsätzliche Ansatz.

Jugendschutz soll nicht erst dann beginnen, wenn ein Problem gemeldet wird. Anbieter sollen Risiken bereits beim Design ihrer Systeme berücksichtigen und Schutzmechanismen standardmäßig aktivieren.

Das entspricht einem Prinzip, das auch in anderen Bereichen der Politik und Technik zunehmend diskutiert wird: Sicherheitsmechanismen funktionieren besser, wenn Nutzer sie nicht erst selbst finden und konfigurieren müssen.

OpenAI unterstützt diesen Ansatz öffentlich und verweist gleichzeitig auf die eigenen Maßnahmen rund um ChatGPT for Teens, Altersprognosen und Elternkontrollen.

Sollte Gouverneur Gavin Newsom SB 1119 unterzeichnen, wird sich zeigen müssen, wie die Anforderungen praktisch umgesetzt und kontrolliert werden.

Gerade Altersbestimmung, Datenschutz und die technische Bewertung riskanter Gespräche dürften dabei wesentlich komplizierter werden als die grundsätzliche politische Forderung nach mehr Schutz für Minderjährige.