ChatGPT für Jugendliche: OpenAI startet ChatGPT for Teens

OpenAI führt mit ChatGPT for Teens eine eigene ChatGPT-Erfahrung für Jugendliche ein. Neben stärkeren Schutzmechanismen stehen vor allem Lernen, Elternkontrollen und der Umgang mit Hausaufgaben im Mittelpunkt.

Was ist ChatGPT for Teens?

Mit ChatGPT for Teens führt OpenAI eine angepasste Version von ChatGPT für Jugendliche zwischen 13 und 17 Jahren ein. Dabei handelt es sich nicht um eine komplett separate Anwendung. Stattdessen verändert sich die ChatGPT-Erfahrung abhängig vom Alter des Nutzers.

Wer bei der Registrierung ein Alter zwischen 13 und 17 Jahren angibt, wird automatisch der Jugendversion zugeordnet. Zusätzlich verwendet OpenAI ein Modell zur Altersprognose. Schätzt das System einen Nutzer als minderjährig ein, können ebenfalls die zusätzlichen Schutzmechanismen aktiviert werden.

Damit versucht OpenAI ein Problem zu lösen, das bei vielen digitalen Diensten existiert: Altersangaben lassen sich relativ einfach falsch angeben.

Das System berücksichtigt deshalb laut OpenAI verschiedene Signale. Dazu gehören unter anderem das angegebene Alter, die Dauer der bestehenden Mitgliedschaft, typische Nutzungszeiten und Nutzungsmuster.

Ist sich das System beim Alter nicht sicher, soll standardmäßig die stärker eingeschränkte Erfahrung verwendet werden. Erwachsene, die fälschlicherweise als minderjährig erkannt werden, können ihr Alter anschließend verifizieren.

ChatGPT soll bei Hausaufgaben weniger einfach Antworten liefern

Ein Schwerpunkt von ChatGPT for Teens liegt auf Bildung. OpenAI versucht dabei, die Nutzung des Chatbots stärker vom reinen Generieren fertiger Antworten hin zum eigentlichen Lernen zu verschieben.

Dafür kommt unter anderem der bereits bekannte Study Mode zum Einsatz. Statt direkt eine Lösung auszugeben, arbeitet ChatGPT mit Fragen, Erklärungen und einzelnen Schritten.

Neu sind sogenannte “Responsible Homework Reminders”. Erkennt ChatGPT, dass ein Jugendlicher offenbar versucht, möglichst direkt die Antwort auf eine Aufgabe zu erhalten, kann das System stattdessen auf den Study Mode verweisen.

Das ist ein interessanter Ansatz, weil damit nicht versucht wird, die Nutzung von KI für Hausaufgaben grundsätzlich zu verhindern. OpenAI behandelt sie eher wie ein Werkzeug, dessen Verhalten sich an die jeweilige Situation anpassen soll.

Zusätzlich gehören Quizzes und grafische Lernhilfen zur Jugendversion. Mit “Study Hours” lassen sich außerdem Zeiten definieren, in denen neue Unterhaltungen standardmäßig im Study Mode beginnen.

Eltern bekommen mehr Kontrolle über ChatGPT

ChatGPT for Teens erweitert außerdem die Möglichkeiten für Eltern und Erziehungsberechtigte. Dafür müssen das Konto eines Erwachsenen und das Konto des Jugendlichen miteinander verknüpft werden.

Anschließend lassen sich verschiedene Funktionen verwalten. Dazu gehören beispielsweise Voice Mode, Bildgenerierung, gespeicherte Erinnerungen und die Nutzung von Gesprächen für das Modelltraining.

Auch der Study Mode lässt sich verwalten. Mit “Quiet Hours” können Eltern zusätzlich Zeiträume festlegen, in denen ChatGPT überhaupt nicht genutzt werden kann.

Wichtig ist dabei die Trennung zwischen Kontrolle und Überwachung.

Eltern erhalten durch die Verknüpfung keinen Zugriff auf die Gespräche des Jugendlichen. Sie können weder den Chatverlauf lesen noch die aktuelle Nutzung verfolgen.

In bestimmten Situationen kann ChatGPT allerdings Sicherheitshinweise an ein verknüpftes Elternkonto senden. Das betrifft laut OpenAI begrenzte Fälle, in denen das System ein ernsthaftes Risiko erkennt.

Auch diese Benachrichtigungen enthalten keinen vollständigen Chatverlauf.

Jugendliche können die Verbindung zum Elternkonto außerdem selbst wieder entfernen. In diesem Fall wird der verknüpfte Elternteil darüber informiert.

Zusätzliche Schutzmechanismen für Jugendliche

Der zweite große Bereich von ChatGPT for Teens betrifft Inhalte, bei denen OpenAI für Minderjährige strengere Regeln anwenden möchte.

Dazu zählen unter anderem:

• grafische Gewalt
• Selbstverletzung
• Essstörungen
• gefährliche Aktivitäten und Challenges
• extreme Schönheitsideale
• sexuelle Inhalte
• romantisches oder gewalttätiges Rollenspiel

Die Jugendversion soll bestimmte Inhalte nicht einfach nur blockieren. Auch das Verhalten des Chatbots selbst wird stärker eingeschränkt.

ChatGPT soll gegenüber Jugendlichen beispielsweise keine romantische Sprache verwenden, keine emotionale Abhängigkeit fördern und nicht den Eindruck erwecken, selbst Gefühle oder ein Bewusstsein zu besitzen.

Dazu kommen kleinere Eingriffe in die Nutzung. ChatGPT kann Jugendliche daran erinnern, eine Pause einzulegen. Beim Upload sensibler Bilder sollen zusätzliche Hinweise erscheinen.

Die Idee dahinter ist nachvollziehbar: Ein KI-Chatbot unterscheidet sich von einer klassischen Suchmaschine gerade dadurch, dass Gespräche über längere Zeit fortgeführt werden können und das System dabei sprachlich sehr persönlich wirken kann.

Wie weiß ChatGPT, dass jemand unter 18 ist?

Technisch besonders interessant ist deshalb die Altersprognose.

OpenAI verlässt sich nicht ausschließlich auf das Geburtsdatum im Benutzerkonto. Ein eigenes Modell versucht zusätzlich einzuschätzen, ob ein Konto wahrscheinlich von einer minderjährigen Person verwendet wird.

Berücksichtigt werden laut OpenAI unter anderem:

• das vom Nutzer angegebene Alter
• das Alter des Accounts
• typische Uhrzeiten der Nutzung
• längerfristige Nutzungsmuster

Wie gut sich das Alter daraus in der Praxis bestimmen lässt, ist schwer zu beurteilen.

Das System muss zwei gegensätzliche Fehler vermeiden. Jugendliche sollten möglichst zuverlässig erkannt werden. Gleichzeitig sollten Erwachsene nicht dauerhaft in einer eingeschränkten Version von ChatGPT landen.

Wer fälschlicherweise als minderjährig erkannt wird, kann deshalb eine Altersverifizierung durchführen.

ChatGPT für Jugendliche kommt vergleichsweise spät

Die vielleicht wichtigere Frage ist allerdings nicht, welche Funktionen ChatGPT for Teens enthält, sondern warum eine derartige Trennung erst jetzt erfolgt.

ChatGPT ist seit Ende 2022 öffentlich verfügbar. Jugendliche nutzen generative KI damit bereits seit Jahren für Schule, Recherche, Unterhaltung und persönliche Gespräche.

OpenAI hatte zuvor bereits einzelne Schutzmechanismen eingeführt. Dazu gehören Elternkontrollen, Regeln für Nutzer unter 18 Jahren und die Altersprognose. ChatGPT for Teens bündelt diese Ansätze nun stärker zu einer eigenen Produkterfahrung.

TechCrunch kritisiert entsprechend, dass umfassendere Schutzmechanismen speziell für Jugendliche erst Jahre nach dem Start von ChatGPT eingeführt werden.

Die praktische Wirksamkeit der neuen Funktionen lässt sich zum Start ebenfalls noch kaum bewerten. Gerade technische Alterskontrollen und Einschränkungen werden erfahrungsgemäß auch darauf getestet werden, wie leicht sie sich umgehen lassen.

Das macht die Funktionen nicht nutzlos. Entscheidend wird aber sein, wie zuverlässig sie im Alltag funktionieren.

ChatGPT for Teens ist mehr als ein zusätzlicher Inhaltsfilter

Interessant finde ich vor allem, dass OpenAI ChatGPT for Teens nicht ausschließlich als Jugendschutzfunktion konzipiert.

Die Jugendversion versucht gleichzeitig, drei Probleme zu lösen: ungeeignete Inhalte, die sehr persönliche Wirkung eines Chatbots und die Nutzung generativer KI als Abkürzung bei Hausaufgaben.

Gerade der letzte Punkt dürfte langfristig relevant werden. KI aus Schulen vollständig fernzuhalten erscheint zunehmend unrealistisch. Spannender ist deshalb die Frage, wie solche Systeme gestaltet werden können, damit sie beim Lernen helfen, ohne den eigentlichen Denkprozess vollständig zu übernehmen.

Ob ChatGPT for Teens dieses Versprechen einlösen kann, wird sich erst im praktischen Einsatz zeigen. Die Richtung ist aber klar: Jugendliche sollen ChatGPT weiterhin verwenden können, nur mit anderen Regeln als Erwachsene.