OpenAI und AGI – Was hat das Unternehmen eigentlich vor?

OpenAI arbeitet nicht nur an besseren Chatbots. Ein Grundsatzpapier zeigt, wie das Unternehmen AGI entwickeln, veröffentlichen und kontrollieren will. Der Text ist ambitioniert, aber auch voller Spannungen.

Was OpenAI unter AGI versteht

AGI steht für “Artificial General Intelligence”, auf Deutsch meist künstliche allgemeine Intelligenz. Gemeint sind Systeme, die nicht nur einzelne Aufgaben lösen, sondern in vielen unterschiedlichen Bereichen selbstständig arbeiten können.

Im Beitrag “Planning for AGI and beyond” beschreibt OpenAI AGI vereinfacht als künstliche Intelligenz, die Menschen allgemein überlegen ist. Die offizielle OpenAI Charter verwendet eine etwas konkretere Definition: AGI seien hochgradig autonome Systeme, die Menschen bei den meisten wirtschaftlich relevanten Tätigkeiten übertreffen.

Das ist ein wichtiger Unterschied. Es geht nicht bloß um einen Chatbot, der bessere Antworten liefert. OpenAI denkt über Systeme nach, die programmieren, forschen, planen, analysieren und Entscheidungen vorbereiten können. Sie könnten einen erheblichen Teil heutiger Wissensarbeit übernehmen oder beschleunigen.

OpenAI nennt dafür allerdings weder einen festen Zeitpunkt noch eine eindeutige technische Schwelle. Wann ein Modell tatsächlich als AGI gilt, bleibt damit offen.

Der Kern des Plans – Schrittweise statt plötzlich

OpenAI möchte leistungsfähigere KI-Systeme nicht erst hinter verschlossenen Türen entwickeln und anschließend als fertige AGI veröffentlichen. Das Unternehmen bevorzugt einen schrittweisen Übergang.

Neue Modelle sollen nach und nach leistungsfähiger werden und kontrolliert in der Praxis eingesetzt werden. OpenAI will beobachten, wie Menschen die Systeme verwenden, welche Probleme auftreten und welche Schutzmaßnahmen fehlen.

Die Idee dahinter ist nachvollziehbar: Gesellschaft, Politik und Wirtschaft sollen Zeit bekommen, sich an immer leistungsfähigere Systeme anzupassen. Unternehmen können Arbeitsabläufe verändern. Behörden können Regeln entwickeln. Nutzer können Erfahrungen mit den Vorteilen und Grenzen der Technik sammeln.

Der Text ist deshalb weniger ein Beitrag über ein einzelnes OpenAI Produkt als über das Verhältnis von KI und Gesellschaft.

OpenAI hält einen langsamen Übergang für sicherer als einen plötzlichen technologischen Sprung. Ob sich die Entwicklung tatsächlich kontrollieren lässt, ist damit allerdings noch nicht beantwortet.

Lernen durch reale Nutzung

Ein zentraler Bestandteil der Strategie ist eine möglichst enge Rückkopplung zwischen Entwicklung und Anwendung. OpenAI möchte Modelle veröffentlichen, Erfahrungen sammeln und die Systeme anschließend weiter verbessern.

Dabei geht es nicht nur um technische Fehler. Der reale Einsatz soll auch zeigen, welche gesellschaftlichen Fragen entstehen. Dazu gehören mögliche Verzerrungen in den Antworten, der Missbrauch leistungsfähiger Modelle und Veränderungen auf dem Arbeitsmarkt.

OpenAI argumentiert, dass viele Folgen einer neuen Technologie nicht zuverlässig im Labor vorhergesagt werden können. Erst die praktische Nutzung zeigt, welche Probleme tatsächlich relevant werden.

Dieser Ansatz erklärt, warum öffentlich verfügbare Produkte für die Strategie so wichtig sind. Sie sind nicht nur fertige Angebote für Kunden. Sie liefern zugleich Informationen darüber, wie Menschen mit leistungsfähiger künstlicher Intelligenz umgehen.

Das bedeutet jedoch auch, dass ein Teil des Lernprozesses außerhalb des Unternehmens stattfindet. Nutzer, Unternehmen und öffentliche Einrichtungen werden dadurch indirekt zu Teilnehmern eines großen Praxistests.

Sicherheit und Leistungsfähigkeit sollen gemeinsam wachsen

OpenAI trennt die Entwicklung leistungsfähiger Modelle nicht grundsätzlich von der Sicherheitsforschung. Nach Ansicht des Unternehmens lassen sich viele Risiken erst mit den jeweils fortschrittlichsten Systemen erkennen und untersuchen.

Modelle sollen deshalb nicht nur leistungsfähiger, sondern auch besser steuerbar werden. Nutzer sollen festlegen können, wie sich ein System innerhalb bestimmter Grenzen verhält. Gleichzeitig sollen grundlegende Schutzregeln verhindern, dass Modelle bei gefährlichen oder missbräuchlichen Aufgaben helfen.

Langfristig will OpenAI künstliche Intelligenz auch zur Überwachung anderer KI-Systeme einsetzen. Leistungsfähige Modelle könnten Menschen dabei unterstützen, komplexe Ausgaben zu bewerten, ungewöhnliches Verhalten zu erkennen und neue Sicherheitsmethoden zu entwickeln.

Darin steckt ein schwieriges technisches Problem. Je komplexer ein System wird, desto schwerer kann es für Menschen werden, seine Arbeit vollständig zu überprüfen. OpenAI hofft deshalb, dass KI einen Teil dieser Kontrolle übernehmen kann.

Damit entsteht allerdings eine weitere Abhängigkeit: Ein KI-System soll dabei helfen, ein anderes KI-System zu bewerten. Wie zuverlässig dieses Verfahren funktioniert, hängt wiederum von der Qualität, Transparenz und Steuerbarkeit der eingesetzten Modelle ab.

Wer soll über AGI entscheiden?

OpenAI beschreibt AGI nicht als rein technisches Projekt. Das Unternehmen fordert eine internationale Diskussion darüber, wie solche Systeme kontrolliert werden sollen.

Im Mittelpunkt stehen drei Fragen: Wer legt die zulässigen Einsatzbereiche fest? Wie werden die wirtschaftlichen Vorteile verteilt? Und wer erhält Zugang zu besonders leistungsfähigen Modellen?

OpenAI spricht sich für breite gesellschaftliche Grenzen aus. Innerhalb dieser Grenzen sollen Nutzer möglichst viel Freiheit erhalten, das Verhalten ihrer Systeme anzupassen.

In der Praxis dürfte diese Aufteilung schwierig werden. Gesellschaften unterscheiden sich bei politischen, kulturellen und rechtlichen Fragen erheblich. Eine weltweit akzeptierte Grenze für den Einsatz künstlicher Intelligenz existiert bisher nicht.

Der Beitrag nennt deshalb auch unabhängige Prüfungen, öffentliche Sicherheitsstandards und staatliche Einblicke in besonders große Trainingsläufe. Regierungen sollen nachvollziehen können, wenn Unternehmen Modelle mit außergewöhnlich hohem Rechenaufwand entwickeln.

OpenAI hält zudem gemeinsame Regeln für notwendig, nach denen ein Training gestoppt, ein Modell nicht veröffentlicht oder ein bereits eingesetztes System wieder zurückgezogen werden sollte. Konkrete und weltweit verbindliche Kriterien enthält das Papier jedoch nicht.

Langfristig geht es um Superintelligenz

AGI bildet in OpenAIs Planung nicht zwangsläufig den Endpunkt. Das Unternehmen geht davon aus, dass sich die technische Entwicklung nach dem Erreichen allgemeiner künstlicher Intelligenz fortsetzen könnte.

Besonders relevant wären Systeme, die wissenschaftliche Forschung beschleunigen. Eine ausreichend leistungsfähige KI könnte neue Medikamente, Materialien, Energieformen oder technische Verfahren schneller entwickeln.

Ein solches System könnte möglicherweise auch die weitere KI-Entwicklung beschleunigen. Fortschritte, die heute Jahre benötigen, könnten dadurch in deutlich kürzerer Zeit entstehen.

OpenAI verwendet für diese mögliche Entwicklungsstufe den Begriff Superintelligenz. Gemeint ist eine künstliche Intelligenz, die menschliche Fähigkeiten nicht nur in einzelnen Bereichen, sondern umfassend übertrifft.

Das Unternehmen sieht darin sowohl außergewöhnliche Chancen als auch erhebliche Risiken. Ein schlecht steuerbares System könnte großen Schaden verursachen. Auch ein Staat oder ein Unternehmen mit einem entscheidenden technischen Vorsprung könnte seine Macht stark ausweiten.

OpenAI bevorzugt deshalb einen möglichst langsamen Übergang. Forschungseinrichtungen und Unternehmen sollen an kritischen Punkten zusammenarbeiten und die Entwicklung bei Bedarf verlangsamen.

Ob ein solcher internationaler Konsens im Wettbewerb um Kapital, Fachkräfte und technologische Führung realistisch ist, bleibt offen.

Der wichtigste Widerspruch – Testen durch Veröffentlichen

OpenAIs Strategie enthält einen grundlegenden Zielkonflikt. Das Unternehmen möchte Risiken durch reale Erfahrungen besser verstehen. Dafür müssen leistungsfähige Systeme eingesetzt werden. Gleichzeitig entstehen viele Risiken erst durch diesen Einsatz.

Eine schrittweise Veröffentlichung kann verhindern, dass eine sehr leistungsfähige Technologie völlig überraschend erscheint. Sie kann aber auch dazu führen, dass sich problematische Anwendungen früh verbreiten und wirtschaftliche Abhängigkeiten entstehen.

Unternehmen integrieren KI in ihre Prozesse. Entwickler bauen Anwendungen auf bestimmten Modellen auf. Schulen, Medien und Behörden beginnen, die Systeme zu verwenden. Je stärker diese Abhängigkeiten werden, desto schwieriger kann es sein, ein problematisches Modell wieder vollständig zurückzuziehen.

Der Plan setzt deshalb darauf, dass OpenAI Gefahren rechtzeitig erkennt und seine Strategie anpasst. Das Unternehmen erklärt ausdrücklich, seine Veröffentlichungen deutlich vorsichtiger behandeln zu wollen, wenn die Nachteile die Vorteile übersteigen.

Welche konkreten Ereignisse eine solche Kursänderung auslösen würden, beschreibt der Beitrag jedoch nur allgemein.

Das Papier ist kein aktueller Produktfahrplan

Der Beitrag wurde ursprünglich am 24. Februar 2023 veröffentlicht. Er enthält keine Ankündigung eines bestimmten Modells und keinen Termin für das Erreichen von AGI.

Auch einzelne Aussagen zur damaligen Unternehmensstruktur sind inzwischen veraltet. OpenAI weist darauf direkt am Anfang des Beitrags hin. Seit dem 28. Oktober 2025 besteht die kommerzielle Einheit laut der aktualisierten Unternehmensbeschreibung als OpenAI Group PBC. Kontrolliert wird sie weiterhin durch die gemeinnützige OpenAI Foundation.

Der Text sollte deshalb als Grundsatzpapier gelesen werden. Er beschreibt die Richtung, in die OpenAI gehen möchte, aber nicht jeden aktuellen technischen oder wirtschaftlichen Schritt.

Viele Begriffe bleiben bewusst weit gefasst. Es gibt keine eindeutige AGI-Messgröße, keinen festen Entwicklungszeitplan und keine detaillierte Beschreibung der internationalen Kontrollmechanismen.

Was OpenAI praktisch vorhat

Aus dem Papier lässt sich dennoch eine klare Strategie ableiten.

OpenAI will zunehmend leistungsfähige Systeme entwickeln und diese schrittweise in die reale Welt bringen. Die daraus gewonnenen Erfahrungen sollen in neue Modelle, Sicherheitsverfahren und Produktregeln einfließen.

Parallel möchte das Unternehmen an besser steuerbaren Modellen arbeiten. Künstliche Intelligenz soll langfristig auch dabei helfen, komplexere KI-Systeme zu überwachen und zu bewerten.

OpenAI möchte außerdem an der politischen und gesellschaftlichen Gestaltung möglicher AGI-Regeln mitwirken. Dazu gehören internationale Standards, unabhängige Prüfungen und staatliche Einblicke in besonders große Trainingsprojekte.

Das Ziel ist nicht nur ein leistungsfähigeres Sprachmodell. OpenAI bereitet sich auf Systeme vor, die große Teile kognitiver Arbeit übernehmen und wissenschaftliche sowie wirtschaftliche Entwicklungen beschleunigen könnten.

Fazit – Eine Strategie mit offenem Ausgang

OpenAIs AGI-Plan liefert keine verlässliche Prognose darüber, wann künstliche allgemeine Intelligenz entsteht. Er zeigt aber deutlich, worauf das Unternehmen hinarbeitet.

Die Strategie verbindet drei Elemente: leistungsfähigere Modelle, schrittweise Veröffentlichungen und wachsende Sicherheitsmaßnahmen. OpenAI will nicht auf einen klar definierten AGI-Moment warten, sondern sich durch immer leistungsfähigere Systeme schrittweise dorthin bewegen.

Dieser Ansatz kann Gesellschaft und Politik mehr Zeit zur Anpassung geben. Gleichzeitig verlagert er einen Teil des Risikos in die reale Nutzung.

Der entscheidende Punkt ist deshalb nicht nur, ob OpenAI AGI entwickeln kann. Ebenso wichtig ist, ob das Unternehmen seine eigenen Sicherheitsversprechen einhalten kann, wenn wirtschaftlicher Wettbewerb, technischer Fortschritt und gesellschaftliche Folgen gleichzeitig an Bedeutung gewinnen.