Anthropic lässt Claude von Accenture auf KI-Sicherheit prüfen

Anthropic will die Sicherheitsprüfung seiner KI-Modelle stärker nach außen öffnen. Accenture soll dafür direkt im Unternehmen arbeiten und deutlich mehr Einblick erhalten als bei klassischen externen Tests.

Anthropic lässt Accenture direkt im Unternehmen prüfen

Anthropic hat am 18. September 2026 eine neue Partnerschaft mit Accenture angekündigt. Der Beratungs- und Technologiekonzern soll künftig als sogenannter "Embedded Evaluator" Modelle von Anthropic untersuchen.

Die Arbeit wird von Faculty geleitet, der auf künstliche Intelligenz spezialisierten Sparte von Accenture. Das Team soll Modelle evaluieren, Red-Teaming durchführen, das Alignment untersuchen und bestehende Sicherheitsmechanismen testen.

Damit geht die Zusammenarbeit deutlich über einen klassischen externen Sicherheitstest hinaus. Die Prüfer sollen direkt innerhalb von Anthropic arbeiten und Zugang zu Informationen erhalten, die externe Organisationen normalerweise nicht sehen.

Anthropic beschreibt den geplanten Zugriff als vergleichbar mit dem von eigenen Mitarbeitern. Die Evaluatoren sollen beobachten können, wie Modelle während des Trainings entstehen, welche Entscheidungen bei Entwicklung und Veröffentlichung getroffen werden und wie interne Teams mit Sicherheitsfragen umgehen.

Was sind Embedded Evaluators?

Bei klassischen externen Evaluationen erhalten Prüfer meist ein fertiges oder nahezu fertiges Modell und testen dessen Fähigkeiten und Grenzen. Embedded Evaluation setzt früher an.

Die externen Teams sollen kontinuierlich Zugang zur Entwicklung erhalten. Dadurch könnten sie nicht nur untersuchen, wie sich ein Modell in einem bestimmten Test verhält, sondern auch nachvollziehen, wie Trainingsprozesse, Sicherheitsmaßnahmen und interne Entscheidungen zustande kommen.

Für die Sicherheit moderner KI-Systeme ist dieser Unterschied relevant. Probleme entstehen nicht ausschließlich im fertigen Modell. Auch Trainingsumgebungen, Berechtigungen, Testsysteme oder fehlerhafte Konfigurationen können eine Rolle spielen.

Die Evaluatoren sollen deshalb unter anderem prüfen können, ob Anthropic seine eigenen Sicherheitszusagen tatsächlich umsetzt. Außerdem sollen sie mögliche blinde Flecken erkennen, Vorfälle untersuchen und ihre Erkenntnisse öffentlich einordnen können.

Anthropic betont dabei, dass die Verantwortung weiterhin beim Unternehmen selbst liegt. Ein externer Prüfer soll die Sicherheit nicht übernehmen, sondern Aussagen und Prozesse besser überprüfbar machen.

Anthropic und Accenture investieren mindestens zwei Milliarden US-Dollar

Auch finanziell ist die Kooperation ungewöhnlich groß angelegt. Anthropic und Accenture wollen nach eigenen Angaben jeweils mindestens eine Milliarde US-Dollar über einen Zeitraum von fünf Jahren investieren.

Zusammen entspricht das mindestens zwei Milliarden US-Dollar für den Aufbau von Evaluierungs-, Sicherheits- und Red-Teaming-Kapazitäten.

Accenture bringt dabei nicht nur klassische Beratungserfahrung ein. Faculty hat bereits an KI-Systemen für Bereiche wie Verwaltung, Verteidigung, Gesundheitswesen und Infrastruktur gearbeitet.

Anthropic argumentiert, dass diese praktische Erfahrung bei der Bewertung von KI-Modellen hilfreich sein kann. Sicherheitsprobleme entstehen schließlich nicht nur unter Laborbedingungen. Entscheidend ist auch, wie Unternehmen und Behörden solche Systeme tatsächlich einsetzen.

Wie unabhängig kann Accenture Anthropic prüfen?

Der interessanteste Punkt der Partnerschaft ist gleichzeitig ihre größte offene Frage.

Anthropic bezeichnet die geplanten Evaluatoren als unabhängig. Gleichzeitig bezahlt Anthropic die Arbeit von Accenture zunächst selbst.

Das Unternehmen spricht diesen möglichen Interessenkonflikt offen an. Für Embedded Evaluation existieren bisher weder allgemein akzeptierte Standards für den notwendigen Zugang noch feste Regeln dafür, wie Ergebnisse veröffentlicht werden müssen. Auch die Finanzierung ist nicht geklärt.

Langfristig hält Anthropic Modelle für sinnvoll, bei denen die Finanzierung etwa über gemeinsame Fonds oder öffentliche Stellen erfolgt. Eine solche Struktur existiert derzeit jedoch nicht.

Für den aktuellen Aufbau bezahlt Anthropic deshalb Accenture direkt.

Das bedeutet nicht automatisch, dass die Prüfungen wertlos oder beeinflusst sind. Es zeigt aber, dass "unabhängig" bei Embedded Evaluation mehr umfassen muss als die organisatorische Trennung zweier Unternehmen.

Entscheidend wird sein, welche Informationen Accenture tatsächlich sehen darf, welche Ergebnisse veröffentlicht werden können und ob kritische Erkenntnisse auch gegen die Interessen des Auftraggebers kommuniziert werden dürfen.

Warum Anthropic jetzt stärker auf externe KI-Prüfungen setzt

Die Partnerschaft ist Teil einer größeren Initiative von Anthropic-CEO Dario Amodei.

In seinem im September veröffentlichten Essay "We Must Pace the Frontier" fordert Amodei einen kontrollierteren Umgang mit der Entwicklung besonders leistungsfähiger KI-Systeme. Dabei geht es ausdrücklich nicht um einen vollständigen Entwicklungsstopp.

Sein Vorschlag besteht aus drei Ebenen. Zunächst sollen KI-Unternehmen externe Prüfer mit dauerhaftem internem Zugang zulassen. Danach sollen gemeinsame Sicherheitsstandards zwischen Unternehmen und Regierungen entstehen. Langfristig sieht Amodei auch internationale Vereinbarungen als notwendig an.

Embedded Evaluators bilden damit den ersten und kurzfristig am einfachsten umsetzbaren Teil dieses Ansatzes.

Der Schritt kommt zudem zu einem Zeitpunkt, an dem Anthropic selbst Probleme bei Sicherheitstests untersucht hat. Das Unternehmen berichtete 2026 über mehrere Fälle, in denen Claude-Modelle während Cybersecurity-Evaluationen unbeabsichtigt auf reale externe Systeme zugreifen konnten.

Solche Vorfälle zeigen ein grundsätzliches Problem bei immer autonomer arbeitenden KI-Systemen: Nicht nur das Verhalten des Modells selbst muss getestet werden. Auch Testumgebungen, Berechtigungen und technische Schutzmechanismen werden Teil der Sicherheitsfrage.

Accenture soll nicht der einzige Prüfer bleiben

Anthropic will sich deshalb nicht ausschließlich auf Accenture verlassen.

Die Zusammenarbeit ist ausdrücklich nicht exklusiv. Weitere Organisationen sollen ebenfalls als Evaluatoren eingesetzt werden. Anthropic befindet sich nach eigenen Angaben unter anderem mit der gemeinnützigen Forschungsorganisation METR im Gespräch.

Gleichzeitig darf Accenture ähnliche Prüfungen auch für andere KI-Unternehmen durchführen.

Das ist wichtig, weil sich ein funktionierendes System externer Kontrolle kaum auf einen einzelnen Anbieter stützen kann. Unterschiedliche Evaluatoren können unterschiedliche Methoden, Perspektiven und Fachgebiete einbringen.

Noch ist allerdings offen, welche gemeinsamen Standards daraus entstehen.

Embedded Evaluation muss sich erst beweisen

Die Kooperation zwischen Anthropic und Accenture ist deshalb weniger ein fertiges Kontrollsystem als ein Versuch, eine neue Form der KI-Prüfung aufzubauen.

Der Ansatz hat einen nachvollziehbaren Vorteil: Externe Experten erhalten wesentlich mehr Kontext als bei punktuellen Tests eines fertigen Modells. Sie können Entwicklungen über einen längeren Zeitraum verfolgen und Entscheidungen untersuchen, die sonst innerhalb eines Unternehmens bleiben würden.

Ob daraus tatsächlich eine belastbare unabhängige Kontrolle entsteht, hängt jedoch von den konkreten Regeln ab.

Zugang, Veröffentlichungsrechte, Finanzierung und gemeinsame Standards sind bisher nicht abschließend geklärt. Gerade diese Details werden darüber entscheiden, ob Embedded Evaluation zu einer ernsthaften zusätzlichen Kontrollinstanz wird oder hauptsächlich eine weitere interne Sicherheitsebene bleibt.

Für Anthropic beginnt diese Erprobung nun mit Accenture.