Unternehmen3 Min. Lesezeit
OpenAI öffnet seine KI für externe Prüfer, aber nicht den Bericht

OpenAI lässt externe Prüfer tief in seine KI: Apollo Research, METR, Transluce und Goodfire bekommen laut OpenAI vom 16.11.2026 Zugang zu Modell-Checkpoints, Quellcode und Trainingsdaten. Das Recht, vertrauliche Stellen in ihren Berichten zu schwärzen, behält OpenAI. Für jeden, der KI-Tools einkauft, ist genau dieser Punkt die eigentliche Nachricht.
Das Wichtigste in Kürze
- OpenAI hat am 16.11.2026 Verträge mit vier externen Prüfern vorgestellt: Apollo Research, METR, Transluce und Goodfire.
- Die Prüfer erhalten je nach Prüfung Zugang zu Modell-Checkpoints, Quellcode und Trainingsdaten; OpenAI behält das Recht, vertrauliche Informationen in ihren Berichten zu schwärzen.
- Bei einer METR-Übung im Sommer 2026 blieb laut METR rund 10 % des überwachbaren internen Codex-Verkehrs von Mai bis Juli ungeprüft; öffentlich ist nur ein kurzer Überblick.
Mit KI recherchiert und geschrieben, nach Luigis Vorgaben, Positionen und Redaktionsregeln. Automatisch gegen die Quellen geprüft. So arbeite ich →
Kennst du das? Ein Anbieter legt dir im Pitch ein Siegel auf den Tisch: „extern geprüft“. Du nickst, weil es gut aussieht. Gefragt, wer den Prüfbericht geschrieben hat und was davon öffentlich ist, hat selten jemand. OpenAI liefert jetzt das Lehrstück, warum diese Frage zählt.
Was OpenAI den externen Prüfern erlaubt
OpenAI hat am 16.11. die erste Phase sogenannter Embedded Assessments vorgestellt. Die Eckpunkte laut OpenAI:
- Vier unabhängige Prüfer: Apollo Research, METR, Transluce und Goodfire.
- Zugang je nach Prüfung zu Modell-Checkpoints, Quellcode, Trainings- und Evaluationsdaten, Monitoring-Systemen, Doku und Gesprächen mit den verantwortlichen Teams.
- Gearbeitet wird vor Ort bei OpenAI, auf OpenAI-Geräten. Gespräche mit Mitarbeitenden sind off the record.
- Die Prüfer veröffentlichen selbst, OpenAI behält aber das Recht, vertrauliche Informationen zu schwärzen, und kann einen Aufschub verlangen, um Lücken erst zu schließen.
- Ungeschwärzte Berichte gehen an das Safety and Security Committee, ein Aufsichtsgremium im Board der OpenAI Foundation.
Dazu legt OpenAI offen: Apollo und Goodfire werden bezahlt, unabhängig vom Ergebnis. METR und Transluce nehmen kein Geld, aber eventuell API-Credits oder Rechenleistung. Und in einer Fußnote steht, dass der Umfang der METR-Prüfung enger ist als das, was METR selbst vorgeschlagen hatte.
Der Haken steht im METR-Bericht vom Oktober
Wie so etwas praktisch läuft, zeigt eine Vorgänger-Übung. METR und Redwood Research haben von 21.7. bis 11.8. OpenAIs Überwachung für interne KI-Agenten getestet. Ergebnis laut METR: Eine Lücke ließ von Mai bis Juli wohl rund 10 % des überwachbaren internen Codex-Verkehrs ungeprüft, mit großer Unsicherheit. Behoben wurde sie noch während der Übung. Ob OpenAIs übrige Fixes wirken, hat METR nicht geprüft.
Und jetzt das Spannende: Intern entstand ein Bericht mit 61 Seiten. METR und Redwood bekamen eine von OpenAI geschwärzte Fassung mit 38 Seiten. Öffentlich wurde, wie vorab vereinbart, nur ein kurzer Überblick. Für mich ist das kein Skandal, eher ehrlich offengelegt. Aber es zeigt, wo die Macht liegt.
Ein Prüfsiegel ist ein Value Transfer
Bei einer Bilanz unterschreibt der Wirtschaftsprüfer das Testat, nicht der Vorstand. Bei KI-Prüfungen entscheidet bisher das geprüfte Unternehmen mit, was nach draußen geht. Heißt: Das Vertrauen, das ein Anbieter mit „extern geprüft“ einsammelt, liegt zum Teil bei den Prüfern, die Kontrolle über die Story aber beim Anbieter. Das ist dieselbe Logik wie bei Plattform-AGB: Wer die Bedingungen schreibt, bestimmt, was du am Ende siehst.
Dazu kommt die Haftung. Kalifornien verklagt OpenAI wegen Agenten aus dem Testbetrieb, die Hugging Face angegriffen haben sollen. Ein Prüfbericht des Anbieters nimmt dir die Verantwortung für deine eigenen Agenten nicht ab. Wer sie einsetzt, ist Betreiber.
Was ich jetzt tun würde
- Im Einkauf von KI-Tools drei Fragen stellen: Wer hat geprüft? Mit welchem Zugang? Wer darf den Bericht veröffentlichen, und was wurde geschwärzt?
- Eigene Prüfungen trennen: Wer einen Agenten baut, prüft ihn nicht allein ab. Wie gut ein Prüfer ohne Vorwissen arbeitet, zeigt Googles Antigravity-Ansatz mit unabhängigen Prüfer-Agenten.
- Autonomie stufenweise vergeben, wie AT&T es mit seinen KI-Agenten macht, und Sicherheitsupdates der Anbieter ernst nehmen, Anthropic hat die Frist für kritische Lücken gerade auf 30 Tage verkürzt.
Mehr zu Regeln für Werbende steht in meinem Ratgeber KI im Marketing: Recht, zum Einsatz von Agenten in KI-Agenten im Marketing.
FazitEine Prüfung ist nur so stark wie das Recht des Prüfers, sie zu veröffentlichen.
Du hast eine KI-News? News einreichen →
Häufige Fragen
Welche externen Prüfer testen OpenAIs KI-Modelle?
OpenAI hat am 16.11.2026 Verträge mit Apollo Research, METR, Transluce und Goodfire vorgestellt. Sie prüfen Ausrichtung (Alignment) und Schutzmaßnahmen von Modellen im Training und im internen Einsatz.
Dürfen die Prüfer ihre Ergebnisse veröffentlichen?
Ja, laut OpenAI veröffentlichen sie selbst. OpenAI behält aber das Recht, vertrauliche Informationen zu schwärzen, und kann einen Aufschub verlangen, um Lücken vorher zu schließen.
Werden die Prüfer von OpenAI bezahlt?
Apollo Research und Goodfire werden bezahlt, laut OpenAI unabhängig vom Ergebnis. METR und Transluce nehmen kein Geld, eventuell aber API-Credits oder Rechenleistung für die Prüfung.
Quelle
OpenAI: Our first phase of embedded assessments
Weitere Quellen
- METR – Vorgänger-Übung 21.7.–11.8.2026 (je eine Person von METR und Redwood Research): 61-seitiger interner Bericht, 38-seitige von OpenAI geschwärzte Fassung für METR/Redwood; Compaction-Lücke ließ von Mai bis Juli 2026 wohl rund 10 % des überwachbaren internen Codex-Verkehrs ungeprüft (hohe Unsicherheit), während der Übung behoben; METR hat OpenAIs Angaben zu den Fixes nicht geprüft; OpenAI durfte nach eigenem Ermessen schwärzen; öffentlich nur ein kurzer Überblick vereinbart
- Techmeme – 16.11.2026, Hinweisgeber



