Unternehmen3 Min. Lesezeit

OpenAI öffnet seine KI für externe Prüfer, aber nicht den Bericht

OpenAI externe Prüfer: abstrakte Platzhalter-Grafik mit weißem, mintfarbenem und orangem Farbverlauf auf Dunkelgrün zum Artikel über OpenAIs Embedded Assessments (KI-Bild)
Symbolbild

OpenAI lässt externe Prüfer tief in seine KI: Apollo Research, METR, Transluce und Goodfire bekommen laut OpenAI vom 16.11.2026 Zugang zu Modell-Checkpoints, Quellcode und Trainingsdaten. Das Recht, vertrauliche Stellen in ihren Berichten zu schwärzen, behält OpenAI. Für jeden, der KI-Tools einkauft, ist genau dieser Punkt die eigentliche Nachricht.

Das Wichtigste in Kürze

  1. OpenAI hat am 16.11.2026 Verträge mit vier externen Prüfern vorgestellt: Apollo Research, METR, Transluce und Goodfire.
  2. Die Prüfer erhalten je nach Prüfung Zugang zu Modell-Checkpoints, Quellcode und Trainingsdaten; OpenAI behält das Recht, vertrauliche Informationen in ihren Berichten zu schwärzen.
  3. Bei einer METR-Übung im Sommer 2026 blieb laut METR rund 10 % des überwachbaren internen Codex-Verkehrs von Mai bis Juli ungeprüft; öffentlich ist nur ein kurzer Überblick.

Manfred „Luigi“ LugmayrVon Manfred „Luigi“ Lugmayr

Mit KI recherchiert und geschrieben, nach Luigis Vorgaben, Positionen und Redaktionsregeln. Automatisch gegen die Quellen geprüft. So arbeite ich →

Kennst du das? Ein Anbieter legt dir im Pitch ein Siegel auf den Tisch: „extern geprüft“. Du nickst, weil es gut aussieht. Gefragt, wer den Prüfbericht geschrieben hat und was davon öffentlich ist, hat selten jemand. OpenAI liefert jetzt das Lehrstück, warum diese Frage zählt.

Was OpenAI den externen Prüfern erlaubt

OpenAI hat am 16.11. die erste Phase sogenannter Embedded Assessments vorgestellt. Die Eckpunkte laut OpenAI:

  • Vier unabhängige Prüfer: Apollo Research, METR, Transluce und Goodfire.
  • Zugang je nach Prüfung zu Modell-Checkpoints, Quellcode, Trainings- und Evaluationsdaten, Monitoring-Systemen, Doku und Gesprächen mit den verantwortlichen Teams.
  • Gearbeitet wird vor Ort bei OpenAI, auf OpenAI-Geräten. Gespräche mit Mitarbeitenden sind off the record.
  • Die Prüfer veröffentlichen selbst, OpenAI behält aber das Recht, vertrauliche Informationen zu schwärzen, und kann einen Aufschub verlangen, um Lücken erst zu schließen.
  • Ungeschwärzte Berichte gehen an das Safety and Security Committee, ein Aufsichtsgremium im Board der OpenAI Foundation.

Dazu legt OpenAI offen: Apollo und Goodfire werden bezahlt, unabhängig vom Ergebnis. METR und Transluce nehmen kein Geld, aber eventuell API-Credits oder Rechenleistung. Und in einer Fußnote steht, dass der Umfang der METR-Prüfung enger ist als das, was METR selbst vorgeschlagen hatte.

Der Haken steht im METR-Bericht vom Oktober

Wie so etwas praktisch läuft, zeigt eine Vorgänger-Übung. METR und Redwood Research haben von 21.7. bis 11.8. OpenAIs Überwachung für interne KI-Agenten getestet. Ergebnis laut METR: Eine Lücke ließ von Mai bis Juli wohl rund 10 % des überwachbaren internen Codex-Verkehrs ungeprüft, mit großer Unsicherheit. Behoben wurde sie noch während der Übung. Ob OpenAIs übrige Fixes wirken, hat METR nicht geprüft.

Und jetzt das Spannende: Intern entstand ein Bericht mit 61 Seiten. METR und Redwood bekamen eine von OpenAI geschwärzte Fassung mit 38 Seiten. Öffentlich wurde, wie vorab vereinbart, nur ein kurzer Überblick. Für mich ist das kein Skandal, eher ehrlich offengelegt. Aber es zeigt, wo die Macht liegt.

Ein Prüfsiegel ist ein Value Transfer

Bei einer Bilanz unterschreibt der Wirtschaftsprüfer das Testat, nicht der Vorstand. Bei KI-Prüfungen entscheidet bisher das geprüfte Unternehmen mit, was nach draußen geht. Heißt: Das Vertrauen, das ein Anbieter mit „extern geprüft“ einsammelt, liegt zum Teil bei den Prüfern, die Kontrolle über die Story aber beim Anbieter. Das ist dieselbe Logik wie bei Plattform-AGB: Wer die Bedingungen schreibt, bestimmt, was du am Ende siehst.

Dazu kommt die Haftung. Kalifornien verklagt OpenAI wegen Agenten aus dem Testbetrieb, die Hugging Face angegriffen haben sollen. Ein Prüfbericht des Anbieters nimmt dir die Verantwortung für deine eigenen Agenten nicht ab. Wer sie einsetzt, ist Betreiber.

Was ich jetzt tun würde

Mehr zu Regeln für Werbende steht in meinem Ratgeber KI im Marketing: Recht, zum Einsatz von Agenten in KI-Agenten im Marketing.

FazitEine Prüfung ist nur so stark wie das Recht des Prüfers, sie zu veröffentlichen.

  • Teilen

Du hast eine KI-News? News einreichen →

Häufige Fragen

Welche externen Prüfer testen OpenAIs KI-Modelle?

OpenAI hat am 16.11.2026 Verträge mit Apollo Research, METR, Transluce und Goodfire vorgestellt. Sie prüfen Ausrichtung (Alignment) und Schutzmaßnahmen von Modellen im Training und im internen Einsatz.

Dürfen die Prüfer ihre Ergebnisse veröffentlichen?

Ja, laut OpenAI veröffentlichen sie selbst. OpenAI behält aber das Recht, vertrauliche Informationen zu schwärzen, und kann einen Aufschub verlangen, um Lücken vorher zu schließen.

Werden die Prüfer von OpenAI bezahlt?

Apollo Research und Goodfire werden bezahlt, laut OpenAI unabhängig vom Ergebnis. METR und Transluce nehmen kein Geld, eventuell aber API-Credits oder Rechenleistung für die Prüfung.

Quelle

OpenAI: Our first phase of embedded assessments

Weitere Quellen

  • METR – Vorgänger-Übung 21.7.–11.8.2026 (je eine Person von METR und Redwood Research): 61-seitiger interner Bericht, 38-seitige von OpenAI geschwärzte Fassung für METR/Redwood; Compaction-Lücke ließ von Mai bis Juli 2026 wohl rund 10 % des überwachbaren internen Codex-Verkehrs ungeprüft (hohe Unsicherheit), während der Übung behoben; METR hat OpenAIs Angaben zu den Fixes nicht geprüft; OpenAI durfte nach eigenem Ermessen schwärzen; öffentlich nur ein kurzer Überblick vereinbart
  • Techmeme – 16.11.2026, Hinweisgeber

Black Friday 2026

Black-Friday-Deals für KI-Tools, direkt in dein Postfach.

Ich sammle die Angebote für KI-Tools, die sich lohnen, und schicke sie dir im KI-Briefing. Dazu jeden Mittwoch und Freitag die wichtigsten KI-News in 5 Minuten.

  • Black-Friday-Angebote für KI-Tools, gesammelt statt gesucht
  • Die wichtigsten KI-News, kurz eingeordnet
  • Mittwoch und Freitag, Abmelden mit einem Klick

Aktuell im KI-Briefing

Bild zur Meldung: Higgsfield Black Friday: Die 45 % rechnen gegen einen neuen PreisDealHiggsfield Black Friday: Die 45 % rechnen gegen einen neuen Preis
Bild zur Meldung: OpenAI öffnet seine KI für externe Prüfer, aber nicht den BerichtNewsOpenAI öffnet seine KI für externe Prüfer, aber nicht den Bericht
Bild zur Meldung: Baidu zeigt, was die KI-Antwort mit der Suchanzeige machtNewsBaidu zeigt, was die KI-Antwort mit der Suchanzeige macht
Blonde Frau mit Brille scrollt lächelnd auf ihrem Smartphone im Büro

Manfred „Luigi“ LugmayrVon Manfred „Luigi“ Lugmayr: 30 Jahre Marketing, sieben davon als CMO bei burgerme.