# OpenAI vereinbart externe Prüfungen zur Sicherheit seiner KI

Vier externe Prüforganisationen erhalten laut OpenAI internen Zugang zu Modellen und Schutzmaßnahmen. Die beteiligten Teams beschreiben Pilotprojekte mit unterschiedlichem Umfang und unterschiedlicher Dauer.

KI · Von Redaktion von ITANU Magazin · Veröffentlicht 2026-11-17T05:51:19.000Z · 2 Min. Lesezeit

![Ein modernes Bürogebäude aus Glas und Metall steht an einer von Palmen gesäumten Kreuzung in San Francisco.](https://itanu.org/assets/magazine-img-e66d683e0e268d76-960.jpg)

Coolcaesar / Wikimedia Commons · CC BY 4.0 (https://creativecommons.org/licenses/by/4.0)

## Das Wichtigste

- OpenAI nennt Apollo Research, METR, Transluce und Goodfire als Prüforganisationen.
- Apollo Research plant ein viermonatiges Pilotprojekt mit sechs Prüfern.
- Transluce erhält nach eigenen Angaben weniger weitreichenden Zugang als Beschäftigte.

OpenAI hat nach eigenen Angaben Vereinbarungen mit Apollo Research, METR, Transluce und Goodfire geschlossen. Die Organisationen sollen im Unternehmen dessen KI-Modelle und Schutzmaßnahmen prüfen, teilte OpenAI am 16. November mit [1]. Die ersten Prüfungen betreffen das Training und die interne Nutzung [1].

OpenAI beschreibt diese in die internen Abläufe eingebundenen Prüfungen als längerfristige Untersuchungen, bei denen externe Fachleute Zugang zu internen Systemen und Modellen erhalten [1]. Je nach Prüfung stehen ihnen unter anderem Quellcode, Trainings- und Evaluierungsdaten, Überwachungswerkzeuge sowie Gespräche mit den zuständigen Beschäftigten zur Verfügung [1].

Nach Angaben von Apollo Research werden sechs Prüfer vier Monate lang Modelle während des Trainings, der Evaluierung und des internen Einsatzes untersuchen. Für den Zugang gelten festgelegte Regeln [2]. Die Organisation will untersuchen, ob Modelle versuchen, Kontrollmechanismen für sich selbst oder für Nachfolgemodelle zu unterlaufen. Geplant sind öffentliche Berichte, die auch die Grenzen der Untersuchung erläutern [2].

Goodfire will nach eigenen Angaben seine Forschungsplattform nutzen, um das Training zu verfolgen und unerwünschtes Verhalten zu untersuchen [4]. Die Ergebnisse richten sich in erster Linie an die Forschenden von OpenAI. Goodfire plant aber auch, im Verlauf der Arbeit Erkenntnisse zu veröffentlichen [4].

Transluce will in einem sechswöchigen Pilotprojekt prüfen, ob die Evaluierungen von OpenAI Verhaltensweisen wie Täuschung und Manipulation erkennen [3]. Der Zugang soll nach Angaben der Organisation über das hinausgehen, was externe Prüfer üblicherweise erhalten, aber weniger weit reichen als der Zugang von Beschäftigten [3]. Die Organisationen planen für Anfang 2027 eine umfassendere Prüfung mit weitergehendem Zugang. Die Einzelheiten sind noch offen [3].

## Quellen

1. [Our first phase of embedded assessments](https://openai.com/index/our-first-phase-of-embedded-assessments/), OpenAI (Primär)
2. [A Pilot Towards Embedded Evaluations](https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations), Apollo Research (Unabhängig)
3. [Announcing an Embedded Assessment Pilot with OpenAI](https://transluce.org/embedded-assessment-pilot-with-openai), Transluce (Unabhängig)
4. [Announcing our collaboration with OpenAI](https://www.goodfire.com/blog/announcing-our-collaboration-with-openai), Goodfire (Unabhängig)

Das Redaktionssystem von ITANU hat diesen Artikel mit KI erstellt und an den oben genannten Quellen geprüft.

Canonical: https://itanu.org/de/magazine/openai-signs-deals-outside-ai-safety-assessments-6xho6ifs/
