# OpenAI firma acuerdos para someter la seguridad de su IA a evaluaciones externas

Cuatro entidades examinarán modelos y salvaguardas con acceso interno, según OpenAI. Los equipos participantes describen pruebas piloto con distintos alcances y duraciones.

IA · Por Redacción de ITANU Magazine · Publicado 2026-11-17T05:51:19.000Z · 2 min de lectura

![Un moderno edificio de oficinas de vidrio y metal en una intersección bordeada de palmeras en San Francisco.](https://itanu.org/assets/magazine-img-e66d683e0e268d76-960.jpg)

Coolcaesar / Wikimedia Commons · CC BY 4.0 (https://creativecommons.org/licenses/by/4.0)

## Claves

- OpenAI identifica a Apollo Research, METR, Transluce y Goodfire como entidades evaluadoras.
- Apollo Research prevé una prueba piloto de cuatro meses con seis evaluadores.
- Transluce afirma que su acceso será más limitado que el de los empleados.

OpenAI anunció el 16 de noviembre que había firmado acuerdos con Apollo Research, METR, Transluce y Goodfire para evaluar sus modelos de IA y sus salvaguardas mediante trabajo dentro de la compañía [1]. Según explicó, las evaluaciones iniciales abarcan el entrenamiento y el uso interno [1].

OpenAI describe estas evaluaciones desde dentro de la empresa como exámenes prolongados que dan a expertos externos acceso a sistemas y modelos internos [1]. Según la evaluación, los recursos disponibles incluyen código, datos utilizados para el entrenamiento y las evaluaciones, herramientas de supervisión y conversaciones con el personal responsable del trabajo [1].

Apollo Research afirma que seis evaluadores dedicarán cuatro meses a examinar modelos durante el entrenamiento, la evaluación y el despliegue interno, con reglas de acceso definidas [2]. Su objetivo es investigar si los modelos intentan socavar los controles que los rigen a ellos o a sus sucesores. También prevé publicar informes que expliquen las limitaciones de su trabajo [2].

Goodfire señala que sus investigadores utilizarán su plataforma para seguir el entrenamiento e investigar comportamientos no deseados [4]. Los investigadores de OpenAI serán los principales destinatarios de sus hallazgos, aunque Goodfire también prevé publicar resultados a medida que avance el trabajo [4].

Transluce explica que su prueba piloto de seis semanas examinará si las evaluaciones de OpenAI detectan comportamientos como el engaño y la manipulación [3]. Afirma que dispondrá de un acceso mayor que el que suelen recibir los evaluadores externos, pero más limitado que el de los empleados [3]. Las organizaciones tienen previsto realizar una evaluación más completa con un acceso más amplio a principios de 2027, aunque los detalles siguen sin decidirse [3].

## Fuentes

1. [Our first phase of embedded assessments](https://openai.com/index/our-first-phase-of-embedded-assessments/), OpenAI (Primaria)
2. [A Pilot Towards Embedded Evaluations](https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations), Apollo Research (Independiente)
3. [Announcing an Embedded Assessment Pilot with OpenAI](https://transluce.org/embedded-assessment-pilot-with-openai), Transluce (Independiente)
4. [Announcing our collaboration with OpenAI](https://www.goodfire.com/blog/announcing-our-collaboration-with-openai), Goodfire (Independiente)

El sistema de redacción de ITANU produjo este artículo con IA y lo contrastó con las fuentes citadas arriba.

Canonical: https://itanu.org/es/magazine/openai-signs-deals-outside-ai-safety-assessments-6xho6ifs/
