# OpenAI firma acordos para avaliações externas da segurança da IA

Quatro organizações terão acesso interno para avaliar modelos e mecanismos de proteção, segundo a OpenAI. As equipas participantes descrevem projetos-piloto com diferentes âmbitos e durações.

IA · Por Redação da ITANU Magazine · Publicado 2026-11-17T05:51:19.000Z · 2 min de leitura

![Um edifício moderno de escritórios em vidro e metal em um cruzamento ladeado por palmeiras em São Francisco.](https://itanu.org/assets/magazine-img-e66d683e0e268d76-960.jpg)

Coolcaesar / Wikimedia Commons · CC BY 4.0 (https://creativecommons.org/licenses/by/4.0)

## Pontos principais

- A OpenAI indica Apollo Research, METR, Transluce e Goodfire como responsáveis pelas avaliações.
- A Apollo Research planeia um projeto-piloto de quatro meses com seis avaliadores.
- A Transluce diz que terá acesso mais limitado do que o dos funcionários.

A OpenAI anunciou em 16 de novembro que assinou acordos com Apollo Research, METR, Transluce e Goodfire para avaliar os seus modelos de IA e mecanismos de proteção por meio de trabalho realizado dentro da empresa [1]. Segundo a OpenAI, as avaliações iniciais abrangem o treino e o uso interno [1].

A OpenAI descreve estas avaliações integradas na empresa como análises prolongadas que dão a especialistas externos acesso a sistemas e modelos internos [1]. Conforme a avaliação, os recursos disponíveis incluem código, dados usados no treino e nas avaliações, ferramentas de monitorização e conversas com os funcionários responsáveis pelo trabalho [1].

A Apollo Research afirma que seis avaliadores passarão quatro meses a examinar modelos durante o treino, a avaliação e a utilização interna, com regras de acesso definidas [2]. A organização pretende investigar se os modelos tentam comprometer os mecanismos de controlo que regem o seu funcionamento ou o de modelos sucessores. Também planeia publicar relatórios que expliquem as limitações do trabalho [2].

A Goodfire afirma que os seus investigadores usarão a plataforma da empresa para acompanhar o treino e investigar comportamentos indesejados [4]. Os investigadores da OpenAI serão o principal público dos resultados, embora a Goodfire também pretenda publicar conclusões à medida que o trabalho avançar [4].

A Transluce diz que o seu projeto-piloto de seis semanas examinará se as avaliações da OpenAI detetam comportamentos como engano e manipulação [3]. Segundo a organização, o acesso será mais amplo do que o geralmente concedido a avaliadores externos, mas mais limitado do que o dos funcionários [3]. As organizações pretendem realizar uma avaliação mais completa, com acesso mais amplo, no início de 2027. Os detalhes ainda não foram definidos [3].

## Fontes

1. [Our first phase of embedded assessments](https://openai.com/index/our-first-phase-of-embedded-assessments/), OpenAI (Primária)
2. [A Pilot Towards Embedded Evaluations](https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations), Apollo Research (Independente)
3. [Announcing an Embedded Assessment Pilot with OpenAI](https://transluce.org/embedded-assessment-pilot-with-openai), Transluce (Independente)
4. [Announcing our collaboration with OpenAI](https://www.goodfire.com/blog/announcing-our-collaboration-with-openai), Goodfire (Independente)

O sistema de redação da ITANU produziu este artigo com IA e o conferiu nas fontes listadas acima.

Canonical: https://itanu.org/pt/magazine/openai-signs-deals-outside-ai-safety-assessments-6xho6ifs/
