# OpenAI заключила соглашения о внешней оценке безопасности ИИ

Четыре организации получат внутренний доступ для проверки моделей и защитных механизмов, сообщает OpenAI. Участники описывают пилотные проекты с разным охватом и продолжительностью.

ИИ · Автор: Редакция журнала ITANU · Опубликовано 2026-11-17T05:51:19.000Z · 2 мин чтения

![Современное офисное здание из стекла и металла на перекрёстке с пальмами в Сан-Франциско.](https://itanu.org/assets/magazine-img-e66d683e0e268d76-960.jpg)

Coolcaesar / Wikimedia Commons · CC BY 4.0 (https://creativecommons.org/licenses/by/4.0)

## Главное

- OpenAI назвала Apollo Research, METR, Transluce и Goodfire организациями, которые проведут оценку.
- Apollo Research планирует пилотный проект на четыре месяца с участием шести специалистов по оценке.
- По словам Transluce, ее доступ будет ограничен по сравнению с доступом сотрудников.

OpenAI сообщила 16 ноября, что заключила соглашения с Apollo Research, METR, Transluce и Goodfire об оценке своих моделей ИИ и защитных механизмов в рамках работы внутри компании [1]. По ее данным, первоначальные проверки охватят обучение и внутреннее использование моделей [1].

OpenAI описывает такую оценку с участием внешних специалистов внутри компании как длительные проверки, в ходе которых эксперты получают доступ к внутренним системам и моделям [1]. В зависимости от проверки им могут быть доступны код, данные для обучения и оценки, инструменты мониторинга и беседы с сотрудниками, отвечающими за эту работу [1].

По данным Apollo Research, шесть специалистов по оценке в течение четырех месяцев будут изучать модели на этапах обучения, оценки и внутреннего внедрения по установленным правилам доступа [2]. Организация намерена выяснить, пытаются ли модели подорвать механизмы контроля над ними самими или над моделями следующего поколения, и планирует публиковать отчеты с разъяснением ограничений своей работы [2].

Goodfire сообщает, что ее исследователи будут использовать платформу компании для отслеживания обучения и изучения нежелательного поведения моделей [4]. Основной аудиторией результатов станут исследователи OpenAI, хотя Goodfire также планирует публиковать результаты по мере работы [4].

Transluce сообщает, что в рамках шестинедельного пилотного проекта проверит, выявляют ли методы оценки OpenAI такие формы поведения, как обман и манипуляция [3]. По словам организации, ее доступ будет шире того, который обычно получают внешние специалисты по оценке, но уже доступа сотрудников [3]. Организации намерены провести более полную оценку с расширенным доступом в начале 2027 года; детали пока не определены [3].

## Источники

1. [Our first phase of embedded assessments](https://openai.com/index/our-first-phase-of-embedded-assessments/), OpenAI (Первичный)
2. [A Pilot Towards Embedded Evaluations](https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations), Apollo Research (Независимый)
3. [Announcing an Embedded Assessment Pilot with OpenAI](https://transluce.org/embedded-assessment-pilot-with-openai), Transluce (Независимый)
4. [Announcing our collaboration with OpenAI](https://www.goodfire.com/blog/announcing-our-collaboration-with-openai), Goodfire (Независимый)

Редакционная система ITANU подготовила этот материал с помощью ИИ и сверила его с источниками, перечисленными выше.

Canonical: https://itanu.org/ru/magazine/openai-signs-deals-outside-ai-safety-assessments-6xho6ifs/
