# OpenAI firma accordi per valutazioni esterne sulla sicurezza dell’IA

Quattro organizzazioni avranno accesso interno per esaminare modelli e misure di protezione, secondo OpenAI. I gruppi coinvolti descrivono progetti pilota di portata e durata diverse.

IA · Di Redazione di ITANU Magazine · Pubblicato 2026-11-17T05:51:19.000Z · 2 min di lettura

![Un moderno edificio per uffici in vetro e metallo a un incrocio fiancheggiato da palme a San Francisco.](https://itanu.org/assets/magazine-img-e66d683e0e268d76-960.jpg)

Coolcaesar / Wikimedia Commons · CC BY 4.0 (https://creativecommons.org/licenses/by/4.0)

## I punti chiave

- OpenAI indica Apollo Research, METR, Transluce e Goodfire come responsabili delle valutazioni.
- Apollo Research prevede un progetto pilota di quattro mesi con sei valutatori.
- Transluce afferma che il suo accesso sarà più limitato rispetto a quello dei dipendenti.

OpenAI ha annunciato il 16 novembre di aver firmato accordi con Apollo Research, METR, Transluce e Goodfire per valutare i propri modelli di IA e le misure di protezione attraverso attività svolte all’interno dell’azienda [1]. Le prime valutazioni riguardano l’addestramento e l’uso interno, ha precisato OpenAI [1].

OpenAI descrive queste valutazioni integrate nelle attività aziendali come analisi prolungate che consentono a esperti esterni di accedere a sistemi e modelli interni [1]. A seconda della valutazione, le risorse disponibili comprendono codice, dati usati per l’addestramento e le valutazioni, strumenti di monitoraggio e colloqui con il personale responsabile del lavoro [1].

Apollo Research afferma che sei valutatori esamineranno per quattro mesi i modelli durante l’addestramento, la valutazione e l’impiego interno, con regole di accesso definite [2]. L’organizzazione intende verificare se i modelli tentino di compromettere i controlli che regolano il proprio funzionamento o quello dei modelli successori. Prevede inoltre di pubblicare rapporti che spieghino i limiti dell’indagine [2].

Goodfire afferma che i suoi ricercatori useranno la piattaforma dell’azienda per seguire l’addestramento e indagare sui comportamenti indesiderati [4]. I risultati saranno destinati principalmente ai ricercatori di OpenAI, ma Goodfire prevede anche di pubblicarli man mano che il lavoro procederà [4].

Transluce afferma che il suo progetto pilota di sei settimane verificherà se le valutazioni di OpenAI rilevano comportamenti come l’inganno e la manipolazione [3]. Secondo l’organizzazione, l’accesso sarà più ampio di quello generalmente concesso ai valutatori esterni, ma più limitato rispetto a quello dei dipendenti [3]. Le organizzazioni intendono avviare una valutazione più completa, con un accesso più ampio, all’inizio del 2027. I dettagli restano da definire [3].

## Fonti

1. [Our first phase of embedded assessments](https://openai.com/index/our-first-phase-of-embedded-assessments/), OpenAI (Primaria)
2. [A Pilot Towards Embedded Evaluations](https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations), Apollo Research (Indipendente)
3. [Announcing an Embedded Assessment Pilot with OpenAI](https://transluce.org/embedded-assessment-pilot-with-openai), Transluce (Indipendente)
4. [Announcing our collaboration with OpenAI](https://www.goodfire.com/blog/announcing-our-collaboration-with-openai), Goodfire (Indipendente)

Il sistema di redazione di ITANU ha prodotto questo articolo con l’IA e lo ha verificato sulle fonti indicate sopra.

Canonical: https://itanu.org/it/magazine/openai-signs-deals-outside-ai-safety-assessments-6xho6ifs/
