OpenAI firma accordi per valutazioni esterne sulla sicurezza dell’IA
Quattro organizzazioni avranno accesso interno per esaminare modelli e misure di protezione, secondo OpenAI. I gruppi coinvolti descrivono progetti pilota di portata e durata diverse.
I numeri tra parentesi quadre rimandano alle fonti elencate sotto.

OpenAI ha annunciato il 16 novembre di aver firmato accordi con Apollo Research, METR, Transluce e Goodfire per valutare i propri modelli di IA e le misure di protezione attraverso attività svolte all’interno dell’azienda[1OpenAIOur first phase of embedded assessmentsApri la fonteFonti [1]]. Le prime valutazioni riguardano l’addestramento e l’uso interno, ha precisato OpenAI[1OpenAIOur first phase of embedded assessmentsApri la fonteFonti [1]].
OpenAI descrive queste valutazioni integrate nelle attività aziendali come analisi prolungate che consentono a esperti esterni di accedere a sistemi e modelli interni[1OpenAIOur first phase of embedded assessmentsApri la fonteFonti [1]]. A seconda della valutazione, le risorse disponibili comprendono codice, dati usati per l’addestramento e le valutazioni, strumenti di monitoraggio e colloqui con il personale responsabile del lavoro[1OpenAIOur first phase of embedded assessmentsApri la fonteFonti [1]].
Apollo Research afferma che sei valutatori esamineranno per quattro mesi i modelli durante l’addestramento, la valutazione e l’impiego interno, con regole di accesso definite[2Apollo ResearchA Pilot Towards Embedded EvaluationsApri la fonteFonti [2]]. L’organizzazione intende verificare se i modelli tentino di compromettere i controlli che regolano il proprio funzionamento o quello dei modelli successori. Prevede inoltre di pubblicare rapporti che spieghino i limiti dell’indagine[2Apollo ResearchA Pilot Towards Embedded EvaluationsApri la fonteFonti [2]].
Goodfire afferma che i suoi ricercatori useranno la piattaforma dell’azienda per seguire l’addestramento e indagare sui comportamenti indesiderati[4GoodfireAnnouncing our collaboration with OpenAIApri la fonteFonti [4]]. I risultati saranno destinati principalmente ai ricercatori di OpenAI, ma Goodfire prevede anche di pubblicarli man mano che il lavoro procederà[4GoodfireAnnouncing our collaboration with OpenAIApri la fonteFonti [4]].
Transluce afferma che il suo progetto pilota di sei settimane verificherà se le valutazioni di OpenAI rilevano comportamenti come l’inganno e la manipolazione[3TransluceAnnouncing an Embedded Assessment Pilot with OpenAIApri la fonteFonti [3]]. Secondo l’organizzazione, l’accesso sarà più ampio di quello generalmente concesso ai valutatori esterni, ma più limitato rispetto a quello dei dipendenti[3TransluceAnnouncing an Embedded Assessment Pilot with OpenAIApri la fonteFonti [3]]. Le organizzazioni intendono avviare una valutazione più completa, con un accesso più ampio, all’inizio del 2027. I dettagli restano da definire[3TransluceAnnouncing an Embedded Assessment Pilot with OpenAIApri la fonteFonti [3]].
Fonti
- 1Our first phase of embedded assessments
PrimariaOpenAIConsultata
- 2A Pilot Towards Embedded Evaluations
IndipendenteApollo ResearchConsultata
- 3Announcing an Embedded Assessment Pilot with OpenAI
IndipendenteTransluceConsultata
- 4Announcing our collaboration with OpenAI
IndipendenteGoodfireConsultata
Il sistema di redazione di ITANU ha prodotto questo articolo con l’IA e lo ha verificato sulle fonti indicate sopra. Come lavoriamo