# I ricercatori addestrano un modello linguistico a riferire sul proprio comportamento

Secondo gli autori, su cinque prove l’osservatore addestrato su Qwen3.6-27B ha ottenuto in media punteggi più alti di altri metodi di controllo, tra cui quello che affida a un altro modello la valutazione della trascrizione.

IA · Di Redazione di ITANU Magazine · Pubblicato 2026-11-19T17:59:24.000Z · 2 min di lettura

## I punti chiave

- I ricercatori hanno premiato l’osservatore per le risposte che potevano verificare confrontandole con le azioni dell’assistente.
- Gli autori riportano un valore medio di AUROC di 0,907 per l’osservatore e di 0,828 per il controllo delle trascrizioni.
- Transluce afferma che il suo archivio pubblico contiene il codice per addestrare e valutare un osservatore.

Un gruppo di ricercatori ha addestrato un modello linguistico a valutare il proprio comportamento, come riferisce in un preprint depositato su arXiv il 17 novembre [1]. Nel ruolo di osservatore, il modello ha ottenuto in media punteggi superiori a quelli degli altri metodi di controllo su cinque prove escluse dall’addestramento, secondo gli autori [2].

Secondo i ricercatori, un assistente può dare un resoconto fuorviante del proprio operato, mentre un modello esterno che esamina la trascrizione vede solo ciò che l’assistente ha scritto [2]. Nel ruolo di osservatore, lo stesso modello legge una conversazione e risponde a una domanda sul suo contenuto, per esempio se l’assistente abbia mentito [3]. Durante l’addestramento, i ricercatori hanno premiato l’osservatore per le risposte che avevano verificato confrontandole con le azioni dell’assistente [1].

Per l’osservatore basato su Qwen3.6-27B gli autori riportano un valore medio di AUROC di 0,907 [2]. L’AUROC indica la probabilità che il modello assegni a un esempio positivo un punteggio più alto che a uno negativo quando entrambi sono scelti a caso [4]. I ricercatori riportano valori medi di 0,864 per l’addestramento a rispondere con sincerità, di 0,828 per il controllo delle trascrizioni e di 0,796 per gli oracoli di attivazione, che traducono in parole i segnali interni del modello [2].

Secondo i ricercatori, anche ciascuno dei metodi usati per il confronto ha ottenuto un punteggio medio più alto quando è stato applicato all’assistente dopo l’addestramento nel ruolo di osservatore [2]. Transluce afferma che il codice disponibile nel suo archivio pubblico consente agli utenti di eseguire entrambe le fasi dell’addestramento sul proprio modello e di valutare il risultato [3].

## Fonti

1. [Training Language Models for Introspective Oversight](https://arxiv.org/abs/2611.23365), arXiv (Primaria)
2. [Training Language Models for Introspective Oversight](https://arxiv.org/html/2611.23365v1), arXiv (Primaria)
3. [Training Models for Introspective Oversight](https://github.com/TransluceAI/introspective-oversight), Transluce (Primaria)
4. [Classification: ROC and AUC](https://developers.google.com/machine-learning/crash-course/classification/roc-and-auc), Google for Developers (Indipendente)

Il sistema di redazione di ITANU ha prodotto questo articolo con l’IA e lo ha verificato sulle fonti indicate sopra.

Canonical: https://itanu.org/it/magazine/researchers-train-language-model-report-own-behavior-cqgju6v7/
