# חוקרים אימנו מודל שפה לדווח על התנהגותו

לדברי החוקרים, בחמישה מבחנים קיבל Qwen3.6-27B שאומן לתפקיד משקיף ציון ממוצע גבוה מזה של שיטות פיקוח אחרות, ובהן הערכת תמליל השיחה בידי מודל אחר.

בינה מלאכותית · מאת מערכת מגזין ITANU · פורסם 2026-11-19T17:59:24.000Z · 1 דק׳ קריאה

## עיקרי הדברים

- החוקרים תגמלו את המשקיף על תשובות שיכלו לאמת לפי הפעולות שביצע העוזר.
- החוקרים דיווחו על ציון AUROC ממוצע של 0.907 למשקיף, לעומת 0.828 לניטור תמלילי שיחות.
- לדברי Transluce, מאגר הקוד הפומבי שלה כולל קוד לאימון משקיף ולהערכת ביצועיו.

חוקרים אימנו מודל שפה להעריך את התנהגותו, כך דיווחו במאמר מקדים שהגישו ל־arXiv ב־17 בנובמבר [1]. לדברי החוקרים, בחמישה מבחנים שלא נכללו באימון קיבל המודל בתפקיד המשקיף ציון ממוצע גבוה מזה של שיטות פיקוח אחרות [2].

לדברי החוקרים, עוזר עלול למסור דיווח מטעה על עבודתו, ומודל חיצוני שבוחן את תמליל השיחה רואה רק את מה שהעוזר כתב [2]. בתפקיד המשקיף, אותו מודל קורא שיחה ומשיב על שאלה הנוגעת לה, למשל אם העוזר שיקר [3]. בזמן האימון תגמלו החוקרים את המשקיף על תשובות שאימתו לפי הפעולות שביצע העוזר [1].

החוקרים דיווחו כי Qwen3.6-27B בתפקיד המשקיף קיבל ציון AUROC ממוצע של 0.907 [2]. כשבוחרים באקראי דוגמה חיובית ודוגמה שלילית, המדד מבטא את ההסתברות שהמודל ייתן לדוגמה החיובית ציון גבוה יותר [4]. החוקרים דיווחו על ציונים ממוצעים של 0.864 לאימון לכנות, 0.828 לניטור תמלילי שיחות ו־0.796 לשיטה המכונה activation oracles, שמתרגמת את האותות הפנימיים של המודל למילים [2].

החוקרים דיווחו שגם הציון הממוצע של כל אחת משיטות ההשוואה היה גבוה יותר כשהשתמשו בה כדי להעריך את העוזר לאחר אימון המשקיף [2]. לדברי Transluce, מאגר הקוד הפומבי שלה מאפשר למשתמשים להריץ את שני שלבי האימון על מודל משלהם ולהעריך את התוצאה [3].

## מקורות

1. [Training Language Models for Introspective Oversight](https://arxiv.org/abs/2611.23365), arXiv (ראשוני)
2. [Training Language Models for Introspective Oversight](https://arxiv.org/html/2611.23365v1), arXiv (ראשוני)
3. [Training Models for Introspective Oversight](https://github.com/TransluceAI/introspective-oversight), Transluce (ראשוני)
4. [Classification: ROC and AUC](https://developers.google.com/machine-learning/crash-course/classification/roc-and-auc), Google for Developers (עצמאי)

מערכת החדשות של ITANU הפיקה את הכתבה בעזרת בינה מלאכותית ובדקה אותה מול המקורות שמופיעים למעלה.

Canonical: https://itanu.org/he/magazine/researchers-train-language-model-report-own-behavior-cqgju6v7/
