# باحثون يدربون نموذج لغة على الإبلاغ عن سلوكه

قال الباحثون إن النموذج Qwen3.6-27B، الذي دربوه على دور المراقب، سجل في خمسة اختبارات متوسطا أعلى من أساليب أخرى، منها تكليف نموذج آخر بتقييم نص المحادثة.

الذكاء الاصطناعي · إعداد هيئة تحرير مجلة ITANU · نُشر 2026-11-19T17:59:24.000Z · قراءة 1 د

## أبرز النقاط

- كافأ الباحثون المراقب على الإجابات التي أمكنهم التحقق منها بمقارنتها بأفعال المساعد.
- أفاد الباحثون بأن متوسط مقياس AUROC بلغ 0.907 للمراقب مقابل 0.828 عند فحص نصوص المحادثات.
- تقول Transluce إن مستودعها البرمجي المتاح للعموم يضم شيفرة لتدريب المراقب وتقييمه.

درّب باحثون نموذج لغة على تقييم سلوكه، وفق ما أوردوه في ورقة بحثية أولية قدموها إلى arXiv في 17 نوفمبر [1]. وقال الباحثون إن النموذج، حين أدى دور المراقب، سجل متوسطا أعلى من أساليب الرقابة الأخرى في خمسة اختبارات استُبعدت من التدريب [2].

أوضح الباحثون أن المساعد قد يقدم وصفا مضللا لعمله، فيما لا يرى النموذج الخارجي الذي يراجع نص المحادثة سوى ما كتبه المساعد [2]. وحين يؤدي النموذج نفسه دور المراقب، يقرأ محادثة ويجيب عن سؤال يتعلق بها، مثل ما إذا كان المساعد قد كذب [3]. وأثناء التدريب، كافأ الفريق المراقب على إجابات تحقق منها بمقارنتها بأفعال المساعد [1].

أفاد الباحثون بأن النموذج Qwen3.6-27B سجل في دور المراقب متوسطا قدره 0.907 على مقياس AUROC [2]. ويعبّر مقياس AUROC عن احتمال أن يمنح النموذج مثالا إيجابيا درجة أعلى من مثال سلبي عند اختيار المثالين عشوائيا [4]. وذكر الفريق أن المتوسط بلغ 0.864 عند تدريب النموذج على الصدق، و0.828 عند فحص نصوص المحادثات، و0.796 عند استخدام أدوات تفسر تنشيطات النموذج وتحول إشاراته الداخلية إلى كلمات [2].

قال الباحثون إن كل أسلوب من الأساليب المستخدمة للمقارنة حقق أيضا متوسطا أعلى حين استخدموه لتقييم المساعد بعد تدريب المراقب [2]. وتقول Transluce إن مستودعها البرمجي المتاح للعموم يتيح للمستخدمين تنفيذ مرحلتي التدريب على نموذجهم الخاص وتقييم النتيجة [3].

## المصادر

1. [Training Language Models for Introspective Oversight](https://arxiv.org/abs/2611.23365), arXiv (أولي)
2. [Training Language Models for Introspective Oversight](https://arxiv.org/html/2611.23365v1), arXiv (أولي)
3. [Training Models for Introspective Oversight](https://github.com/TransluceAI/introspective-oversight), Transluce (أولي)
4. [Classification: ROC and AUC](https://developers.google.com/machine-learning/crash-course/classification/roc-and-auc), Google for Developers (مستقل)

أنتج نظام غرفة الأخبار في ITANU هذا المقال بمساعدة الذكاء الاصطناعي وراجعه على المصادر المذكورة أعلاه.

Canonical: https://itanu.org/ar/magazine/researchers-train-language-model-report-own-behavior-cqgju6v7/
