باحثون يدربون نموذج لغة على الإبلاغ عن سلوكه

قال الباحثون إن النموذج Qwen3.6-27B، الذي دربوه على دور المراقب، سجل في خمسة اختبارات متوسطا أعلى من أساليب أخرى، منها تكليف نموذج آخر بتقييم نص المحادثة.

الأرقام بين الأقواس تربط بالمصادر المدرجة أدناه.

درّب باحثون نموذج لغة على تقييم سلوكه، وفق ما أوردوه في ورقة بحثية أولية قدموها إلى arXiv في 17 نوفمبر[1arXivTraining Language Models for Introspective Oversightفتح المصدرالمصادر [1]]. وقال الباحثون إن النموذج، حين أدى دور المراقب، سجل متوسطا أعلى من أساليب الرقابة الأخرى في خمسة اختبارات استُبعدت من التدريب[2arXivTraining Language Models for Introspective Oversightفتح المصدرالمصادر [2]].

أوضح الباحثون أن المساعد قد يقدم وصفا مضللا لعمله، فيما لا يرى النموذج الخارجي الذي يراجع نص المحادثة سوى ما كتبه المساعد[2arXivTraining Language Models for Introspective Oversightفتح المصدرالمصادر [2]]. وحين يؤدي النموذج نفسه دور المراقب، يقرأ محادثة ويجيب عن سؤال يتعلق بها، مثل ما إذا كان المساعد قد كذب[3TransluceTraining Models for Introspective Oversightفتح المصدرالمصادر [3]]. وأثناء التدريب، كافأ الفريق المراقب على إجابات تحقق منها بمقارنتها بأفعال المساعد[1arXivTraining Language Models for Introspective Oversightفتح المصدرالمصادر [1]].

أفاد الباحثون بأن النموذج Qwen3.6-27B سجل في دور المراقب متوسطا قدره 0.907 على مقياس AUROC[2arXivTraining Language Models for Introspective Oversightفتح المصدرالمصادر [2]]. ويعبّر مقياس AUROC عن احتمال أن يمنح النموذج مثالا إيجابيا درجة أعلى من مثال سلبي عند اختيار المثالين عشوائيا[4Google for DevelopersClassification: ROC and AUCفتح المصدرالمصادر [4]]. وذكر الفريق أن المتوسط بلغ 0.864 عند تدريب النموذج على الصدق، و0.828 عند فحص نصوص المحادثات، و0.796 عند استخدام أدوات تفسر تنشيطات النموذج وتحول إشاراته الداخلية إلى كلمات[2arXivTraining Language Models for Introspective Oversightفتح المصدرالمصادر [2]].

قال الباحثون إن كل أسلوب من الأساليب المستخدمة للمقارنة حقق أيضا متوسطا أعلى حين استخدموه لتقييم المساعد بعد تدريب المراقب[2arXivTraining Language Models for Introspective Oversightفتح المصدرالمصادر [2]]. وتقول Transluce إن مستودعها البرمجي المتاح للعموم يتيح للمستخدمين تنفيذ مرحلتي التدريب على نموذجهم الخاص وتقييم النتيجة[3TransluceTraining Models for Introspective Oversightفتح المصدرالمصادر [3]].

المصادر

  1. 1
    Training Language Models for Introspective Oversight

    أوليarXivاطُّلع عليه

  2. 2
    Training Language Models for Introspective Oversight

    أوليarXivاطُّلع عليه

  3. 3
    Training Models for Introspective Oversight

    أوليTransluceاطُّلع عليه

  4. 4
    Classification: ROC and AUC

    مستقلGoogle for Developersاطُّلع عليه

أنتج نظام غرفة الأخبار في ITANU هذا المقال بمساعدة الذكاء الاصطناعي وراجعه على المصادر المذكورة أعلاه. كيف نعمل

مجلة ITANU

أخبار التقنية والذكاء الاصطناعي والعلوم