وقّعت OpenAI اتفاقات لتقييم سلامة الذكاء الاصطناعي من جهات خارجية

تقول OpenAI إن أربع جهات ستفحص النماذج وآليات الحماية مع إتاحة الوصول إلى أنظمتها الداخلية. وتصف الفرق المشاركة تجارب تختلف في نطاقها ومدتها.

الأرقام بين الأقواس تربط بالمصادر المدرجة أدناه.

مبنى مكاتب حديث من الزجاج والمعدن عند تقاطع تصطف على جانبيه أشجار النخيل في سان فرانسيسكو.
صورة أرشيفية: مقر OpenAI في سان فرانسيسكو، 2025.تصوير: Coolcaesar / Wikimedia CommonsCC BY 4.0المصدر

أعلنت OpenAI في 16 نوفمبر أنها وقّعت اتفاقات مع Apollo Research وMETR وTransluce وGoodfire لتقييم نماذج الذكاء الاصطناعي وآليات الحماية لديها من خلال العمل داخل الشركة[1OpenAIOur first phase of embedded assessmentsفتح المصدرالمصادر [1]]. وقالت إن التقييمات الأولية تشمل التدريب والاستخدام الداخلي[1OpenAIOur first phase of embedded assessmentsفتح المصدرالمصادر [1]].

تصف OpenAI هذه التقييمات من داخل الشركة بأنها عمليات فحص ممتدة تتيح لخبراء خارجيين الوصول إلى أنظمة ونماذج داخلية[1OpenAIOur first phase of embedded assessmentsفتح المصدرالمصادر [1]]. وبحسب كل تقييم، تشمل الموارد المتاحة الشيفرة البرمجية والبيانات المستخدمة في التدريب والتقييمات وأدوات المراقبة والمحادثات مع الموظفين المسؤولين عن العمل[1OpenAIOur first phase of embedded assessmentsفتح المصدرالمصادر [1]].

تقول Apollo Research إن ستة مقيّمين سيقضون أربعة أشهر في فحص النماذج أثناء التدريب والتقييم والنشر الداخلي، وفق قواعد وصول محددة[2Apollo ResearchA Pilot Towards Embedded Evaluationsفتح المصدرالمصادر [2]]. وتهدف إلى تقصّي ما إذا كانت النماذج تحاول تقويض الضوابط التي تحكمها أو تحكم النماذج اللاحقة لها، وتعتزم نشر تقارير عامة توضّح حدود عملها[2Apollo ResearchA Pilot Towards Embedded Evaluationsفتح المصدرالمصادر [2]].

أفادت Goodfire بأن باحثيها سيستخدمون منصتها لمتابعة التدريب وتقصّي السلوك غير المرغوب فيه[4GoodfireAnnouncing our collaboration with OpenAIفتح المصدرالمصادر [4]]. وسيكون باحثو OpenAI الجمهور الرئيسي لنتائجها، لكن Goodfire تعتزم أيضاً نشر نتائج مع تقدّم العمل[4GoodfireAnnouncing our collaboration with OpenAIفتح المصدرالمصادر [4]].

ذكرت Transluce أن تجربتها التي تستمر ستة أسابيع ستفحص ما إذا كانت تقييمات OpenAI تكشف سلوكيات تشمل الخداع والتلاعب[3TransluceAnnouncing an Embedded Assessment Pilot with OpenAIفتح المصدرالمصادر [3]]. وقالت إن صلاحيات الوصول ستكون أوسع مما يُتاح عادة للمقيّمين الخارجيين، لكنها ستكون أقل من صلاحيات الموظفين[3TransluceAnnouncing an Embedded Assessment Pilot with OpenAIفتح المصدرالمصادر [3]]. وتعتزم المؤسستان إجراء تقييم أشمل بصلاحيات وصول أوسع في مطلع 2027، فيما لم تُحسم التفاصيل بعد[3TransluceAnnouncing an Embedded Assessment Pilot with OpenAIفتح المصدرالمصادر [3]].

المصادر

  1. 1
    Our first phase of embedded assessments

    أوليOpenAIاطُّلع عليه

  2. 2
    A Pilot Towards Embedded Evaluations

    مستقلApollo Researchاطُّلع عليه

  3. 3
    Announcing an Embedded Assessment Pilot with OpenAI

    مستقلTransluceاطُّلع عليه

  4. 4
    Announcing our collaboration with OpenAI

    مستقلGoodfireاطُّلع عليه

أنتج نظام غرفة الأخبار في ITANU هذا المقال بمساعدة الذكاء الاصطناعي وراجعه على المصادر المذكورة أعلاه. كيف نعمل

مجلة ITANU

أخبار التقنية والذكاء الاصطناعي والعلوم