# חברת OpenAI חתמה על הסכמים לבדיקות חיצוניות של בטיחות בינה מלאכותית

ארבעה גופים יבדקו מודלים ומנגנוני הגנה עם גישה למערכות פנימיות, כך מסרה OpenAI. הצוותים המשתתפים מתארים ניסויים בהיקפים ולפרקי זמן שונים.

בינה מלאכותית · מאת מערכת מגזין ITANU · פורסם 2026-11-17T05:51:19.000Z · 1 דק׳ קריאה

![בניין משרדים מודרני מזכוכית ומתכת ניצב בצומת רחובות שלאורכם עצי דקל בסן פרנסיסקו.](https://itanu.org/assets/magazine-img-e66d683e0e268d76-960.jpg)

Coolcaesar / Wikimedia Commons · CC BY 4.0 (https://creativecommons.org/licenses/by/4.0)

## עיקרי הדברים

- הגופים שיבצעו את הבדיקות הם Apollo Research, METR, Transluce ו־Goodfire, כך מסרה OpenAI.
- ב־Apollo Research מתכננים ניסוי של ארבעה חודשים בהשתתפות שישה בודקים.
- לדברי Transluce, הגישה שתקבל תהיה מצומצמת מזו שניתנת לעובדים.

חברת OpenAI הודיעה ב־16 בנובמבר כי חתמה על הסכמים עם Apollo Research, METR, Transluce ו־Goodfire לבדיקת מודלי הבינה המלאכותית ומנגנוני ההגנה שלה באמצעות עבודה בתוך החברה [1]. לדבריה, הבדיקות הראשונות יעסקו באימון ובשימוש פנימי [1].

ב־OpenAI מתארים את הבדיקות מתוך החברה כבדיקות ממושכות, שבמסגרתן מומחים חיצוניים מקבלים גישה למערכות ולמודלים פנימיים [1]. בהתאם לבדיקה, המשאבים הזמינים כוללים קוד, נתונים המשמשים לאימון ולהערכות, כלי ניטור ושיחות עם העובדים האחראים לעבודה [1].

לפי Apollo Research, שישה בודקים יקדישו ארבעה חודשים לבדיקת מודלים בשלבי האימון, ההערכה וההטמעה הפנימית, בכפוף לכללי גישה מוגדרים [2]. הגוף מבקש לבדוק אם מודלים מנסים לערער את מנגנוני הבקרה החלים עליהם או על המודלים שיבואו אחריהם, ומתכנן לפרסם דוחות שיסבירו את מגבלות הבדיקה [2].

לדברי Goodfire, חוקריה ישתמשו בפלטפורמה שלה כדי לעקוב אחר האימון ולחקור התנהגות לא רצויה [4]. חוקרי OpenAI יהיו קהל היעד העיקרי לממצאים, אך Goodfire מתכננת גם לפרסם ממצאים עם התקדמות העבודה [4].

ב־Transluce מסרו כי הניסוי, שיימשך שישה שבועות, יבחן אם ההערכות של OpenAI מזהות התנהגויות ובהן הטעיה ומניפולציה [3]. לדברי הארגון, הגישה שיקבל תהיה רחבה מזו שניתנת בדרך כלל לבודקים חיצוניים, אך מצומצמת מזו שניתנת לעובדים [3]. הארגונים מתכוונים לערוך בדיקה מקיפה יותר עם גישה רחבה יותר בתחילת 2027, אך הפרטים טרם נקבעו [3].

## מקורות

1. [Our first phase of embedded assessments](https://openai.com/index/our-first-phase-of-embedded-assessments/), OpenAI (ראשוני)
2. [A Pilot Towards Embedded Evaluations](https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations), Apollo Research (עצמאי)
3. [Announcing an Embedded Assessment Pilot with OpenAI](https://transluce.org/embedded-assessment-pilot-with-openai), Transluce (עצמאי)
4. [Announcing our collaboration with OpenAI](https://www.goodfire.com/blog/announcing-our-collaboration-with-openai), Goodfire (עצמאי)

מערכת החדשות של ITANU הפיקה את הכתבה בעזרת בינה מלאכותית ובדקה אותה מול המקורות שמופיעים למעלה.

Canonical: https://itanu.org/he/magazine/openai-signs-deals-outside-ai-safety-assessments-6xho6ifs/
