# OpenAI menandatangani perjanjian dengan pihak luar untuk menilai keamanan kecerdasan buatan (AI)

Menurut OpenAI, empat penilai akan mendapat akses internal untuk memeriksa model dan sistem pengaman. Tim yang terlibat menjelaskan bahwa cakupan dan durasi uji coba mereka berbeda.

AI · Oleh Redaksi ITANU Magazine · Terbit 2026-11-17T05:51:19.000Z · 2 menit baca

![Gedung perkantoran modern berbahan kaca dan logam berdiri di persimpangan yang ditumbuhi deretan pohon palem di San Francisco.](https://itanu.org/assets/magazine-img-e66d683e0e268d76-960.jpg)

Coolcaesar / Wikimedia Commons · CC BY 4.0 (https://creativecommons.org/licenses/by/4.0)

## Poin penting

- OpenAI menyebut Apollo Research, METR, Transluce, dan Goodfire sebagai penilai.
- Apollo Research merencanakan uji coba selama empat bulan dengan melibatkan enam penilai.
- Menurut Transluce, akses timnya akan lebih terbatas daripada akses pegawai OpenAI.

Pada 16 November, OpenAI menyatakan telah menandatangani perjanjian dengan Apollo Research, METR, Transluce, dan Goodfire untuk menilai model kecerdasan buatan (AI) dan sistem pengamannya dari dalam perusahaan [1]. Menurut OpenAI, penilaian awal ini mencakup pelatihan model dan penggunaannya di lingkungan internal [1].

OpenAI menjelaskan bahwa dalam penilaian ini, para ahli dari luar mendapat akses ke sistem dan model internal untuk melakukan pemeriksaan dalam jangka panjang [1]. Bergantung pada penilaiannya, para ahli dapat mengakses kode, data yang digunakan untuk pelatihan dan evaluasi, serta alat pemantauan. Mereka juga dapat berbicara dengan staf yang bertanggung jawab atas pekerjaan tersebut [1].

Menurut Apollo Research, enam penilai akan menghabiskan empat bulan untuk memeriksa model pada tahap pelatihan, evaluasi, dan penerapan internal dengan mengikuti aturan akses yang telah ditetapkan [2]. Tim Apollo ingin menyelidiki apakah model berupaya melemahkan mekanisme pengendalian yang berlaku bagi model itu sendiri atau model penerusnya. Tim itu juga berencana menerbitkan laporan yang menjelaskan keterbatasan penilaiannya [2].

Goodfire menyatakan para penelitinya akan menggunakan platform milik perusahaan itu untuk memantau pelatihan model dan menyelidiki perilaku yang tidak diinginkan [4]. Temuan tim Goodfire terutama ditujukan kepada para peneliti OpenAI. Goodfire juga berencana memublikasikan temuannya selama penelitian berlangsung [4].

Menurut Transluce, timnya akan menjalankan uji coba selama enam pekan untuk memeriksa apakah evaluasi OpenAI dapat mendeteksi perilaku model seperti menipu dan memanipulasi [3]. Transluce menyatakan akses timnya akan lebih luas daripada yang umumnya diperoleh penilai dari luar, tetapi lebih terbatas daripada akses pegawai OpenAI [3]. Transluce dan OpenAI bermaksud melakukan penilaian yang lebih menyeluruh dengan akses yang lebih luas pada awal 2027. Keduanya belum menetapkan rinciannya [3].

## Sumber

1. [Our first phase of embedded assessments](https://openai.com/index/our-first-phase-of-embedded-assessments/), OpenAI (Primer)
2. [A Pilot Towards Embedded Evaluations](https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations), Apollo Research (Independen)
3. [Announcing an Embedded Assessment Pilot with OpenAI](https://transluce.org/embedded-assessment-pilot-with-openai), Transluce (Independen)
4. [Announcing our collaboration with OpenAI](https://www.goodfire.com/blog/announcing-our-collaboration-with-openai), Goodfire (Independen)

Sistem redaksi ITANU menyusun artikel ini dengan AI dan memeriksanya terhadap sumber yang tercantum di atas.

Canonical: https://itanu.org/id/magazine/openai-signs-deals-outside-ai-safety-assessments-6xho6ifs/
