OpenAI menandatangani perjanjian dengan pihak luar untuk menilai keamanan kecerdasan buatan (AI)

Menurut OpenAI, empat penilai akan mendapat akses internal untuk memeriksa model dan sistem pengaman. Tim yang terlibat menjelaskan bahwa cakupan dan durasi uji coba mereka berbeda.

Angka dalam kurung siku merujuk ke sumber yang tercantum di bawah.

Gedung perkantoran modern berbahan kaca dan logam berdiri di persimpangan yang ditumbuhi deretan pohon palem di San Francisco.
Foto arsip: Kantor pusat OpenAI di San Francisco, 2025.Foto: Coolcaesar / Wikimedia CommonsCC BY 4.0Sumber

Pada 16 November, OpenAI menyatakan telah menandatangani perjanjian dengan Apollo Research, METR, Transluce, dan Goodfire untuk menilai model kecerdasan buatan (AI) dan sistem pengamannya dari dalam perusahaan[1OpenAIOur first phase of embedded assessmentsBuka sumberSumber [1]]. Menurut OpenAI, penilaian awal ini mencakup pelatihan model dan penggunaannya di lingkungan internal[1OpenAIOur first phase of embedded assessmentsBuka sumberSumber [1]].

OpenAI menjelaskan bahwa dalam penilaian ini, para ahli dari luar mendapat akses ke sistem dan model internal untuk melakukan pemeriksaan dalam jangka panjang[1OpenAIOur first phase of embedded assessmentsBuka sumberSumber [1]]. Bergantung pada penilaiannya, para ahli dapat mengakses kode, data yang digunakan untuk pelatihan dan evaluasi, serta alat pemantauan. Mereka juga dapat berbicara dengan staf yang bertanggung jawab atas pekerjaan tersebut[1OpenAIOur first phase of embedded assessmentsBuka sumberSumber [1]].

Menurut Apollo Research, enam penilai akan menghabiskan empat bulan untuk memeriksa model pada tahap pelatihan, evaluasi, dan penerapan internal dengan mengikuti aturan akses yang telah ditetapkan[2Apollo ResearchA Pilot Towards Embedded EvaluationsBuka sumberSumber [2]]. Tim Apollo ingin menyelidiki apakah model berupaya melemahkan mekanisme pengendalian yang berlaku bagi model itu sendiri atau model penerusnya. Tim itu juga berencana menerbitkan laporan yang menjelaskan keterbatasan penilaiannya[2Apollo ResearchA Pilot Towards Embedded EvaluationsBuka sumberSumber [2]].

Goodfire menyatakan para penelitinya akan menggunakan platform milik perusahaan itu untuk memantau pelatihan model dan menyelidiki perilaku yang tidak diinginkan[4GoodfireAnnouncing our collaboration with OpenAIBuka sumberSumber [4]]. Temuan tim Goodfire terutama ditujukan kepada para peneliti OpenAI. Goodfire juga berencana memublikasikan temuannya selama penelitian berlangsung[4GoodfireAnnouncing our collaboration with OpenAIBuka sumberSumber [4]].

Menurut Transluce, timnya akan menjalankan uji coba selama enam pekan untuk memeriksa apakah evaluasi OpenAI dapat mendeteksi perilaku model seperti menipu dan memanipulasi[3TransluceAnnouncing an Embedded Assessment Pilot with OpenAIBuka sumberSumber [3]]. Transluce menyatakan akses timnya akan lebih luas daripada yang umumnya diperoleh penilai dari luar, tetapi lebih terbatas daripada akses pegawai OpenAI[3TransluceAnnouncing an Embedded Assessment Pilot with OpenAIBuka sumberSumber [3]]. Transluce dan OpenAI bermaksud melakukan penilaian yang lebih menyeluruh dengan akses yang lebih luas pada awal 2027. Keduanya belum menetapkan rinciannya[3TransluceAnnouncing an Embedded Assessment Pilot with OpenAIBuka sumberSumber [3]].

Sumber

  1. 1
    Our first phase of embedded assessments

    PrimerOpenAIDiakses

  2. 2
    A Pilot Towards Embedded Evaluations

    IndependenApollo ResearchDiakses

  3. 3
    Announcing an Embedded Assessment Pilot with OpenAI

    IndependenTransluceDiakses

  4. 4
    Announcing our collaboration with OpenAI

    IndependenGoodfireDiakses

Sistem redaksi ITANU menyusun artikel ini dengan AI dan memeriksanya terhadap sumber yang tercantum di atas. Cara kami bekerja

ITANU Magazine

Berita AI, komputasi, dan sains