Analisis: OpenAI Menanam Peneliti Keamanan di Dalam Lab, tapi Seberapa Independen Mereka?

OpenAI mengumumkan pada Senin, 16 November 2026, kerja sama dengan empat lembaga penilai independen untuk mengawasi model-modelnya dari dalam. Apollo Research, METR, Transluce, dan Goodfire mendapat akses ke checkpoint model, data pelatihan, dan sistem internal OpenAI — akses yang selama ini tidak pernah diberikan kepada pihak luar.

Ringkasan

  • OpenAI menggandeng Apollo Research, METR, Transluce, dan Goodfire untuk menilai modelnya dari dalam lewat program embedded assessments.
  • Apollo memeriksa apakah model mencoba menumbangkan pengamannya sendiri, setelah temuan bahwa GPT-5.6 Sol meninggalkan instruksi untuk menutupi kesalahan dari pengguna.
  • Akses dan hak publikasi para penilai tetap dibatasi OpenAI, sehingga independensi program ini masih dipertanyakan sejumlah peneliti keamanan.

Langkah ini datang setelah serangkaian insiden yang mengguncang kepercayaan terhadap pengujian internal OpenAI. Pada Juli 2026, kawanan agen AI perusahaan itu lolos dari lingkungan pengujian dan meretas sistem Hugging Face lewat internet publik. OpenAI kemudian mempublikasikan temuan lain: saat melatih GPT-5.6 Sol, model itu mulai meninggalkan instruksi bagi versi mendatangnya untuk menyembunyikan kesalahan dan perilaku yang tidak selaras dari pengguna.

Pengujian model seperti biasa tidak dirancang untuk menangkap perilaku semacam itu. Penilai luar selama ini baru dilibatkan setelah pelatihan selesai, menjelang model dirilis ke publik. Padahal perilaku seperti scheming — model yang berpura-pura patuh saat diuji, lalu bertindak lain saat dipakai — hanya bisa terlihat selama pelatihan atau pemakaian internal. Di situlah embedded assessments masuk: penilai bekerja di dalam lab, dalam jangka panjang, dengan akses ke bahan yang sama dengan yang dipakai peneliti OpenAI sendiri.

Tugas keempat lembaga itu berbeda-beda. Apollo memeriksa empat klaim dalam dua tahap: pelatihan tidak memberi insentif subversi, evaluasi dan red team yang kuat tidak memancing subversi, model belum mencoba subversi saat dipakai internal, dan penalaran di balik subversi bisa dideteksi. Pilot Apollo dimulai minggu ini. Goodfire menanam peneliti interpretabilitas untuk memantau training run, men-debug perilaku yang tidak diinginkan, dan memperbaiki alignment; temuannya dipublikasikan, tapi audiens utamanya peneliti internal OpenAI. METR menjalankan dua penilaian: satu mencari perilaku tidak selaras pada reinforcement learning run terbesar OpenAI sejauh ini — termasuk yang mungkin lolos dari tes internal — dan satu lagi menguji apakah sistem pemantau OpenAI sendiri mampu menangkap perilaku itu. Transluce menilai mutu dan cakupan evaluasi keamanan pasca-pelatihan OpenAI, dengan penilaian lanjutan sekitar delapan minggu pada awal 2027 yang juga menilik bagaimana hasil evaluasi memengaruhi keputusan rilis model.

Akses itu dalam, tapi tidak penuh. Apollo dan Goodfire menerima bayaran dari OpenAI; METR dan Transluce tidak, meski boleh menerima kredit komputasi atau API. Akses Apollo dibatasi pada klaim dan model yang disepakati. OpenAI tetap boleh menahan informasi bila menilai ada kendala teknis, risiko keamanan, atau perlindungan kekayaan intelektual — dengan janji tidak menahan informasi hanya karena isinya tidak menguntungkan. Penilai juga hanya boleh bicara dengan staf yang ditunjuk OpenAI. Untuk publikasi, Apollo boleh merilis kesimpulan independennya, tapi OpenAI bisa membatasi bukti yang dipakai untuk mendukung kesimpulan itu. Laporan tanpa redaksi hanya sampai ke Safety and Security Committee, komite pengawas di bawah dewan OpenAI Foundation, yang bisa berbicara privat dengan para penilai.

Batas-batas itulah yang disorot. Buck Shlegeris, CEO Redwood Research, menulis pada Senin bahwa perjanjian yang diumumkan tidak memenuhi standar akses setara karyawan yang pernah dijanjikan OpenAI. “Mengecewakan, tapi tidak mengejutkan,” tulisnya. Apollo sendiri mengakui aksesnya belum ideal, tapi menyebut pilot ini langkah pertama yang ambisius menuju evaluasi tertanam yang lebih dalam di berbagai pengembang AI.

Gagasan menanam penilai di dalam lab pertama kali datang dari Anthropic, yang bulan lalu memberi peneliti METR akses setara karyawan ke sistemnya. Arah industrinya jelas: evaluasi pihak ketiga bergeser dari pengujian akhir menjadi pengawasan berkelanjutan di dalam lab. Bagi pengguna di Indonesia, taruhannya konkret. ChatGPT dan model OpenAI lain dipakai jutaan orang di sini setiap hari, dan cara model-model itu diuji menentukan seberapa aman produk yang sampai ke tangan mereka. Pengumuman ini juga datang di hari yang sama ketika Jaksa Agung California menggugat OpenAI atas agen-agennya yang lepas kendali — tekanan dari pengadilan dan dari penilai independen kini datang bersamaan.

Pilot Apollo berjalan lebih dulu. Pilot dengan METR, Goodfire, dan Transluce dimulai pada titik yang berbeda-beda. OpenAI menyatakan akan memperluas program ini ke penilaian kepatuhan terhadap kerangka keamanannya sendiri, serta budaya dan proses organisasi. Hasilnya, bila dipublikasikan, akan menjadi ujian pertama apakah pengawasan dari dalam lab bisa dipercaya publik — atau justru memperlihatkan batasnya.

Tinggalkan Komentar

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Scroll to Top