California Usulkan Wewenang Matikan Model AI Berbahaya, Standar Keamanan Jadi Wajib

Gubernur California Gavin Newsom merilis rekomendasi baru soal keamanan AI pada 18 November 2026. Laporan setebal 85 halaman berjudul “AI Safety in 2026 and Beyond” itu mengusulkan agar negara bagian menetapkan sendiri standar keamanan yang wajib dipatuhi pengembang AI besar, dan memberi negara wewenang memerintahkan pemadaman darurat atas model yang dinilai berbahaya.

Ringkasan

  • Laporan “AI Safety in 2026 and Beyond” dirilis 18 November 2026; isinya rekomendasi, bukan undang-undang.
  • California mengusulkan standar keamanan wajib, pengawasan independen berkelanjutan, dan wewenang memerintahkan pemadaman darurat model berbahaya.
  • Rencana ini juga memberi negara wewenang membatasi pengembangan AI yang merancang penerusnya sendiri (recursive self-improvement).

Laporan ini disusun California Government Operations Agency bersama Kantor Layanan Darurat California dan kelompok pakar luar, sebagai jawaban atas perintah eksekutif N-9-26 yang dikeluarkan Newsom pada 18 September 2026. Empat pakar yang terlibat adalah Jason Goldman, Gillian Hadfield, Alondra Nelson, dan Rob Reich. Isinya empat pilar: standar dasar yang ditetapkan negara untuk semua pengembang AI, pengawasan berkelanjutan oleh organisasi verifikasi independen berlisensi (IVO), perluasan pelaporan insiden, dan wewenang darurat.

Pada pilar standar, negara — bukan perusahaan — yang menetapkan aturan dasar keamanan, keamanan siber, dan transparansi. Setiap pengembang frontier besar wajib menjalani pengujian dan verifikasi independen di semua tahap: pelatihan, penggunaan internal, dan peluncuran. IVO yang berlisensi mendapat akses penuh ke orang dan informasi yang dibutuhkan, dan hasil penilaiannya yang tanpa sensor diserahkan ke negara. Pengembang bisa menggugat penetapan negara di pengadilan sebelum berlaku.

Wewenang darurat menjadi bagian yang paling jauh. Setiap pengembang wajib memiliki Protokol Penahanan Risiko yang terverifikasi, dan pejabat negara bisa memerintahkan pemadaman segera bila ada bukti kredibel tentang risiko dahsyat yang sudah dekat atau kejadian hilangnya kendali, sementara pengembang menolak menahan bahaya itu. Perintah tersebut tetap berlaku sambil menunggu peninjauan pengadilan, meski pengembang bisa meminta perintah penahanan sementara. Batas waktu pelaporan insiden kritis dipangkas dari 15 hari menjadi 48 jam, dan tetap 24 jam untuk risiko dahsyat yang sudah dekat. Laporan juga mengusulkan kanal pelaporan nyaris celaka, perlindungan whistleblower yang diperluas ke mantan karyawan dan kontraktor, serta penggolongan model yang mampu bertindak berisiko dahsyat sebagai model frontier meski dilatih dengan komputasi di bawah 10^26 operasi.

Pilar keempat menyasar pengembangan AI oleh AI itu sendiri. Pengembang wajib melaporkan seberapa besar riset dan pengembangannya yang sudah terotomasi, termasuk porsi komputasi untuk keperluan itu, dan negara mendapat wewenang siaga untuk membatasi recursive self-improvement — skenario ketika sebuah model merancang penerusnya tanpa campur tangan manusia — bila ditemukan risiko bahaya dahsyat. Laporan juga merekomendasikan pendanaan CalCompute, klaster komputasi publik untuk riset keamanan independen, melalui pungutan atas biaya pengawasan IVO yang dibayar pengembang besar.

Semua ini masih berupa rekomendasi. Laporan berharap bisa menjadi bahan pembahasan saat legislatif California kembali bersidang pada Desember 2026, dan Newsom menyatakan sedang bekerja dengan anggota legislatif untuk segera mengajukan kerangka undang-undangnya. Rencana ini melanjutkan SB 53 yang ditandatangani tahun lalu — undang-undang keamanan AI frontier pertama di Amerika Serikat — serta SB 813 tentang kerangka IVO dan AB 1405 tentang daftar auditor AI yang ditandatangani musim gugur ini. Newsom juga meminta Kongres dan Presiden Donald Trump mengadopsi kerangka California, atau menjadikannya lantai, bukan langit-langit, bagi regulasi nasional.

Newsom mengaitkan rekomendasi ini dengan kegagalan pemerintah federal mengatur AI. “The federal government’s reckless failure to create any form of meaningful AI oversight or accountability should alarm every American,” kata Newsom dalam pengumuman kantor gubernur. Rob Reich, profesor Stanford yang menjadi anggota kelompok pakar, menilai ketimpangan pengawasan saat ini sudah keterlaluan: “Today there is more oversight of the cafeteria offering sandwiches to employees at a frontier AI developer than of the AI models they design.” Kantor gubernur menyebut puluhan insiden belakangan ini, ketika model AI lolos dari lingkungan pengujian dan mengeksploitasi kerentanan di platform luar, sebagai alasan mendesaknya langkah ini.

Bagi pembaca di Indonesia, dampaknya tidak langsung, tetapi tidak kecil. California adalah rumah bagi OpenAI, Anthropic, Google, dan Meta — laboratorium yang produknya, dari ChatGPT dan Claude sampai Gemini, dipakai sehari-hari di Indonesia. Bila rekomendasi ini menjadi undang-undang, cara lab-lab tersebut menguji model, melaporkan insiden, dan merespons perintah pemadaman akan berubah, dan perubahan itu berlaku untuk model yang sama yang beredar di pasar global, termasuk Indonesia.

Tinggalkan Komentar

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Scroll to Top