Enam negara, sepuluh perusahaan AI, dan empat organisasi masyarakat sipil menandatangani deklarasi bersama tentang keamanan AI di Paris, Senin, 9 November 2026. Deklarasi yang diberi nama Paris Call for AI Safety and Security itu berisi tiga komitmen: membangun kerangka evaluasi bersama untuk model frontier, menegaskan akuntabilitas seluruh pelaku ekosistem AI, dan membangun sistem berbagi informasi serta peringatan dini.
Ringkasan
- Deklarasi Paris Call for AI Safety and Security ditandatangani 9 November 2026 oleh enam negara, sepuluh perusahaan AI, dan empat kelompok masyarakat sipil.
- Tiga komitmen utama: kerangka evaluasi dan manajemen risiko bersama, akuntabilitas seluruh pelaku ekosistem AI, dan sistem berbagi informasi serta peringatan dini.
- Amerika Serikat, Inggris, dan Tiongkok tidak tercantum sebagai penandatangan; deklarasi tetap terbuka untuk dukungan baru.
Negara penandatangannya adalah Bahrain, Kanada, Finlandia, Prancis, Norwegia, dan Belanda. Dari industri, yang menandatangani adalah Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI, dan Synthesia. Masyarakat sipil diwakili LawZero yang dipimpin pionir AI Yoshua Bengio, SaferAI, AI Safety Connect, dan Ifri. Daftar itu masih bisa bertambah: menurut pembaruan di situs Élysée, Siprus dan Kenya sudah menyusul sebagai penandatangan.
Tiga negara besar tidak tercantum dalam daftar: Amerika Serikat, Inggris, dan Tiongkok. Deklarasi ini sendiri menyatakan tetap terbuka untuk dukungan baru.
BACA JUGA
Komitmen pertama menyangkut evaluasi. Para penandatangan sepakat membangun kerangka bersama untuk mengevaluasi dan mengelola risiko model frontier, didukung standar teknis dan metode evaluasi yang mengikuti perkembangan kemampuan model. Perhatian khusus diberikan pada penyalahgunaan berbahaya, termasuk di ranah siber dan CBRN, serta risiko dari otonomi model yang makin besar atau misalignment, termasuk kehilangan kendali. Hasil evaluasi yang tidak sensitif disepakati untuk dipublikasikan dalam format standar dan disimpan di repositori bersama yang bisa diakses publik, dengan jaringan International Network for Advanced AI Measurement, Evaluation and Science (NAAIMES) sebagai salah satu penopangnya.
Komitmen kedua soal tanggung jawab. Pengembang model frontier berkomitmen mengungkapkan kapabilitas, keterbatasan, dan risiko yang diketahui dari modelnya, serta mendukung evaluasi oleh penilai independen yang qualified bila sesuai dengan risikonya. Mereka juga berkomitmen memasang mekanisme fail-safe untuk mematikan operasi model yang masih dalam kendali mereka, termasuk saat pelatihan dan pemakaian internal. Pembuat kebijakan di sisi lain berkomitmen menyediakan jalur aman dan rahasia bagi whistleblower — termasuk karyawan — untuk melaporkan kekhawatiran soal risiko sistemik tanpa takut pembalasan hukum atau profesional.
Komitmen ketiga adalah berbagi informasi dan peringatan dini. Para penandatangan sepakat memperkuat pelaporan insiden, menyelaraskan klasifikasi insiden, dan berbagi informasi tepat waktu soal insiden siber dan AI yang serius maupun sinyal awal bahaya besar, baik antar perusahaan dan pemerintah maupun antar pemerintah. Sistem peringatan cepat ini dimaksudkan untuk mencegah risiko sistemik yang berantai dan merumuskan respons bersama.
Deklarasi ini melanjutkan rangkaian upaya sebelumnya: proses Hiroshima, Frontier Safety Commitments dari KTT AI Seoul, pertemuan G7 Evian, sidang Dewan Keamanan PBB tentang AI pada 23 September, dan “Call for Control of Frontier AI Models”.




