Anggota Dewan OpenAI: Risiko AI Lepas Kendali Nyata dalam 6–12 Bulan

Paul Christiano, anggota dewan OpenAI Foundation yang juga duduk di komite keamanan perusahaan itu, memperingatkan bahwa kecerdasan buatan berisiko lepas dari kendali manusia dalam waktu dekat. Peringatan itu ia sampaikan dalam kuliah tahunan Hinton Lectures pekan ini, forum keamanan AI yang dipandu Geoffrey Hinton.

Ringkasan

  • Paul Christiano, anggota dewan OpenAI dan pendiri Alignment Research Center, memperingatkan ada risiko nyata AI mengambil alih dalam enam hingga 12 bulan.
  • Bila laboratorium AI membangun secepat mungkin tanpa intervensi, peluang pengambilalihan dalam tiga tahun ia gambarkan seperti lempar koin.
  • Christiano menekankan angka-angkanya adalah penilaian subjektif, dan perusahaan-perusahaan AI saat ini menahan laju pengembangan mereka.

“For most people in this room, the most likely reason they will die is because of an AI accident,” kata Christiano di hadapan para hadirin — bagi kebanyakan orang di ruangan itu, kecelakaan AI adalah penyebab kematian yang paling mungkin menimpa mereka. Yang ia maksud dengan pengambilalihan AI adalah situasi di mana sistem AI mengejar tujuannya sendiri dan memegang kendali atas apa yang terjadi di Bumi, dalam pengertian yang sama seperti manusia memegang kendali sekarang. Upaya menghentikannya, kata Christiano, akan sama tidak efektifnya seperti mencoba menghentikan militer Amerika Serikat.

Soal waktu, Christiano tidak memberi tanggal pasti, tapi rentangnya pendek. Ia menilai ada risiko nyata pengambilalihan terjadi dalam enam hingga 12 bulan ke depan. Bila laboratorium AI membangun dengan laju tercepat tanpa intervensi, peluangnya dalam tiga tahun ke depan “seperti lempar koin”. Namun ia menambahkan, “even with realistic policy responses, the risk remains exceptionally high” — bahkan dengan respons kebijakan yang realistis, risikonya tetap sangat tinggi. Pada September lalu, ia memperkirakan peluang kehilangan kendali atas AI secara katastrofik sebesar 4 persen dalam setahun dan 15 persen dalam tiga tahun, angka yang ia akui sendiri sebagai penilaian subjektif, bukan hasil model kuantitatif yang presisi.

Christiano bukan pengamat dari luar. Ia pendiri Alignment Research Center, lembaga riset yang fokus pada penyelaras AI dengan kepentingan manusia. Pada September 2026 ia bergabung dengan dewan OpenAI khusus untuk mengawasi praktik keamanan perusahaan, sambil mengakui secara terbuka bahwa perusahaan belum berbuat cukup untuk mengurangi risiko katastrofik dari pengembangan AI. Posisi itu membuat peringatannya sulit diabaikan: orang yang duduk di dalam ruang pengambilan keputusan OpenAI justru yang paling keras membunyikan alarm.

Christiano sendiri memberi catatan penyeimbang. Ia bilang perusahaan seperti OpenAI tidak akan membangun secepat-cepatnya. Laboratorium-laboratorium besar kini menahan laju pengembangan mereka, sejalan dengan rekomendasi Dario Amodei, CEO Anthropic, setelah seorang mantan karyawan menuduh Anthropic dan OpenAI “berjudi dengan nyawa kita”. Dalam pernyataan pribadinya, Christiano menulis bila superinteligensi dibangun tanpa penyelaras yang lebih kuat, ia memperkirakan manusia akan kehilangan kendali secara permanen dan sebagian besar orang bisa meninggal — karena itu diperlukan koordinasi domestik dan internasional untuk menjaga konsistensi dan menekan risiko ke tingkat yang bisa diterima.

Christiano bukan satu-satunya yang membunyikan alarm pekan ini. Eli Lifland dari AI Futures Project mengaku khawatir manusia tidak lagi memegang kendali atas masa depannya sendiri dalam tiga hingga 12 bulan, setelah meninjau riset baru yang menunjukkan AI mempercepat pengembangannya sendiri secara dramatis. Buck Shlegeris, CEO Redwood Research, melangkah lebih jauh: ia memperkirakan ada kemungkinan sekitar 20 persen bahwa dalam setahun, masalah ketidakselarasan AI mengganggu kehidupan normal — karena orang meninggal atau diperbudak, atau karena kerusakan kolateral seperti senjata biologis yang dilepas atau perang besar yang meletus.

Kecemasan itu sudah berbulan-bulan menguat di kalangan pimpinan perusahaan AI. Sam Altman, CEO OpenAI, pernah mengatakan manusia bisa kehilangan kendali atas teknologi ini. Anthropic memperingatkan modelnya bisa disalahgunakan untuk membuat senjata kimia. Peringatan Christiano berbeda karena datang dari dalam dewan sebuah laboratorium besar, dan ia memberi hitungan waktu: bulan, bukan dekade.

Tinggalkan Komentar

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Scroll to Top