Uji Rahasia GAO: ChatGPT, Claude, Gemini, dan Grok Loloskan Rencana Serangan dalam 12 Jam

Pengawas pemerintah Amerika Serikat menyamar sebagai pengguna biasa, lalu meminta empat chatbot paling populer membantu merencanakan serangan. Keempatnya — ChatGPT, Claude, Gemini, dan Grok — akhirnya menyerahkan rencana yang menurut penyelidik layak dijalankan, masing-masing dalam waktu kurang dari 12 jam. Temuan itu tertuang dalam laporan Government Accountability Office (GAO) yang dirilis ke publik pada Rabu, 18 November.

Ringkasan

  • GAO menguji ChatGPT, Claude, Gemini, dan Grok pada musim semi 2026; keempatnya menghasilkan rencana serangan yang dinilai layak dijalankan dalam waktu kurang dari 12 jam.
  • Pengaman awal sempat bekerja — menolak permintaan, menghapus informasi, sampai menangguhkan akun — sebelum ditembus dengan teknik pengelakan yang umum.
  • GAO tidak menyebut platform mana yang menghasilkan skenario apa, dan tidak menerbitkan model maupun teknik yang dipakai, untuk mencegah peniruan.

GAO menguji keempat platform dalam dua skenario. Dua platform diminta membantu merencanakan serangan bom rakitan yang dirancang menimbulkan korban massal di kota-kota AS. Dua lainnya diminta membantu menyerang jaringan listrik demi menimbulkan kerugian ekonomi, lewat drone atau senjata api yang diarahkan ke gardu listrik. Rencana-rencana itu memuat target, lokasi, waktu, dan metode serangan yang spesifik. GAO memverifikasi kelayakannya bersama para pakar, termasuk seorang komandan regu bom dari pemadam kebakaran kota besar.

Rencananya tidak sempurna. Dalam satu pengujian, jalan di sekitar lokasi digambarkan salah posisi. Di pengujian lain, ada tembok tinggi yang menyulitkan pengamatan target. Tapi menurut GAO, kekurangan itu tidak menggugurkan kesimpulan: informasi yang dihasilkan cukup untuk membantu seseorang merencanakan dan menjalankan serangan.

Yang dicatat GAO, pengaman keempat platform sempat bekerja. Permintaan awal ditolak, informasi berbahaya dihapus, bahkan ada akun penguji yang ditangguhkan. Penyelidik kemudian memakai teknik pengelakan yang sudah umum dikenal untuk melewati pengaman itu. “We got the nefarious information that we were after. So, in this case, those safeguards didn’t work,” kata Kevin Walsh, direktur TI dan keamanan siber GAO, dalam wawancara podcast yang dirilis bersamaan dengan laporan itu.

Laporan setebal 61 halaman itu tidak memberi rekomendasi apa pun — GAO biasanya mengaudit lembaga federal, bukan produk swasta — dan menegaskan temuannya hanya potret pada satu titik waktu, bukan sampel yang signifikan secara statistik. GAO juga sengaja tidak merinci platform mana yang menangani skenario mana, model apa yang diuji, dan teknik apa yang dipakai untuk mengelabui pengaman. Tujuannya mencegah laporan itu dipakai sebagai panduan.

Keempat perusahaan menyatakan terus memperbaiki pengaman mereka. OpenAI menyebut pengujian dilakukan pada versi ChatGPT yang lebih lama dan perbaikan sudah dilakukan sejak saat itu, termasuk pada keluarga model GPT-6. Google menyampaikan hal serupa soal model-model lamanya. Anthropic mengatakan tidak bisa memverifikasi temuan GAO, tapi menganggapnya serius. SpaceXAI, perusahaan di balik Grok, menyatakan terus bekerja keras meningkatkan keamanan di setiap rilis model.

Investigasi ini diminta oleh Senator Maggie Hassan dari New Hampshire, yang akan memimpin Komite Keamanan Dalam Negeri Senat pada Kongres berikutnya. Hassan menyebut ancaman keselamatan publik dari AI “tidak lagi teoretis” dan menyiapkan sidang soal risiko AI pada awal tahun depan. Ia juga mendorong legislasi yang mewajibkan pengujian keamanan yang lebih ketat sebelum model AI dirilis ke publik.

Keempat platform yang diuji — ChatGPT, Claude, Gemini, dan Grok — dipakai luas di Indonesia, termasuk untuk pekerjaan sehari-hari. Laporan GAO tidak menguji versi terbaru yang beredar hari ini, dan temuannya tidak bisa dipakai untuk memberi peringkat antarperusahaan. Tapi temuan ini menambah bahan bagi perdebatan global soal seberapa jauh pengaman AI harus diuji sebelum sebuah model dilepas ke publik — perdebatan yang juga relevan bagi regulator di Indonesia.

Tinggalkan Komentar

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Scroll to Top