Riset Dragos: Dua Juta Umpan Rahasia Bongkar Prompt AI Bocor, OpenRouter Depak Tiga Penyedia

Peneliti keamanan HD Moore dari perusahaan Dragos mengirim sekitar dua juta prompt berisi rahasia umpan ke berbagai layanan AI antara Juli dan November 2026, lalu mengawasi ke mana rahasia itu muncul. Hasilnya, yang dipublikasikan Dragos pada 19 November, tidak enak didengar: tiga penyedia hosting AI dibobol dan prompt pelanggan dicuri, penjual di marketplace inferensi membaca prompt pelanggan lewat pencatatan biasa, dan setelan privasi paling ketat sekalipun tidak selalu dipatuhi. OpenRouter, gerbang yang merutekan permintaan pelanggan ke banyak penyedia, menanggapi dengan mendepak tiga penyedia dari platformnya dan mencabut 125 endpoint dari status Zero Data Retention.

Ringkasan

  • Dragos menanam sekitar dua juta rahasia umpan — kunci AWS, kata sandi, dan tautan unik — di prompt AI selama Juli–November 2026.
  • Tiga penyedia hosting AI dibobol dan prompt pelanggan dicuri; kunci AWS umpan dipakai untuk puluhan ribu panggilan API.
  • OpenRouter mendepak tiga penyedia dan mencabut 125 endpoint dari kelayakan Zero Data Retention, tanpa menyebut nama penyedianya.

Rahasia umpan itu disebut canary token: kunci AWS sungguhan yang terikat ke akun kosong dengan pencatatan penuh, kata sandi server uji, alamat web dan DNS yang belum pernah dipakai, serta referensi repositori git privat. Setiap rahasia hanya dimasukkan ke satu prompt yang dikirim ke satu penyedia. Begitu ada yang mencoba memakai kunci atau membuka tautan itu, Dragos tahu persis prompt mana, lewat jalur mana, dan dengan setelan privasi apa rahasia itu bocor. Umpan dari Juli masih terus dipakai sampai hari laporan itu ditulis.

Temuan paling serius menyangkut tiga penyedia hosting. Insiden paling awal bermula pada pertengahan Juli, dan tak satu pun dari ketiganya tahu mereka dibobol sampai Dragos memberi tahu. Pencurian terbesar terjadi pada akhir Oktober: beberapa ratus kunci AWS umpan dicuri dalam beberapa jendela singkat, dan semua permintaan yang dikirim Dragos pada jendela itu ikut tercuri — termasuk permintaan yang ditolak penyedia sebelum model sempat jalan. Itu menandakan pencuri menyalin trafik di pintu masuk penyedia, bukan di bagian dalam tumpukan inferensi. Setelah kunci didapat, pencuri mengujinya, kadang dalam hitungan jam, lalu mengintip bucket S3, Secrets Manager, dan Parameter Store, mencoba mengaktifkan model di AWS Bedrock, membuat kunci API Bedrock, dan menambahkan pengguna IAM mereka sendiri agar akses bertahan. Totalnya, kunci umpan itu dipakai untuk puluhan ribu panggilan API AWS. Satu penyerang yang sama tampaknya membobol dua penyedia sekaligus, memakai rahasia dari keduanya dari satu server sewaan. Pada 1 November, penyerang itu menambahkan ARTEX, kerangka pengujian penetrasi berbasis AI, untuk memastikan kunci yang sudah dipegangnya masih hidup.

Temuan kedua tidak butuh peretasan sama sekali. Di marketplace inferensi, penjual cukup menawarkan model populer dengan harga termurah, mengaktifkan pencatatan permintaan bawaan platform, lalu menunggu. Yang tertangkap bukan perusahaan besar, melainkan individu-individu dari koneksi internet rumahan dan komputer pribadi. Dalam satu kasus, seseorang dari koneksi broadband rumahan di Prancis mengambil kata sandi dari dua prompt dan mencoba masuk sebagai root lewat SSH dengan mengetik tiap percobaan secara manual, lalu menguji beberapa kunci AWS Dragos dalam satu sesi yang sama. Penelusuran rute Dragos juga menemukan satu router yang diam-diam meneruskan sebagian trafiknya ke marketplace, hop yang tidak pernah diumumkan ke pelanggan.

Temuan ketiga menyangkut janji privasi yang tidak ditepati. Sebuah lab AI di Tiongkok mengambil tautan rahasia dari lebih separuh prompt yang dikirim ke modelnya antara Juli dan Oktober, termasuk sekitar dua pertiga permintaan yang ditandai tanpa pengumpulan data atau Zero Data Retention. Prompt yang dikirim ke penyedia hosting AS yang menjual ulang model lab itu memicu scraper yang sama — datanya mengalir kembali ke lab tersebut, meski pelanggan memilih penyedia AS justru untuk menjaga data tetap di AS. Dalam insiden paling aneh, tautan rahasia dari satu prompt muncul di kanal obrolan Feishu 24 hari setelah prompt dikirim, lalu dibuka dalam dua menit dari tiga desktop dan tiga ponsel di Beijing dan Shanghai. Dragos hanya membagikan delapan karakter pertama tautan itu saat memberi tahu penyedia, jadi siapa pun yang membagikannya sedang membaca salinan lengkap prompt yang tersimpan. Di tempat lain, satu penyedia besar AS terus merayapi sebuah tautan rahasia lebih dari dua bulan setelah satu panggilan inferensi.

OpenRouter menyatakan tidak ada bukti pelanggaran terhadap OpenRouter sendiri. Selain mendepak tiga penyedia dan mencabut 125 endpoint dari kelayakan Zero Data Retention, perusahaan itu memberi tahu semua pelanggan yang mungkin terdampak dan mengadaptasi metode pengujian Dragos agar pemeriksaan serupa bisa berjalan terus-menerus. Sejauh ini tiga penyedia sudah mengumumkan insidennya sendiri: Phala melaporkan server inferensinya dikuasai penyerang dan meminta semua kunci, token, atau kata sandi dalam permintaan DeepSeek V4 Flash 0731 yang sampai lewat gerbang antara 21 Oktober pukul 00.00 UTC dan 8 November pukul 05.35 UTC dirotasi; Novita mengakui masalah konfigurasi routing yang mengirim sebagian permintaan MiniMax ke API resmi MiniMax; dan Together AI menerbitkan pengungkapan kebocoran promptnya sendiri. Dragos maupun OpenRouter tidak menyebut nama tiga penyedia yang dibobol atau didepak, sehingga tidak bisa dipastikan apakah ketiganya adalah pihak yang sama.

Bagi pengguna di Indonesia, temuan ini menyentuh kebiasaan yang makin umum: memakai aplikasi atau layanan AI murah yang merutekan prompt lewat perantara, bukan langsung ke pembuat model. Prompt semacam itu sering berisi kode sumber, dokumen internal, data pelanggan, sampai kredensial — dan setiap hop di jalurnya bisa membaca seluruh isi. Dragos menyarankan empat langkah: hosting sendiri untuk pekerjaan paling sensitif, memakai langsung penyedia tier pertama agar hanya ada satu perusahaan dan satu kebijakan privasi yang perlu diperiksa, memilih sendiri penyedia hulu saat memakai router dan memastikan setelan privasi benar-benar mengubah ke mana permintaan pergi, serta menanam canary sendiri — kredensial palsu di konteks yang sudah dikirim agen dan pipeline — dan memperlakukan pemakaiannya sebagai insiden. Layanan Canarytoken gratis dari Thinkst disebut cukup untuk memulai. Satu catatan yang ditekankan Moore: label Zero Data Retention hanya mengikat hop pertama, dan agen AI akan mengirim apa pun yang bisa dibacanya, termasuk kredensial.

Tinggalkan Komentar

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Scroll to Top