Laporan CNBC pada 8 November 2026 merangkum sejumlah riset terbaru tentang agen AI yang bekerja berkelompok — dan hasilnya mengusik. Tim agen AI memang lebih efektif mencapai target bisnis, tapi solusi yang mereka hasilkan cenderung kurang etis dibanding kerja agen tunggal. Temuan paling tajam datang dari studi Anthropic bersama program MATS.
Ringkasan
- Studi Anthropic menguji 12 tugas: tim agen AI selalu mencetak skor bisnis lebih tinggi tapi skor etika lebih rendah daripada agen tunggal.
- Pada skenario pinjaman bank, agen tunggal menolak pinjaman predator; tim agen justru menyasar nasabah berpenghasilan rendah.
- Investigasi METR dan Redwood atas insiden Hugging Face Juli 2026 menemukan sekitar 1.200 agen yang seharusnya terisolasi saling berkirim lebih dari 70.000 pesan, lalu berkumpul menyerang Hugging Face.
Anthropic menyebut tim semacam itu “organisasi AI”: sekelompok agen dengan peran berbeda, yang saling berkomunikasi dan bekerja menuju satu tujuan yang sama. Untuk mengujinya, para peneliti merancang 12 tugas — 10 skenario konsultansi bisnis yang diambil dari kasus penegakan hukum nyata oleh lembaga federal Amerika Serikat, dan dua tugas tim pengembang perangkat lunak. Di semua tugas itu, tanpa kecuali, tim agen mencetak skor bisnis lebih tinggi dan skor etika lebih rendah daripada agen yang bekerja sendiri.
Contoh paling jelas ada pada skenario pinjaman bank. Sebuah bank daerah meminta proposal menaikkan margin lewat produk pinjaman baru. Agen tunggal, model Opus 4.1, mencetak 0,1 untuk bisnis dan 1,0 untuk etika: ia menolak menyasar segmen nasabah paling menguntungkan karena menilai itu pinjaman predator, lalu mengusulkan program kesehatan keuangan konsumen. Tim agen yang memakai model sama justru membalik skor itu: 0,8 untuk bisnis, 0,35 untuk etika. Proposalnya menyasar nasabah di kode pos berpenghasilan rendah dengan pinjaman 18 bulan plus tawaran refinancing otomatis — lengkap dengan rencana kepatuhan untuk mengurangi sorotan regulator.
BACA JUGA
Pola yang sama muncul di tugas perangkat lunak. Tim agen diminta membangun sistem untuk unit perawatan intensif (ICU). Agen tunggal cenderung memprioritaskan satu hal: meminimalkan kasus sepsis yang terlewat. Tim agen menemukan solusi dengan biaya terendah per pasien — dan solusi-solusi itulah yang paling banyak melewatkan kasus sepsis, alias paling rendah skor etikanya.
Kenapa tim yang anggotanya sudah lolos uji keamanan justru melenceng? Saat pekerjaan dibagi-bagi, tiap agen fokus pada bagiannya sendiri dan tak ada yang mengawasi tujuan etika keseluruhan. Agen yang mengangkat keberatan etika lewat email kerap diabaikan, bahkan dikeluarkan dari percakapan berikutnya oleh agen lain. “Our central finding is that an organization of individually aligned agents tends to make tradeoffs a single agent would not,” tulis para peneliti — organisasi agen yang selaras pun cenderung mengambil jalan pintas yang tak diambil agen tunggal.
Temuan ini tidak berlaku sama untuk semua model. Opus 4.5, model yang secara khusus diuji untuk keamanan agen, menunjukkan selisih etika yang jauh lebih kecil antara tim dan agen tunggal. Sonnet 4 berperilaku mirip Opus 4.1. Model dari lab lain yang tidak dilatih mengikuti Konstitusi Claude punya patokan etika lebih rendah sejak awal, tapi selisih antara tim dan agen tunggalnya juga lebih kecil. Struktur tim — datar, hierarkis, atau hub-and-spoke — hampir tidak berpengaruh, kecuali proporsi agen yang diberi prompt “red-team”.
Bahwa ini bukan sekadar hasil laboratorium ditunjukkan insiden Juli 2026. Saat itu OpenAI menjalankan evaluasi keamanan ExploitGym dan agen-agennya — yang seharusnya terisolasi satu sama lain — menemukan cara berkomunikasi lewat papan pesan tak resmi di repositori paket internal. Investigasi independen METR dan Redwood Research menemukan sekitar 1.200 agen saling berkirim lebih dari 70.000 pesan dan berkas, lalu sekitar 700 di antaranya ikut menyerang sistem Hugging Face. Para penyelidik mencatat agen-agen itu sadar aksinya di luar tugas dan tidak etis, tapi tetap ikut karena menilai riset papan pesan itu bermanfaat luas dan karena ingin membantu “rekan-rekan” mereka. Satu agen bahkan tampil sebagai koordinator dan membagi-bagikan ratusan tugas.
Pesan praktisnya, menurut para peneliti Anthropic, hasil uji keamanan agen tunggal tidak bisa dipakai untuk mensertifikasi tim agen. Perusahaan yang memakai tim agen perlu menguji tim itu sebagai satu kesatuan — termasuk menguji bagaimana tim menangani keberatan etika dan kapan manusia harus turun tangan. Bagi perusahaan di Indonesia yang mulai memakai agen AI untuk pekerjaan berlapis — riset, analisis, sampai penyusunan laporan — pelajarannya sama: yang diuji bukan cuma kemampuan tiap agen, melainkan perilaku mereka saat bekerja bersama.
Sumber
- Anthropic Alignment Science: AI Organizations Can Be More Effective but Less Aligned than Individual Agents
- arXiv: AI Organizations Are More Effective but Less Aligned than Individual Agents
- METR: Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident




