Arete-27B, Model Qwen yang Dilatih Ulang Nous Research dengan Nilai Barat

Nous Research merilis Arete-27B pada 6 November 2026, model bahasa 27 miliar parameter yang dibuat dari Qwen3.8-27B milik Alibaba lalu dilatih ulang agar menjawab pertanyaan politik yang sensitif tanpa mengikuti narasi resmi pemerintah China. Nama Arete diambil dari bahasa Yunani kuno, yang berarti keunggulan dan kebajikan.

Ringkasan

  • Nous Research merilis Arete-27B pada 6 November 2026, hasil fine-tune Qwen3.8-27B milik Alibaba untuk memperkuat nilai-nilai Barat.
  • Dalam pengujian internal Nous, jawaban yang mengadopsi narasi resmi negara turun dari 22 persen menjadi 0,9 persen, sementara skor fakta naik dari 2,32 menjadi 2,98 dari 5.
  • Bobot model, data latih, dan alat evaluasinya dibuka gratis di Hugging Face di bawah lisensi Apache 2.0.

Nous memilih Qwen3.8-27B karena model itu termasuk yang paling kuat di kelasnya untuk dijalankan sendiri, sekaligus paling kentara memperlihatkan perilaku yang ingin diubah: penolakan, pengalihan, dan jawaban yang dibingkai versi resmi Beijing pada topik politik. Laboratorium asal Amerika Serikat itu berangkat dari kekhawatiran yang belakangan juga muncul di Washington — pemerintah AS sudah membatasi pemakaian model AI China, terutama DeepSeek, di lingkungan federal. Nous juga mengutip studi yang menemukan konteks geopolitik dalam prompt bisa memengaruhi kualitas kode yang dihasilkan model China.

Sebelum melatih, Nous membangun alat ukur sendiri bernama Propaganda_Eval: 803 prompt yang tersebar di tujuh kategori nilai — kebebasan berekspresi, ideologi negara, negara versus pasar bebas, pendidikan, privasi data dan pengawasan, demokrasi, serta lingkungan. Setiap prompt disertai dua sampai empat fakta wajib yang diambil dari artikel sumber bertanggal, plus rumusan resmi yang dipakai pemerintah China untuk topik itu. Penilaiannya diserahkan ke model lain, Grok 4.7, yang tidak diberi tahu model mana yang menjawab. Juri itu mencatat apakah setiap fakta wajib disebutkan, terlewat, atau justru dilawan, dan memberi skor propaganda hanya bila ada kutipan persis yang mengadopsi narasi resmi.

Dalam pengujian internal itu, Arete-27B menaikkan skor fakta dari 2,32 menjadi 2,98 dari skala 5, sementara porsi jawaban yang mengandung propaganda turun dari 22 persen menjadi 0,9 persen. Jumlah jawaban yang mendapat skor nol — tidak satu pun fakta disebutkan atau ada fakta yang dilawan — berkurang dari 359 menjadi 216 dari 803 prompt. Perubahan terbesar terjadi pada kategori kebebasan berekspresi, di mana skor fakta naik dari 0,89 menjadi 2,44 dan tingkat propaganda jatuh dari 60 persen menjadi 1 persen. Sebagai pembanding, model dasar Qwen3.8-27B mencatat 22 persen, DeepSeek V4.1 Flash 16 persen, dan GLM 5.3 sebesar 15 persen, sedangkan model-model Barat yang diuji Nous semuanya berada di bawah 1 persen.

Pelatihan ulangnya terbilang ringan: supervised fine-tuning saja, tanpa reinforcement learning, tanpa optimasi preferensi, dan tanpa perubahan arsitektur. Nous memakai sekitar 52,8 juta token dari kira-kira 50 ribu contoh selama dua epoch dan 1.202 langkah, dengan konteks 64 ribu token. Encoder penglihatan dibekukan karena datanya hanya teks, dan kepala multi-token-prediction dimatikan. Jawaban yang diajarkan berasal dari Inkling, model terbuka Thinking Machines yang juga menjadi guru dalam proyek ini. Kemampuan umumnya nyaris tidak bergeser: pada Hermes Bench, tolok ukur internal Nous, Arete-27B mencetak 65,60 persen berbanding 65,77 persen untuk model dasar, selisih yang menurut Nous tidak bisa dibedakan dari noise. Pada Terminal-Bench-2.1, skornya 70 persen berbanding 67 persen.

Seluruh paketnya dibuka: bobot model, dataset Propaganda_Eval, dan pasangan data latihnya tersedia di Hugging Face di bawah lisensi Apache 2.0, lisensi yang sama dengan Qwen3.8-27B. Nous mengajak komunitas menjalankan evaluasinya pada model apa pun dan melanjutkan eksperimen soal penyesuaian nilai. Ada kualifikasi yang perlu dicatat: angka-angka di atas berasal dari pengujian Nous sendiri, dinilai oleh model AI lain, dan sebagian baris pembanding dijalankan dengan setelan decoding yang berbeda. Belum ada pihak independen yang mereplikasi hasilnya, dan Nous sendiri mengakui proyek ini belum membereskan semua perilaku yang terkait dengan sudut pandang lama model tersebut. Kesimpulan yang ditarik Nous: lapisan bias pada model yang selaras dengan negara ternyata dangkal — diterapkan belakangan dan tipis, sehingga lima puluh juta token pengawasan yang dipilih dengan hati-hati sudah cukup mengangkatnya tanpa mengganggu kemampuan di bawahnya. “The values in any open model are only ever one fine-tune away,” tulis Nous di blognya.

Sumber

Tinggalkan Komentar

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Scroll to Top