Nvidia Rilis Reshard, Transfer Bobot Model AI sampai 5,7 Kali Lebih Cepat saat Latihan RL

Nvidia membuka kode sebuah cara baru untuk memindahkan bobot model AI antar-GPU saat reinforcement learning. Metode bernama Reshard ini, menurut pengujian perusahaan itu, memangkas waktu sinkronisasi bobot sampai 5,7 kali dibanding cara yang dipakai selama ini.

Ringkasan

  • Nvidia merilis Reshard pada 6 November 2026, metode komunikasi kolektif baru yang mempercepat refit bobot model saat reinforcement learning.
  • Implementasi referensinya, NCCL M2N Reshard, dibuka sebagai open source di repositori GitHub NVIDIA/nccl-extensions.
  • Dalam pengujian NeMo RL, refit berjalan 2,7–5,7 kali lebih cepat; DeepSeek v3 671B turun dari 14,9 detik menjadi 2,6 detik di DGX H100.

Masalahnya muncul dari cara pelatihan RL modern bekerja. Inferensi dan pelatihan berjalan paralel di klaster GPU yang berbeda, dan setiap kali bobot model diperbarui di sisi pelatihan, bobot terbaru itu harus dikirim ke GPU inferensi — proses yang disebut refit. Karena kedua sisi memakai pemetaan paralel yang berbeda, cara lama mengumpulkan dulu seluruh tensor lalu menyiarkannya ke semua GPU, termasuk bagian yang tidak dibutuhkan. Untuk model open-weight terbesar saat ini, satu refit bisa memindahkan data sekitar 10 TB.

Reshard mengubah masalah itu menjadi transfer DTensor-ke-DTensor: setiap GPU tujuan hanya menerima irisan shard yang persis dibutuhkannya, tanpa tensor utuh sebagai perantara. NCCL M2N Reshard memetakan irisan itu ke topologi jaringan fisik, mengelompokkan replika berdasarkan domain NVLink, dan mengirim tiap shard sekali saja lewat jaringan — sisanya dipertukarkan antar-GPU lewat NVLink.

Angka pengujiannya: di NeMo RL, refit dengan Reshard 2,7–5,7 kali lebih cepat dibanding gather-and-broadcast. Untuk DeepSeek v3 671B, latensi turun dari 14,9 detik menjadi 2,6 detik di DGX H100 dan dari 6,1 detik menjadi 2,3 detik di DGX GB200. Qwen 3 235B turun dari 6,4 detik menjadi 1,9 detik di H100, sementara Nemotron Ultra v3 turun dari 8,2 detik menjadi 2,3 detik di GB200. Dalam microbenchmark khusus refit, model Qwen3.8 2,4T selesai dalam 4,3 detik.

Nvidia memakai pendekatan hibrida: bobot proyeksi feed-forward — sekitar 95 persen parameter model bahasa modern — lewat jalur Reshard, sementara bobot kecil lainnya tetap memakai cara lama. Mengaktifkannya di NeMo RL cukup dengan mengatur refit_transport: nccl_reshard di konfigurasi, dan kode referensinya sudah bisa diunduh dari GitHub.

Dampaknya buat pengguna akhir tidak langsung terasa — Reshard adalah perkakas infrastruktur, bukan produk konsumen. Tapi pelatihan model besar yang lebih cepat dan murah pada akhirnya memengaruhi biaya dan kecepatan lahirnya model-model baru, termasuk yang dipakai layanan AI di Indonesia. Perlu dicatat angka-angka di atas berasal dari pengujian internal Nvidia sendiri, bukan benchmark independen.

Sumber

Tinggalkan Komentar

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Scroll to Top