Nemotron 3 Ultra

Ulasan

Nemotron 3 Ultra adalah puncak keluarga open Nvidia: model sparse hibrida Mamba dan transformer dengan 550 miliar parameter, 55 miliar yang aktif, dan jendela sejuta token. Nvidia menerbitkan checkpoint dasar dan pasca-pelatihan, versi terkuantisasi, serta dataset di baliknya, sesuatu yang jarang dilakukan lab pada skala ini. Model ini dibuat untuk agen yang berjalan lama di perangkat keras Nvidia, dan pada penalaran umum ia berada di tengah jajaran model open, bukan di puncak.

Di mana ia unggul

• Bobot, checkpoint, dan dataset pelatihan semuanya diterbitkan
• Konteks sejuta token pada desain hibrida yang dibuat untuk throughput
• Lisensi mengizinkan penggunaan komersial

Perlu diketahui terlebih dahulu

• Berada di tengah dalam penalaran dibanding model open terdepan Tiongkok
• Membutuhkan server multi-GPU untuk dijalankan dalam ukuran penuh