Nemotron 3 Ultra

리뷰

Nemotron 3 Ultra는 Nvidia 오픈 제품군의 최상위 모델로, Mamba와 트랜스포머를 결합한 하이브리드 희소 모델이며 총 5,500억 파라미터 중 550억 개가 활성화되고 100만 토큰 창을 갖췄습니다. Nvidia는 베이스 및 사후 훈련 체크포인트, 양자화 버전, 그리고 그 바탕이 된 데이터셋까지 공개했는데, 이 규모에서 이렇게 하는 연구소는 드뭅니다. Nvidia 하드웨어에서 장시간 실행되는 에이전트를 위해 만들어졌으며, 일반 추론에서는 오픈 모델 중 최상위가 아니라 중간에 위치합니다.

두드러지는 점

• 가중치·체크포인트·훈련 데이터셋 모두 공개
• 처리량을 위해 설계된 하이브리드 구조에 100만 토큰 컨텍스트
• 상업적 사용을 허용하는 라이선스

미리 알아두면 좋은 것

• 추론에서 선두 중국 오픈 모델 대비 중간 수준
• 전체 크기로 실행하려면 멀티 GPU 서버가 필요