NVIDIA, 멀티모달 에이전트 모델 Nemotron 3.5 Super VL 공개

NVIDIA가 텍스트·이미지·문서·영상 이해와 도구 사용을 결합한 Nemotron 3.5 Super VL의 가중치를 공개했다. 전체 1200억 파라미터 중 토큰당 120억 개를 활성화하는 MoE 모델이다. 회사는 단일 GPU의 에이전트 작업 처리량이 동급 공개 모델 대비 최대 5배라고 설명했으며, 학습 데이터·조정 방법도 함께 제공한다.

내용·출처 업데이트 · 2026. 10. 16. 오전 4:31

기본·사후학습·NVFP4 양자화 체크포인트와 학습 방법, 데이터, 강화학습 환경을 제공한다. NVIDIA NeMo로 SFT·LoRA·강화학습을 적용할 수 있다.

최대 5배 처리량은 NVIDIA가 제시한 단일 GPU·동급 공개 모델 대비 에이전트 작업 수치다. 별도로 Baseten 엔드포인트의 Artificial Analysis Intelligence Index 에이전트 작업에서 초당 600토큰 초과를 제시했다.

NVFP4 체크포인트는 Blackwell에서 가중치·활성값을 모두 4비트로 사용하고, 다른 플랫폼에서는 가중치 4비트·활성값 16비트로 실행한다.

DGX Spark에서 권장하는 LiLiCorr 추측 디코딩은 추측 없이 디코딩할 때보다 토큰 생성을 최대 2.3배 빠르게 한다는 회사 설명이다.

Scale AI의 특정 업무 추론 비용 40분의 1·지연시간 5분의 1과 Ramp의 처리량 최대 50% 증가·지연시간 10분의 1은 예상 효과로 제시됐다.

Hugging Face·ModelScope에 배포 안내를 제공하며, 호스팅 모델 접근 경로로 OpenRouter를 소개했다.

문서의 표·차트 해석과 후속 도구 호출을 한 모델에 맡길 수 있어, 텍스트·시각 모델 사이에 작업 맥락을 전달하는 구성을 줄일 수 있다.