NVIDIA, RTX Spark 로컬 에이전트용 Nemotron 3.5 Bolt·Windows Arm 개발 도구 공개
NVIDIA가 RTX Spark의 로컬 에이전트용 Nemotron 3.5 Bolt 74B를 발표했다. 전체 740억·활성 90억 파라미터 모델을 2비트로 양자화해 24GB에 담았으며, 출시 시 llama.cpp·Ollama 등에서 실행하도록 지원할 예정이다. Windows on Arm용 첫 PyTorch-CUDA 빌드와 Python 3.15 기본 네이티브 지원도 함께 소개했다.
Bolt는 학습 데이터·가중치·학습 방법을 함께 공개하는 모델로 소개됐으며, 개발자가 에이전트를 조정하고 맞춤화할 수 있도록 설계했다.
출시 시 지원 실행 도구로 llama.cpp·vLLM·Ollama·Unsloth·LM Studio를 제시했다. Hermes·OpenClaw에서도 직접 접근하도록 지원할 예정이다.
Microsoft와 확대한 Windows on Arm 개발 환경에는 Conda 패키지 2000개 이상과 상위 Python 패키지 1만5000개 중 97% 이상의 Arm 호환 버전이 포함된다.
NVIDIA는 Intel Panther Lake 12Xe 대비 코딩 에이전트 4.6배·미세조정 2.7배·코드 컴파일 1.8배 성능을 제시했다. 각각 Qwen3.8-27B의 AA-AgentPerf-local, Llama-3.1-8B의 Unsloth LoRA, Linux 커널 컴파일 시험 결과다.
Junie Local은 코드 읽기·수정·테스트를 로컬에서 수행하며, GPU 가용 메모리에 맞춰 문맥 창을 조절한다.
Decision 모델은 RTX Spark·GeForce RTX의 llama.cpp·Unsloth에서 지원한다. 최대 200배 빠른 행동 선택은 NVIDIA가 기존 추론 루프와 비교해 제시한 주장이다.
로컬·클라우드 모델을 나눠 호출하는 라우터와 결합해, 처리 가능한 요청은 PC에서 실행하고 복잡한 요청만 클라우드로 보낼 수 있다.
원문
- Code, Test, and Deploy on One Machine with NVIDIA RTX SparkNVIDIA Developer · 원문 2026-10-17