mesh.applied, 로컬 실행용 DeepSeek·Qwen 최적화 모델 소개

mesh.applied가 후학습·양자화·커널 특화로 로컬 실행을 최적화한 DeepSeek·Qwen 모델을 소개했다. 권장 RTX6000 구성에서 이용자 4명의 합산 처리량을 DeepSeek는 GPU 4장에 초당 276토큰, Qwen은 1장에 334토큰으로 제시했다. 실행용 Goethe 프레임워크 저장소도 안내했다.

내용·출처 업데이트 · 2026. 10. 14. 오전 8:01

DeepSeek-V4.1-Flash-Ternary는 복잡한 코딩·연구용으로 소개하며 RTX6000 4장을 권장한다.

Qwen3.8-Flash-Next-NVFP4는 코딩·일상 작업용으로 소개하며 RTX6000 1장을 권장한다.

처리량은 제공자가 제시한 이용자 4명의 합산 수치다.

본문에는 RTX 5090의 초당 255토큰 측정 결과나 가격·라이선스 조건이 제시되지 않았다.

제시된 권장 구성에서는 Qwen을 GPU 1장으로 운용하고, 복잡한 코딩·연구용 DeepSeek에는 4장을 배정한다.