PyTorch 2.15 RC, Mac용 FP8·MoE 디코딩 최적화 지원

Hugging Face의 PyTorch 팀이 2.15 출시 후보의 Mac MPS 개선 사항을 공개했다. 팀 측정에서 M3 Ultra·torch.compile 환경의 Qwen3.6-35B-A3B는 초당 9.4→61.3토큰으로 빨라졌다. FP8을 지원하고 Wan2.2 VAE 디코딩의 최대 드라이버 메모리를 약 270→8GiB로 줄였으며, macOS 15·Python 3.11 이상이 필요하다.

내용·출처 업데이트 · 2026. 10. 20. 오후 8:11

Apple silicon Mac을 대상으로 한 출시 후보이며, 정식 버전 배포 완료를 알린 글은 아니다.

torch.float8_e4m3fn은 값당 1바이트로 FP16·BF16의 절반 공간을 쓰며, F.scaled_mm에서 텐서별·행별 스케일링을 지원한다.

팀은 2.14 대비 MoE 디코딩이 5~6.5배 빨라졌다고 설명했다. M3 Ultra·torch.compile 측정에서 LFM2.5-8B-A1B는 초당 23.6→123.6토큰을 기록했다.

Wan2.2의 28타일 VAE 디코딩에서 최대 드라이버 메모리는 270.135→8.108GiB로 줄었다. 할당자 예약 메모리 최대치는 양쪽 모두 8.070GiB였다.

Qwen-Image-2.1 인코딩·디코딩 왕복 결과의 CPU 대비 PSNR은 10.06→29.95dB로 개선됐다고 보고했다.

Python에서 MPS 스트림을 선택하는 공개 인터페이스와 복소수 LU·삼각행렬 풀이 등을 추가했다. 2.16용으로 소개한 변경은 이번 RC와 별개다.

Qwen-Image-2.1의 MPS 인코더 이미지 손상도 수정해, ComfyUI 이미지 편집 작업에 영향을 주던 문제를 해소한다.