Sixfab AI HAT+, Raspberry Pi 5에서 저전력 영상·언어 추론 지원

Raspberry Pi 블로그가 판매 중인 Sixfab AI HAT+의 로컬 AI 활용법과 측정 결과를 소개했다. DEEPX NPU는 25 TOPS와 전용 메모리 2GB를 제공하며, 지속 부하 시 약 3W는 보드 전체가 아닌 NPU 소비전력이다. 회사 측 측정에서 Qwen3-1.7B 생성 속도는 초당 4.64토큰이었다.

25 TOPS 모델은 현재 Sixfab에서 판매하며, 13 TOPS 모델은 2026년 말 출시를 예상한다.

DX-M1M은 LPDDR4x 2GB를 탑재하며 CNN과 소형 VLM·언어 모델 실행을 지원한다.

Raspberry Pi 5 8GB와 출하 소프트웨어로 측정한 Qwen3-1.7B의 첫 토큰 지연은 입력 96토큰 기준 599.04ms였다.

지원되는 ONNX 모델을 DX-COM으로 컴파일하고, DX-RT의 C++·Python API로 실행한다. DX-Stream은 GStreamer 기반 카메라 파이프라인을 구성한다.

광범위한 지식·긴 대화 문맥·지속 학습보다는 카메라·센서 주변의 제한된 상시 추론 용도를 겨냥한다.

카메라 추론을 NPU에 맡기면 Pi의 CPU를 영상 입력·ROS 2·기기 제어에 활용할 수 있다.