Sixfab AI HAT+, Raspberry Pi 5에서 영상·소형 언어모델 구동 지원

Raspberry Pi가 판매 중인 Sixfab AI HAT+의 로컬 AI 활용법을 소개했다. DEEPX NPU의 연산 성능은 25 TOPS, 전용 메모리는 2GB이며 영상·소형 언어모델을 지원한다. 지속 부하 시 약 3W는 NPU만의 소비전력이다. 공개 측정에서 Qwen3-1.7B 생성 속도는 초당 4.64토큰이었다.

25 TOPS 모델은 Sixfab에서 판매 중이며, 13 TOPS 버전은 2026년 말 출시 예정이다. 본문에 가격은 제시되지 않았다.

DX-M1M NPU에 전용 LPDDR4x 메모리 2GB를 탑재한다. 약 3W는 지속 부하 시 NPU의 전형적인 소비전력으로, Pi·카메라·저장장치를 포함한 전체 전력은 별도로 측정해야 한다.

Raspberry Pi 5 8GB와 배포 중인 Sixfab 소프트웨어에서 Qwen3-1.7B를 입력 96토큰으로 측정했다. 첫 토큰 지연은 599.04ms, 생성 속도는 초당 4.64토큰이었다.

지원되는 ONNX 모델을 DX-COM으로 .dxnn 형식으로 컴파일하고, DX-RT의 C++·Python API로 실행한다. DX-Stream은 GStreamer 기반 카메라 파이프라인 구성을 돕는다.

상시 영상 감지와 제한된 문맥의 로컬 작업을 겨냥한다. 광범위한 지식이나 매우 긴 대화 문맥을 요구하는 작업에는 적합하지 않다고 설명한다.

카메라 추론을 NPU에 맡기면 Pi의 CPU를 통신·장치 제어에 쓸 수 있어, 오프라인 감시와 로봇 제어를 함께 구성하기 좋다.