Pulse 게시 ·

Sixfab AI HAT+, Raspberry Pi 5에 25 TOPS·2GB 메모리 제공

Sixfab·DEEPX는 Raspberry Pi 공식 블로그에서 판매 중인 AI HAT+의 로컬 추론 성능을 소개했다. 25 TOPS NPU와 전용 메모리 2GB를 갖추며, 지속 부하 시 NPU 전력은 약 3W라고 설명했다. 자체 시험에서 Qwen3-1.7B는 입력 96토큰 조건으로 초당 4.64토큰을 생성했다.

DEEPX DX-M1M 기반의 서드파티 보드로, Raspberry Pi 5의 CPU는 카메라 처리·네트워크·기기 제어 등에 사용할 수 있다.

약 3W는 25 TOPS DX-M1M NPU의 통상적인 지속 부하 전력이며, Raspberry Pi·카메라·저장장치를 포함한 전체 소비전력이 아니다.

Raspberry Pi 5 8GB와 판매용 Sixfab 소프트웨어로 측정한 Qwen3-1.7B의 첫 토큰 지연은 599.04ms였다.

지원되는 ONNX 모델을 DX-COM으로 .dxnn 파일로 컴파일하고, DX-RT의 C++·Python API에서 실행할 수 있다.

25 TOPS 모델은 판매 중이며, 13 TOPS 모델은 2026년 말 출시를 예상한다고 밝혔다.

상시 영상 감지에 짧은 설명·명령 처리를 더하는 용도에 적합하며, 긴 대화보다 카메라별로 범위를 좁힌 작업에 초점을 둔다.

원문