화웨이, 가속기·메모리·스토리지를 묶는 슈퍼팟 확장 구조 소개

화웨이 APAC CTO가 10월 7일 AI 페스타에서 이기종 가속기·CPU·메모리·스토리지를 하나의 시스템처럼 연결하는 슈퍼팟 구조를 소개했다. 그는 카드 5만개 환경에서 전통적 시스템보다 성능이 3배 높다고 주장했다. 긴 문맥 추론의 KV 캐시는 HBM·D램과 고속 스토리지에 나눠 저장하는 방식을 제시했다.

화웨이는 2025년 9월 첫 슈퍼팟 아키텍처를 선보였으며, 이번 강연에서 수천개 가속기를 묶는 수냉식 Atlas 950을 소개했다.

통합 프로토콜과 메모리 주소 체계, P2P 연결·풀메시 통신을 통해 장치 간 변환 비용을 줄이는 구조라고 설명했다.

다중 계층 KV 캐싱용 OceanStor M900은 최대 64PB 스토리지를 구성할 수 있다는 회사 설명이다.

NPO 광학 연결과 2계층 교차 네트워킹으로 여러 슈퍼팟을 연결해 100만개 이상 가속기로 확장하는 구조를 제시했다.

5년 내 모델 100조 파라미터·하루 100경 토큰이라는 수치는 CTO의 전망이다.

가속기를 늘릴수록 장치 간 통신이 병목이 되므로, 칩 수뿐 아니라 연결망과 캐시 저장 계층도 함께 설계하는 접근이다.