Pulse 게시 ·

AMD 라이젠 AI 맥스+ 프로 400, GPU에 최대 160GB 메모리 할당

AMD가 9월 30일 브리핑에서 라이젠 AI 맥스+ 프로 400의 대형 AI 모델 로컬 실행 기능을 소개했다. 최대 192GB 통합 메모리 중 160GB를 GPU에 할당하며, AMD는 이를 활용해 3000억 파라미터 모델을 실행할 수 있다고 설명했다. 대형 에이전트 최대 2개를 동시에 실행할 수 있다는 주장도 제시했다.

최대 Zen 5 CPU 16코어, GPU 40코어, 55 TOPS NPU를 갖췄다.

3000억 파라미터 모델 실행 주장은 AMD의 설명이며, 기사에는 모델명·정밀도·생성 속도가 제시되지 않았다.

AMD는 로컬 실행으로 클라우드 토큰 과금을 줄일 수 있다고 설명했다.

x86·Windows 환경의 기존 응용프로그램과 주변기기 호환성을 강점으로 내세웠다.

GPU에 배분할 수 있는 메모리 용량은 PC에서 실행할 모델의 크기를 결정하는 주요 조건이다.

원문