디노티시아, 검색 전용 VDPU·AI 메모리 통합 스토리지 계획 소개

디노티시아가 10월 7일 AI 페스타에서 검색 전용 반도체 VDPU와 AI 스토리지 구축 계획을 소개했다. ZDNet Korea에 따르면 회사는 검색 알고리즘 속도가 기존 CPU 대비 최대 15배이며, 찾은 데이터를 CPU 개입 없이 GPU 메모리에 쓰도록 설계했다고 설명했다. 외부 지식·에이전트 기억·KV 캐시를 통합 관리하는 소프트웨어는 개발 중이다.

정무경 대표는 에이전트의 반복 검색과 KV 캐시의 외부 이동·재로딩이 데이터 공급 병목을 키운다고 진단했다.

최대 15배라는 수치는 검색 알고리즘 속도에 관한 회사 측 설명이며, AI 작업 전체의 속도 향상 수치가 아니다.

VDPU와 AI 메모리 소프트웨어를 결합한 스토리지를 GPU 인근에 배치하는 구상을 제시했다.

기사에는 통합 스토리지의 출시일이나 가격이 제시되지 않았다.

검색 처리와 데이터 전달을 함께 옮겨, GPU가 필요한 데이터를 기다리는 시간을 줄이려는 접근이다.