Google, 온디바이스 멀티모달 임베딩 모델 EmbeddingGemma 2 공개

Google이 텍스트·코드·이미지·음성·영상을 같은 벡터 공간에 담는 EmbeddingGemma 2를 공개했다. 7억4000만 파라미터 모델로 Apache 2.0 라이선스를 적용했다. Google에 따르면 Pixel 11 Pro에서 양자화한 전체 모델의 활성 RAM은 약 567MB이며, 인터넷 없이 검색·RAG에 활용할 수 있다.

텍스트 전용 구성은 2억7000만 파라미터이며, 비전 1억7000만·오디오 3억 파라미터 인코더를 선택적으로 추가한다.

8K 토큰 문맥으로 최대 5.5분 음성, 이미지 29장, 영상 프레임 58개 또는 이들을 섞은 입력을 처리한다.

출력 벡터를 768차원에서 512·256·128차원으로 줄일 수 있으며, Google은 벡터 저장공간을 최대 6분의 1로 줄인다고 설명했다.

가중치는 Hugging Face·Kaggle에서 제공한다. Gemini Enterprise Agent Platform Model Garden 제공은 예고 단계다.

Google 측정에서 MTEB Code 점수는 전작 68.76에서 78.68로 높아졌다.

검색용 임베딩을 기기에서 만들면 개인 파일을 서버로 보내지 않고도 음성으로 영상 장면을 찾는 기능을 구현할 수 있다.