Liquid AI, 기기 내 에이전트용 LFM2.5-24B-A2B 가중치 공개
Liquid AI가 추론·도구 호출용 LFM2.5-24B-A2B와 기반 모델의 가중치를 공개했다. 전체 240억 파라미터 중 토큰당 20억 개를 활성화하며, 문맥은 전작 32K에서 131K로 늘었다. 회사 시험에서 M5 Max의 디코딩은 초당 184토큰, B300 한 대의 높은 동시 요청 조건에서는 출력 처리량이 초당 2만1000토큰을 넘었다.
답변 전에 명시적인 추론을 생성하는 추론 전용 모델이며, 전작과 같은 단기 합성곱·GQA 혼합 구조를 유지한다.
어휘 크기를 65K에서 128K로 늘려 비라틴 문자 토큰화를 개선했다고 설명했다.
공개 시점부터 llama.cpp·MLX·vLLM·SGLang·ONNX를 지원하며, Transformers는 5.0.0 이상이 필요하다.
회사 평가에서 LiveClaw 점수는 48.09로 Qwen3.6-35B-A3B의 38.19보다 높았지만, SWE-Bench Verified에서는 각각 51.00·66.20이었다.
회사도 지식 중심·코딩 평가에서는 더 큰 모델이 우세한 경우가 있다고 설명하며, 지식 중심 작업에는 검색 결합을 권했다.
B300의 초당 2만1000토큰 이상 수치는 높은 동시 요청 조건의 출력 처리량이며, M5 Max 수치는 디코딩 속도다.
로컬 OpenAI 호환 서버에 연결하면 Hermes·OpenClaw 등 기존 에이전트 실행 환경에서 사용할 수 있다.
원문
- Run fast, private agents on-device with LFM2.5-24B-A2BHugging Face · 원문 2026-10-14