IBM, 채팅·판단·음성 전사를 한 엔드포인트에 묶은 Granite Switch 4.1 공개

IBM이 채팅·분류 판단·음성 전사를 한 엔드포인트에서 처리하는 Granite Switch 4.1의 8B·30B 모델을 공개했다. 일반 판단·안전 판단 어댑터와 음성 인식 모델을 결합했으며, 회사는 GPU 메모리 사용량이 기본 모델 단독 실행과 대략 같다고 설명했다. 어댑터 학습용 SDK는 추후 제공할 계획이다.

내용·출처 업데이트 · 2026. 10. 16. 오전 8:01

일반 목적 Decision aLoRA, 안전 관련 Guardian aLoRA, Granite-Speech-5.0-Turbo-CTC를 기본 모델과 결합했다.

Guardian의 비교 모델 대비 평균 성능 우위와 음성 인식 모델의 OpenASR 속도 순위는 IBM이 제시한 결과다.

공개 모델의 기본 구성을 그대로 쓰거나 Granite Libraries의 어댑터를 조합해 별도 Switch 모델을 만들 수 있다.

Mellea에서 어댑터를 학습하는 SDK와 추가 튜토리얼을 제공할 계획이며, 구체적인 제공일은 명시하지 않았다.

기본 모델이 만든 KV 캐시를 판단 어댑터가 재사용해, 대화 후 안전 검사·분류를 이어가는 작업의 중복 연산을 줄이는 구조다.