AnyLanguageModel 1.0, Swift 공통 API로 로컬·호스팅 모델 연결

Hugging Face가 AnyLanguageModel 1.0과 Swift용 모델 다운로드 라이브러리 2종의 1.0을 공개했다. Apple Foundation Models와 호환되는 API로 로컬·호스팅 모델을 연결하며, 모든 제공자에서 도구 호출과 구조화 생성을 지원한다고 밝혔다. OS 27에서는 시스템 모델의 이미지 입력과 Private Cloud Compute도 지원한다.

내용·출처 업데이트 · 2026. 10. 20. 오후 9:51

로컬 추론은 llama.cpp·MLX·Core ML을 지원하며, 호스팅 연결은 OpenAI·Anthropic·Gemini·Ollama·Hugging Face Inference Providers 등을 지원한다.

중첩 @Generable 타입과 배열을 포함한 guided generation, 스트리밍 도구 호출, 응답별 토큰 사용량을 지원한다.

Foundation Models 27 문법으로 이미지 입력을 제공하며, OS 27에서는 LanguageModel 프로토콜을 구현한 Core AI 모델 등과도 연결한다.

추론 블록을 대화 기록에 포함하되, 변경한 제공자가 이를 재생할 수 없으면 요청에서 자동으로 제외한다.

API 키를 클로저로 받아 앱 서버에서 단기 토큰을 가져올 수 있다. Linux에서도 실행한다.

swift-huggingface·swift-xet 1.0은 Swift 앱에서 Hub 모델을 빠르게 다운로드하도록 지원한다. 기존 앱에는 별도 마이그레이션 안내를 제공한다.

모델 제공자를 바꿀 때 세션 코드를 공유할 수 있어, 기기 내 처리와 서버 추론을 함께 쓰는 앱의 연동 부담을 줄인다.