Pulse 게시 ·

TII, UAE 방언 특화 모델 Falcon-Emirati-7B 공개

TII가 UAE 방언과 문화적 맥락에 특화한 Falcon-Emirati-7B를 소개하고 Falcon Chat에서 제공한다. 70억 파라미터의 Falcon-H1-Arabic을 바탕으로 실제 방언·문화 자료와 합성 데이터를 학습했다. 연구팀의 1173문항 Alyah 객관식 평가에서 정확도 84.83%를 기록했다.

Mamba와 Transformer attention을 병렬로 결합한 Falcon-H1-Arabic의 7B 모델을 기반으로 방언 적응 학습을 진행했다.

실제 UAE 방언 웹 자료, UAE 문화를 설명하는 표준 아랍어 자료, 방언 어휘·문법 규칙으로 제약한 합성 데이터를 함께 사용했다.

Alyah는 원어민이 수집한 1173개 객관식 문항으로 인사·관용 표현·문화유산·시 등을 평가하며, 연구팀은 원어민의 직접 검토도 병행했다.

같은 문항의 자유 응답을 Gemini 3.7 Flash로 평가했을 때 방언 충실도 부분 점수는 0.52였다. 비교 모델 4종은 0.00~0.05로, 연구팀은 표준 아랍어로 답하는 경향을 관찰했다.

Falcon Chat에서 이용할 수 있으며, 본문에는 가중치 공개나 라이선스 조건이 제시되지 않았다.

지역 방언 챗봇은 정답을 아는 능력과 해당 방언으로 답하는 능력을 따로 평가할 필요가 있음을 보여준다.

원문