중국 Huawei 연구·클라우드 팀이 만든 오픈소스 AI 에이전트 플랫폼 openJiuwen이 10월 2일 X-Router를 공개했다. 에이전트와 에이전트가 호출하는 모델 사이에서 요청마다 처리할 모델을 고르는 모델 라우터다. 단순한 요청은 가볍고 저렴한 모델로, 어려운 요청만 가장 강한 모델로 보낸다.
작동 방식
X-Router는 openJiuwen 모델 라우터 엔진 안의 알고리즘 하나다. 엔진은 Rust 코어에 Python 확장을 얹은 구조다. GitHub와 AtomGit에 Apache-2.0 라이선스로 올라 있다.
호스트 프로세스 안에서 도는 Qwen3-0.6B 분류기가 대화를 읽고 복잡도를 5단계로 나눈다. SIMPLE, MEDIUM, COMPLEX, RESEARCH, REASONING이다. 설정한 수준 이하는 로컬 모델이 맡는다. 그보다 어려우면 해당 단계에 연결된 클라우드 모델로 넘긴다. 대상 모델이 계속 실패하면 상위로 올리지 않고 로컬 모델로 내린다.
엔진은 모델별 역량 프로필을 갖고 있다. 과거 데이터로 오프라인에서 만들고, 모델 버전이나 성능이 바뀌면 1분 안에 갱신한다. 매 턴마다 최근 대화와 도구 호출 진행 상황을 읽고, 사용자의 최신 요청을 유지한다. KV 캐시 친화도, 실시간 부하, 최근 타임아웃·호출 제한 여부도 따진다.
선택 기능인 컨텍스트 밴딧은 비슷한 과거 요청의 결과를 학습한다. 다른 단계가 분명히 더 나은 점수를 냈으면 분류기 판단을 뒤집는다. 근거가 부족하면 원래 선택을 유지한다. 라우팅 알고리즘은 순수 함수이고 메모리는 별도 상태 계층에 있다. 상태를 잃으면 요청이 실패하는 대신 콜드 라우팅으로 돌아간다.
팀이 밝힌 테스트 결과
팀은 X-Router를 에이전트 작업대 WorkSwarm에 연결해 PinchBench 147개 과제를 돌렸다. 모든 요청을 Kimi-K2-Thinking에 보냈을 때는 71.36%, 모델 비용 11.11달러였다. 정적 라우팅은 66.3%에 8.25달러였다. 밴딧 학습을 켜자 70.70%에 6.16달러로, 기준 대비 비용이 약 44.6% 낮았다.
LLMRouterBench의 Terminal-Bench에서는 Opus 4.8, Qwen3.5-122B, Qwen3.5-35B 풀을 썼다. 비용 중심 설정은 Opus 성공률의 95.2%를 51.4% 낮은 비용에 달성했다. 품질 중심 설정은 98.6%를 15.7% 낮은 비용에 냈다. 팀은 토큰 소비가 50% 넘게 줄었다고도 밝혔다. 수치는 모두 개발 팀 발표다.
라우터는 WorkSwarm의 MoA 다중 모델 협업 기능과도 연결된다. 어려운 질문에 여러 모델이 답할지 판단하고, 결과를 합친다. 팀은 라우팅 전략의 강화학습 훈련 등 자기 진화 기능을 더 넣겠다고 밝혔다.
여러 모델을 엮어 쓰는 에이전트를 만드는 개발자에게는, 어떤 요청을 어느 모델에 보낼지 정하는 일을 라우터가 맡는 구조다.
