스마트홈 기기가 매뉴얼 전체를 한 번에 읽고 반품 가능 여부를 즉석에서 판단한다. 클라우드에 묻지 않고, 단말기 안에서.
중국 AI 기업 iFLYTEK이 9월 1일 공개한 Spark X2.5-4B와 Spark X2.5-1.7B는 그 장면을 실제로 구현한 모델이다. 완전 자회사를 통해 출시·오픈소스화한 이 두 모델은 온디바이스 카테고리에서 백만 토큰 컨텍스트를 네이티브로 지원하는 첫 사례라고 iFLYTEK은 밝혔다.
왜 백만 토큰인가
엣지 AI의 오랜 약점은 메모리였다. 기존 온디바이스 모델은 긴 문서를 처리할 때 텍스트를 여러 덩어리로 쪼개 순차 질의하는 방식을 썼다. 앞 단락의 맥락이 뒤 질의에 전달되지 않으면서 오답이 나오는 구조적 결함이었다.
Spark X2.5는 하이브리드 어텐션 아키텍처와 긴 문서·기술 자료를 포함한 약 20조 토큰 규모의 고품질 데이터로 학습해 이 문제를 정면으로 겨냥했다. 회사 시연에서 모델은 전체 애프터서비스 매뉴얼을 한 번에 불러들인 뒤 반품 정책, 고장 처리, 예외 규정을 챕터 경계 없이 종합해 "구매 10일 된 기기에 서드파티 소모품을 사용했을 때 교체 가능 여부"를 답했다.
사무실과 코드, 그리고 로봇
읽기에서 멈추지 않는다. 사무 시나리오에서 Spark X2.5-4B는 영업 데이터 집계 스크립트 작성, 핵심 지표 추출, 약 3,000자 분량의 한중 이중 언어 부서 보고서 생성, 구조·레이아웃 검증까지 로컬 머신 밖으로 데이터를 내보내지 않고 처리했다.
코딩 성능도 눈에 띈다. 4B 파라미터 모델이 알고리즘 구현과 코드 완성 과제에서 클라우드 기반 2~3배 큰 모델과 동등한 수준을 보였다고 iFLYTEK은 주장했다. DeepSeek Harness, OpenCode, Codex, Pi 등 주요 오픈소스 하네스와 연동된다.
스마트홈과 로보틱스 쪽 수치도 구체적이다. Domux 스마트홈 테스트셋에서 1.7B 모델은 제어 명령 엔드투엔드 실행 정확도 90.3%를 기록했고 평균 응답 시간은 0.85초였다. 로봇 본체나 엣지 장치에 직접 올려 조작·추적·내비게이션에 활용할 수 있어 클라우드 의존도를 낮출 수 있다고 회사는 설명했다.
중국 인프라 위에서
두 모델은 완전 중국내 자국 컴퓨팅 플랫폼에서 학습됐다. Nvidia, Huawei, Hygon 등 다양한 하드웨어에서 구동되며 vLLM, SGLang, llama.cpp를 지원한다. 가중치와 코드는 Hugging Face와 GitHub에 공개됐고, 모델 API는 iFLYTEK Spark MaaS 플랫폼에서 한시적으로 무료 제공된다.
삼성·LG가 주목해야 할 이유
국내 스마트폰·가전 업계에도 시사점이 있다. 삼성 Galaxy AI, LG의 온디바이스 AI 전략 모두 단말기 내 추론 품질과 프라이버시를 핵심 경쟁 축으로 삼고 있다. iFLYTEK의 접근은 두 가지 방향을 동시에 제시한다. 첫째, 컨텍스트 창을 키워 문서 전체를 로컬에서 소화하는 메모리 최적화 전략. 둘째, 오픈웨이트 공개로 하드웨어 파트너와 생태계를 빠르게 확장하는 방식이다.
국내 제조사들이 자체 파운데이션 모델 대신 이런 오픈웨이트 엣지 모델을 레이어로 활용하는 시나리오도 현실적이다. 다만 학습 데이터의 중국산 인프라 의존성과 중국발 오픈소스 모델에 대한 공급망 리스크 판단은 별도 검토가 필요하다.
