ModelBest가 온디바이스 멀티모달 모델 MiniCPM-V 4.7을 공개했다. 크기는 35B-A3B와 1B 두 가지다. 가중치·코드·문서는 OpenBMB GitHub 저장소에 Apache-2.0 라이선스로 올라와 있다.
두 모델, 무엇이 다른가
▼ MiniCPM-V 4.7 모델별 정리 (출처: ModelBest 발표)
| 항목 | 35B-A3B | 1B |
|---|---|---|
| 구조 | MoE(시리즈 첫 적용) | - |
| 토큰당 활성 파라미터 | 약 30억 | - |
| 비교 대상 | Qwen3.6 35B-A3B | Qwen3.5 0.8B |
| 회사 주장 | Instruct 모드 종합 점수 우위, 추론 시간 단축 | 종합 점수·추론 효율 우위 |
35B-A3B는 MiniCPM-V 시리즈 최초의 전문가 혼합(MoE) 모델이다. 토큰당 약 30억 개 파라미터만 활성화한다. 팀이 공개한 벤치마크 점수는 MMBench 91.72, OCRBench 91.2, CMMLU 90.21이다. 1B는 MiniCPM-V 4.6보다 기본 능력이 나아졌다고 회사는 밝혔다.
3GB 구동의 조건
3GB라는 수치에는 조건이 붙는다. ModelBest에 따르면 35B-A3B는 아이폰 17 Pro Max에서 메모리 약 3GB만 쓰면서 초당 13토큰 넘게 디코딩한다. 회사는 이를 새 추론 가속 기법 LES(lookahead expert scheduling) 덕분이라고 설명한다. 오픈소스 MoE 모델 가운데 기기에서 손실 없이 매끄럽게 돌아가는 첫 사례라는 것도 회사 주장이다.
큐비트(QbitAI)의 실사용 테스트에서는 이 모델이 오프라인 상태의 폰에서 차트 추론을 처리했다. 학술 논문을 Markdown으로 변환하는 작업도 해냈다.
지원 환경과 공개 범위
운영체제는 iOS, Android, HarmonyOS를 지원한다. 인텔, AMD, Arm, Rockchip, Houmo AI 칩 플랫폼에 맞춰 최적화해 모바일과 로컬 PC를 모두 포괄한다.
모델과 별개로 파인튜닝 레시피 SRFT(Self-Replay Fine-Tuning)도 오픈소스로 풀었다. 개발자가 적은 비용으로 새 능력을 추가하면서 기존 능력이 잊히는 현상을 줄이도록 만든 방식이다.
MiniCPM 라인은 5월 MiniCPM-V 4.6, 9월 MiniCPM5-2B 텍스트 모델에 이어 이번 4.7까지 꾸준히 공개 주기를 이어왔다.
한국 독자에게는 모델 크기와 구동 조건이 비교 포인트다. 총 350억 파라미터급 모델이 아이폰 한 대의 3GB 안에서 돌았다는 것이다. 다만 이 수치는 특정 기기와 회사 측 설명이어서, 다른 기기에서 같은 결과가 나온다는 근거는 아직 소스에 없다.
