중국 Baidu가 11월 11일 ERNIE 5.5 Flash Preview를 공개했다. 11월 6일 오픈소스로 내놓은 ERNIE-5.5-Flash-Base를 처음으로 사후학습한 버전이다. 핵심은 '이용 가능한 것'과 '약속만 된 것'을 나눠 보는 일이다.

핵심 사양

▼ ERNIE 5.5 Flash Preview 사양 (출처: Baidu 공개 자료)

항목내용
전체 파라미터2,800억
토큰당 활성 파라미터140억
컨텍스트 길이 (토큰)100만
추가된 기능추론, 도구 호출, 번들 드래프트

Baidu는 프로그래밍, 3D 모델링, 지식 업무, 콘텐츠 제작에서 성능이 좋고 디코딩이 매우 빠르다고 밝혔다. 벤치마크 점수도 경쟁력 있다고 주장한다. 다만 모두 Baidu가 내놓은 자체 주장이다. 구체적인 벤치마크 점수는 확인되지 않았다.

지금 쓸 수 있는 것: Qianfan API

  • API는 Baidu Qianfan 플랫폼에서 이미 열려 있다.
  • 11월 10일 갱신된 모델 목록에 엔드포인트 ernie-5.5-flash-preview가 올라 있다.
  • 컨텍스트는 100만 토큰이다.
  • 기본 한도는 분당 60회 요청, 100만 토큰이다.

아직 약속인 것: 오픈웨이트

  • Baidu는 가중치를 11월 25일까지 오픈소스로 공개하겠다고 밝혔다. 현재로선 사실이 아니라 약속이다.
  • Pandaily가 11월 11일 확인했을 때 Hugging Face의 Preview 저장소는 접근 오류를 냈다. Baidu의 공개 Hugging Face 목록에는 Base 체크포인트 2종만 보였다.
  • Baidu의 vLLM-ERNIE 저장소는 지원 모델 표에 Preview를 FP4, FP8, BF16으로 올려 두었다.
  • SGLang 프로젝트의 배포 가이드는 채팅 버전을 '곧 지원'으로 설명한다.
  • 제3자 카탈로그는 이 모델을 오픈웨이트로 소개하지만, 공개 다운로드로는 확인되지 않았다.

▼ Baidu가 밝힌 가중치 용량 (근사치)

정밀도용량 (GB)
FP4155
FP8280
BF16560

Base 모델 구조

Base 저장소 설명에 따르면 희소 전문가 혼합(MoE) 구조다. 33.5조 토큰으로 사전학습했고, 층마다 라우팅 전문가 512개를 둔다. 대부분의 층을 압축하는 하이브리드 어텐션과 내장 추측 디코딩용 드래프트도 갖췄다.

아직 중간 결과

Baidu는 Preview를 사후학습의 중간 결과물이라고 규정했다. 학습이 충분하지 않아 능력 공백이 남을 수 있다고 경고했고, 사후학습을 계속해 실사용 피드백을 반영한 뒤 정식 버전에서 다듬겠다고 밝혔다.

한국 개발자라면 Qianfan API로 지금 써볼 수 있는 부분과, 11월 25일까지로 예고된 오픈웨이트 공개를 따로 놓고 모델 선택지를 살펴볼 수 있다. 직접 내려받아 운용하려면 공개가 실제로 이뤄졌는지부터 확인해야 한다.

출처: IT Home 보도, Qianfan 공식 모델 목록, vLLM-ERNIE 공식 저장소