Google이 기존 언어 모델을 텍스트 디퓨전 모델로 변환하는 방법론을 공개했다. DiffusionGemma는 Gemma-4-26B-A4B를 출발점으로 삼아, 원본 학습 토큰의 10% 미만만 투입해 디퓨전 모델로 전환한 결과물이다. arXiv 논문에 따르면 Gemma 4 및 기존 디퓨전 모델 대비 출력 속도가 수 배 빠르면서도 유사한 정확도를 유지한다.
2단계 학습으로 품질과 속도 동시 확보
변환 과정은 두 단계로 나뉜다.
| 단계 | 명칭 | 목적 | 효과 |
|---|---|---|---|
| 1단계 | 노이즈 복원 학습 | 예시 데이터에서 노이즈 텍스트 블록 재구성 | 기본 디퓨전 능력 획득 |
| 2단계 | SD·RL | 강화학습 + 샘플러 증류 병합 | 추론 품질 +10점, 토큰/연산 스텝 약 4배 |
▼ DiffusionGemma 2단계 학습 파이프라인 요약 (출처: Google DeepMind)
SD·RL 단계에서 강화학습은 답변 품질을 높이고, 샘플러 증류는 연산 스텝을 줄인다. Google은 이 두 과정을 단일 프로세스로 통합했다. 부수 효과로 답변 길이가 약 50% 짧아져 속도가 추가로 향상됐다.
양방향 추론으로 오류 자기 수정
자동회귀(autoregressive) 모델은 추론을 완료하기 전에 첫 번째 토큰을 확정해야 한다. 논문 예시에서 Gemma 4는 수학 문제에 "-1"로 답을 시작한 뒤 도출 과정에서 "-25"가 맞다는 걸 깨닫고 사후 수정을 덧붙였다. DiffusionGemma는 답과 추론을 병렬로 전개해 출력 확정 전에 오류를 수정할 수 있다.
스도쿠 풀기가 같은 원리의 검증 사례다. 모든 칸이 이후 칸에 의존하는 구조인데, 최소한의 파인튜닝 후 DiffusionGemma는 약 85%의 퍼즐을 정확히 풀었다. 기반 모델은 이 작업을 전혀 수행하지 못했다. JSON·코드 수정 같은 구조화 출력은 입력이 대부분의 토큰을 결정하기 때문에 2~3회 정제 스텝만으로 완료된다.
DiffusionGemma는 기존 토큰 단위 텍스트 생성 기능도 유지한다. 작업에 따라 두 모드를 전환해 사용할 수 있다.
한계: 단일 사용자 환경에서만 속도 우위
절대 성능은 자동회귀 기반 모델에 미치지 못한다. Google이 밝힌 주요 원인은 다음과 같다.
- 처음부터 디퓨전 모델로 설계되지 않고 사후 변환됨
- 추가 학습 기간이 상대적으로 짧음
- SD·RL 단계가 최고 품질보다 속도를 우선시함
- 아키텍처·학습 데이터 등이 디퓨전에 최적화되지 않은 Gemma 4 설정을 그대로 계승
연산 스텝을 공격적으로 줄인 탓에 특정 단어를 연속 반복하는 루프 현상이 나타난다. 멀티모달 작업에서는 추론 구간을 제대로 닫지 못해 벤치마크 점수가 인위적으로 낮아지기도 한다.
속도 우위는 단일 사용자 환경에서만 유효하다. 동시 요청이 약 32건을 넘으면 일반 언어 모델이 처리량에서 따라잡는다.
Google은 DiffusionGemma를 실험적 모델로 규정하며, 텍스트 디퓨전 연구 가속화와 특화·경량화 적용을 위한 기반 제공이 목적이라고 밝혔다. 모델은 Apache 2.0 라이선스로 Hugging Face에 공개돼 있다. 스타트업 Interfaze가 다국어 음성 인식에 활용 중이며, 방사선 보고서 자동 생성 연구에도 쓰이고 있다.
국내 AI 모델 개발사 입장에서 이번 사례는 대규모 사전학습 없이 기존 모델을 변환해 새로운 아키텍처를 확보하는 전략의 실증 사례로 참고할 수 있다. 학습 토큰 10% 미만이라는 수치는 파인튜닝·모델 변환 전략의 비용 효율성을 가늠하는 기준점이 될 수 있다.
