OpenAI가 GPT-5.6 Sol의 새 추론 모드 'Ultrafast' 프리뷰를 공개했다. 초당 최대 750 토큰을 출력하며, 기존 모드 대비 14배 빠르다.

가속 인프라는 Cerebras가 담당한다. OpenAI는 올해 초 Cerebras와 100억 달러(약 14조 2,000억 원) 규모 파트너십을 체결했다. Ultrafast는 현재 OpenAI API를 통해서만 이용 가능하며, 일부 선정 고객에게만 제공된다. OpenAI는 용량이 늘어나는 대로 접근을 단계적으로 확대할 계획이다.

OpenAI는 이미 Fast Mode를 운영 중이다. GPT-5.6 Sol 기준 최대 2.5배 속도, 낮은 지연을 제공하며 가격은 기본 대비 약 2배다. Ultrafast는 그 위에 얹히는 세 번째 티어로, 더 높은 가격이 예상된다.

속도가 여는 활용 영역

OpenAI는 대형 추론 모델의 성능을 소형 모델 수준의 속도로 제공하는 것이 목표라고 밝혔다. 장애 대응 중 로그·코드 변경·보고서를 실시간 분석하거나, 금융 시장 신호 평가, 고객 지원 복합 문의 실시간 처리, 이커머스 상품 추천 등을 주요 시나리오로 제시했다. 연구 분야에서는 하룻밤 배치 작업으로 돌리던 실험을 대화형 세션으로 전환할 수 있다고 설명했다.

OpenAI는 Ultrafast를 내부 인시던트 대응에 이미 사용 중이라고 밝혔다.

속도의 가격화

OpenAI의 접근 방식은 AWS 등 클라우드 사업자가 동일 서비스를 성능 단계별로 과금하는 구조와 같다. 추론 속도가 산업 전반의 병목으로 떠오를수록, 속도 티어는 OpenAI의 직접적인 수익 레버가 된다.

한국 AI 개발자와 기업 입장에서는 API 속도 개선이 실시간 서비스 구축 비용과 응답 품질에 직결된다. 다만 초기 접근은 선정 고객으로 제한돼 있어, 일반 이용 가능 시점은 미정이다.