OpenAI가 2026년 6월 24일 브로드컴과 공동 설계한 첫 번째 자체 추론 전용 칩 '할라페뇨(Jalapeño)'를 공개했다.
할라페뇨는 사용자 명령에 응답해 사전학습된 AI 모델을 실행하는 '추론(inference)' 과정에 특화 설계됐다. OpenAI는 자사 AI 모델이 칩 개발에도 직접 참여했다고 밝혔다. 현재 테스트 단계이며, 초기 결과는 현존 최고 수준 대비 와트당 성능이 크게 높은 것으로 나타났다.
OpenAI는 발표문에서 실시간 코딩 모델 구동 시 낮은 운영 비용을 특히 강조했다. 사전학습(pre-training) 같은 고강도 작업은 여전히 Nvidia 하드웨어에 의존할 가능성이 높지만, 추론 비용의 소폭 절감만으로도 회사 수익 구조에 상당한 영향을 줄 수 있다.
OpenAI와 브로드컴의 협력은 2025년 10월 공식 발표됐다. OpenAI가 자체 칩을 개발한다는 사실은 Nvidia GPU 의존도를 낮추려는 전략으로 오래전부터 거론돼 왔다. Google은 TPU, Amazon은 Trainium을 각각 자체 개발해 유사한 목적으로 운용 중이다.
OpenAI 사장 Greg Brockman은 사내 팟캐스트에서 "우리는 워크로드를 깊이 이해하고 있다. 충분히 서비스되지 않는 특정 워크로드를 찾아 무엇을 가속할 수 있는지 고민해왔다"고 밝혔다.
OpenAI는 발표문에서 자사의 접근 방식을 이렇게 정리했다. "OpenAI는 프론티어 모델을 개발하거나 그 위에 제품을 만드는 데 그치지 않는다. 칩 아키텍처, 커널, 메모리 시스템, 네트워킹, 스케줄링, 배포 시스템, 제품 경험까지 그 아래 인프라를 직접 설계한다. 스택 전반을 운영하기 때문에 각 계층을 같은 목표 — 모델을 더 빠르고, 더 안정적이고, 더 저렴하게 — 로 최적화할 수 있다."
