OpenAI가 GPT-5.6 Sol의 새로운 API 서비스 등급인 Ultrafast를 공개했다. Standard 처리와 같은 Sol 모델을 사용하면서 응답 생성 속도를 최대 14배 높인 제한적 미리보기다.
최대 초당 750개의 출력 토큰
Ultrafast는 Cerebras의 추론 인프라를 사용해 최대 초당 750개의 출력 토큰을 생성한다. 빠른 응답이 필요하면 작은 모델로 바꾸던 기존 방식과 달리, Sol의 추론 능력을 유지하면서 처리 속도를 높이는 서비스 등급으로 소개됐다.
OpenAI는 장애 대응, 실시간 고객 지원과 음성 서비스, 금융 조사, 재고와 결제 문의, 반복 실험처럼 결과를 기다리는 시간이 업무 흐름을 끊는 사례를 주요 활용 대상으로 제시했다.
다만 ‘최대 14배’와 ‘초당 750개’는 모든 요청에서 동일하게 측정되는 고정값이 아니다. 입력 길이와 출력 길이, 도구 호출, 서버 부하와 작업 형태에 따라 실제 체감 속도는 달라질 수 있다.
Fast 모드와는 다른 등급이다
7월에 추가된 Fast 모드는 Sol을 Standard보다 최대 2.5배 빠르게 제공하는 API 등급이다. Ultrafast는 이보다 더 높은 속도를 목표로 한 별도의 서비스 등급이다.
따라서 Fast 모드의 이름만 바뀐 것이 아니다. OpenAI API 변경 기록에도 Fast와 Ultrafast가 서로 다른 처리 등급으로 구분돼 있다.
일부 고객에게만 먼저 제공됐다
Ultrafast는 발표 당시 모든 API 사용자에게 공개되지 않았다. OpenAI가 선정한 일부 고객을 대상으로 제한된 미리보기 형태로 제공됐으며, 수용 가능한 용량이 늘어나는 대로 접근 범위를 확대할 예정이라고 안내됐다.
또한 속도 향상이 모델의 지능이나 사실 정확도를 자동으로 높이는 것은 아니다. 같은 모델의 출력을 더 빠르게 받는 기능이므로, 실제 서비스에서는 지연 시간뿐 아니라 비용과 처리량, 결과 품질을 함께 측정해야 한다.