OpenAI Decisions API 출시, 출력 비용 0원의 정형 판단
Decisions API는 텍스트 생성 대신 조건 판별과 분류를 정형 데이터로 반환하는 전용 엔드포인트이며, gpt-6-luna 기반으로 최대 10배 빠르고 출력 토큰 요금이 없다.
오픈AI가 2026년 10월 22일(미국 현지 시각) 구조화된 판단과 분류 작업에 특화된 엔드포인트인 Decisions API(POST /v1/decisions)를 정식 출시했다. 긴 문장을 생성한 뒤 정규식이나 JSON 스키마로 파싱하던 기존 방식에서 벗어나, 입력 데이터에 대한 명확한 선택과 점수를 구조화된 확률값으로 직접 뽑아낸다.
챗봇 API와 무엇이 다르고 얼마인가
기존 Responses API가 대화와 코드 작성을 위한 문장 생성에 맞춰져 있다면, Decisions API는 프로그램 흐름을 제어하기 위한 조건 평가에 집중한다.
| 항목 | 일반 Responses API | Decisions API |
|---|---|---|
| 주 용도 | 긴 텍스트·대화·코드 생성 | 조건 판별·다지선다 분류·점수 산출 |
| 지원 모델 | GPT-4o, o-시리즈 등 다양 | gpt-6-luna 전용 |
| 응답 속도 | 일반 텍스트 생성 속도 | 최대 10배 빠름 (p95 지연 대폭 단축) |
| 출력 비용 | 토큰당 과금 | 0원 (정형 데이터 반환) |
| 입력 비용 | 모델별 상이 | 100만 토큰당 0.10달러(약 130원) |
출력 토큰 요금이 전혀 청구되지 않는 점이 가장 큰 차이다. 텍스트를 한 글자씩 스트리밍하는 대신 내부 연산을 거쳐 확정된 값만 JSON 배열로 내려주기 때문에, 입력 토큰 요금인 100만 개당 0.10달러(약 130원)만 발생한다. 자주 반복되는 시스템 프롬프트에는 프롬프트 캐싱 할인도 적용된다.
세 가지 질문 유형과 지원 기능
엔드포인트 호출 시 단일 입력(텍스트, 이미지, input_json)과 함께 최대 400개의 질문(questions)을 한 번에 보낼 수 있다. 질문은 세 가지 유형으로 나뉜다.
- 조건 판별(predicate): 특정 조건이 참인지 거짓인지 평가하고 0과 1 사이의 확률값을 반환한다. (예: “제품 사진에 외관 파손이 있는가?”)
- 다지선다 선택(choice): 개발자가 정의한 선택지 목록 중에서 가장 적합한 항목을 고르고 각 선택지의 확률과 신뢰도를 매긴다. (예: 고객 문의의 담당 부서 분류)
- 루브릭 평가(score): 2단계에서 10단계 사이로 사전에 정한 평가 기준표에 따라 입력값의 수준을 점수화한다.
실시간 음성 모델인 GPT-Live와의 네이티브 연동도 지원한다. 사용자와 대화하는 도중 지연시간 없이 의도를 분류하거나 화면 속 아바타의 표정 변화를 트리거하는 용도로 곧바로 쓸 수 있다.
어디에 쓰고 어디에 못 쓰나
Decisions API의 핵심 강점은 실시간 지연시간(latency)이 생명인 시스템의 핫패스(Hot-path) 로직에 AI 판단을 직접 끼워 넣을 수 있다는 데 있다.
자율 에이전트가 다음 행동을 취하기 전 사람의 개입이 필요한지 판단하는 게이트웨이 로직이나, 대규모 이메일·지원 티켓의 1차 분류, 실시간 유해 콘텐츠 차단에 적합하다.
반면 긴 설명글이나 대화형 답변을 요구하는 작업에는 구조적으로 쓸 수 없다. 출력 형식 자체가 고정된 평가 스키마에 묶여 있기 때문이다. 아울러 현재는 경량 모델인 gpt-6-luna만 지원하므로, 깊은 논리적 분석이나 복합 코딩 능력이 필요한 영역은 여전히 기존 대형 모델의 몫이다.
기존 대체 기술 및 경쟁 방식과의 차이
개발자들이 유사한 문제를 풀기 위해 써오던 방식들과 비교하면 장단점이 뚜렷하다.
- 임베딩 기반 Semantic Router: 오픈소스 semantic-router처럼 벡터 유사도로 의도를 분류하는 방식은 네트워크 호출 없이 로컬 메모리에서 마이크로초 단위로 실행되며 비용도 사실상 들지 않는다. 다만 단순 텍스트 유사도 매칭에 머물러 복합 루브릭 평가나 이미지 판별, 다변수 복합 평가는 불가능하다.
- Cohere Classify 등 전용 분류 API: 코히어의 Classify는 적은 예시로도 안정적인 텍스트 분류를 제공하지만 텍스트에 한정된다. Decisions API는 이미지 멀티모달 입력과 단일 호출 내 최대 400개 질문 동시 평가를 지원해 다루는 범위가 넓다.
- Jev 등 독립형 결정 모델: 텍스트 생성 대신 불리언 판별과 점수화에 특화된 경량 모델 계열이 이미 존재하지만, 오픈AI는 대규모 멀티모달 인프라와 실시간 음성(GPT-Live) 연동을 무기로 생태계 확장에 나섰다.
10월 23일 환율 기준