Michael Johnson앱이 다음 단계 몇 가지 중 하나를 선택해야 할 때, 완전한 생성형 응답은 불필요한 지연과 비용을 더할 수 있습니다. 2026년 10월 22일 OpenAI는 개발자가 질문과 허용 가능한 응답을 미리 지정하는 제한적 의사결정용 인터페이스인 Decisions API를 일반 공개했습니다.
OpenAI의 설명에 따르면 이 API는 GPT‑6 Luna를 기반으로 하며 텍스트, 이미지, 구조화된 데이터를 입력으로 받습니다. OpenAI는 대상 작업에서 Responses API를 통한 GPT‑6 Luna보다 최대 10배 빠르다고 밝혔습니다. 이 비교는 명시된 처리 경로에 해당하므로, 실제 시스템에서는 분류 오류와 수동 검토가 필요한 요청의 비율을 포함해 실제 입력으로 결과를 확인하는 것이 좋습니다. 자세한 내용은 Decisions API 발표와 개발자 가이드에 공개되어 있습니다.
자유 형식 텍스트 대신 세 가지 응답 형식
개발자가 의사결정과 맥락을 설명하면 API는 세 가지 결과 유형 가운데 하나를 반환합니다. Predicate는 눈에 띄는 손상이 있는지와 같은 조건의 확률을 평가합니다. Choice는 계속 진행, 다시 시도, 추가 정보 요청처럼 지정된 목록에서 하나를 선택합니다. Score는 개발자가 정의한 순서형 척도로 입력을 평가합니다.
이 형식은 문의 분류, 문서 라우팅, 에이전트의 다음 동작 선택, 초기 위험 평가에 적합합니다. 실무상 핵심은 애플리케이션이 응답의 범위를 정한다는 점입니다. 결과를 코드의 분기 처리에 바로 연결하고, 확신도가 낮은 사례는 담당자에게 보낼 수 있습니다. OpenAI는 게시물에서 Box의 사례를 소개했습니다. Box에 따르면 보험 증명서 30건을 대상으로 자체 평가를 진행한 결과, 정확도는 동일한 상태에서 Decisions API가 Responses API보다 약 5배 빠르게 라우팅을 선택했습니다. 이는 Box의 특정 테스트 결과이지, 다른 데이터셋에서도 보장되는 결과는 아닙니다.
도입 전에 확인할 사항
OpenAI가 제시한 가격은 입력 토큰 100만 개당 $0.10, 캐시된 입력 토큰 100만 개당 $0.01이며 출력 토큰에는 요금이 부과되지 않습니다. 요청 하나에 최대 400개의 질문을 지원합니다. 회사는 재사용 가능한 컨텍스트 캐싱, 미국 및 EU 내 데이터 처리, 적격 고객을 위한 Zero Data Retention도 제공한다고 밝혔습니다.
경제적 효과를 파악하려면 자주 반복되는 분기 하나를 골라 저장된 예시를 사용해 현재 구현과 비교하세요. 클래스별 정확도, 50·95 백분위 지연 시간, 불확실한 사례의 비율, 컨텍스트를 포함한 전체 요청 비용을 기록합니다. 명령 자동 실행이나 작업 거부처럼 결과가 중대한 업무에서는 확신도 임계값을 설정하고 경계 사례를 수동 처리하는 경로를 추가하세요.
지침의 품질과 허용된 선택지 목록도 별도로 점검하세요. 중요한 사례가 응답 목록에 없다면 모델은 적절하지 않은 결과를 고를 수밖에 없습니다. 음성 애플리케이션의 경우 OpenAI는 GPT‑Live와 Decisions API의 기본 통합을 발표했으며, 실시간 대화 중 다음 동작을 선택하는 예를 들었습니다. 이 시나리오에서는 사용자 신호가 들어온 시점부터 인터페이스가 반응할 때까지의 지연 시간을 측정하는 것이 유용합니다.
새 API가 유용할 수 있는 분야
Decisions API는 대규모 프로세스에서 반복적으로 발생하는 작은 의사결정을 겨냥합니다. 따라서 신청서 초기 분류, 작업의 대기열별 배정, 유입 문서 평가, 에이전트의 다음 단계 선택에 활용할 수 있습니다. 도입 여부를 판단하는 실질적인 기준은 간단합니다. 적절한 정확도를 유지하고 의심스러운 사례를 처리할 방법이 명확한 상태에서, 해당 작업의 지연 시간이나 비용을 줄여야 합니다.
이미 Responses API를 사용하는 팀이라면 전체 프로세스를 다시 작성하기보다, 우선 범위가 제한된 분기 하나를 분리해 동일한 예시로 비교하는 것이 합리적입니다. 이렇게 하면 빠른 구조화 응답이 실제로 시스템을 단순화하고 별도 처리 경로의 비용을 상쇄하는지 검증할 수 있습니다.