OpenAI가 10월 20일 Responses API에 12시간 프롬프트 캐시를 더한 뒤, 청구는 usage의 어느 숫자를 보나

2026년 10월 21일 기준: 12시간은 Responses API의 최소 캐시 시간이다. 30분 쓰기는 1.25배, 12시간은 2.5배. 청구는 cached_tokens와 두 ttl 필드. cache_write_tokens는 다시 더하지 않는다.

10월 20일에 더해진 것은 Responses API의 최소 캐시 시간입니다. 삭제 시계가 아닙니다. prompt_cache_options.ttl을 빼면 값은 30m이고, 쓰기는 일반 입력 가격의 1.25배입니다. 12h는 2.5배입니다. 이 배수는 쓰기 총액이며, 일반 입력 위에 얹는 추가 요금이 아닙니다. 읽기는 두 시간 모두 같습니다. GPT-5.6 이후 대부분은 0.1배, GPT-6.1 Sol은 0.05배입니다. 청구는 cached_tokens, ttl_30m_tokens, ttl_12h_tokens를 봅니다. cache_write_tokens는 이미 뒤의 둘을 더한 값입니다.

이 글은 2026년 10월 21일 기준이며, 전날 변경 기록과 개발자 사이트에 남아 있는 프롬프트 캐시 안내를 따릅니다. 기록은 v1/responses를 가리킵니다. 어제는 답이 어느 필드에 있는지를 썼습니다. 여기서도 「적중했다」는 한 문장이 아니라 필드를 읽습니다.

10월 20일에 실제로 더해진 것

변경 기록은 API에서 12시간 프롬프트 캐시를 고를 수 있다고 적습니다. 안내는 스위치를 Responses API의 prompt_cache_options.ttl에 두고, 대상은 GPT-5.6 이후입니다.

ttl최소 시간쓰기 배수안내가 드는 용도
30m. 생략하면 기본값30분일반 입력의 1.25배대화와 간격이 짧은 에이전트 단계
12h12시간일반 입력의 2.5배더 긴 간격을 넘어 다시 쓰는 지시와 참고 자료

OpenAI는 요청한 최소 시간보다 오래 남길 수 있습니다. 12h는 삭제 시각을 정하지 않고, 데이터 보존 정책의 상한도 바꾸지 않습니다. 다음 KV 재사용이나 더 낮은 지연도 보장하지 않습니다. 지원하지 않는 값은 400 invalid_request_error입니다. 옛 모델의 prompt_cache_retention은 바뀌지 않습니다. 대조표에서 GPT-5.5는 24h만 쓰고, 추가 쓰기 배수는 없습니다.

12h를 받는 API

대조표는 12시간을 Responses API 안에 적습니다. 요청의 ttl은 암시 구분점과, 자신의 ttl이 없는 명시 구분점에 적용됩니다. 하나의 명시 구분점은 prompt_cache_breakpoint.ttl로 덮어씁니다. 둘 다 빼면 30m입니다.

Chat Completions 생성 참조는 prompt_cache_options.ttl이 지금은 30m만 받는다고 아직 적습니다. 12h를 chat/completions에 두는 출구는 안내에 없습니다. Agents API의 모델 호출은 Responses 캐시와 같은 동작을 따릅니다. 10월 20일 기록이 이름을 적은 것은 v1/responses입니다.

한 요청이 쓸 수 있는 구분점은 최대 4개입니다. 암시 모드는 그 가운데 하나를 쓰므로 명시는 3개가 남습니다. mode를 explicit로 두고 명시 구분점이 없으면 프롬프트 캐시를 쓰지 않습니다. GPT-5.6 이후에서 캐시할 수 있는 접두사는 보이는 입력 토큰이 최소 1,024개입니다. OpenAI 쪽의 숨은 내용은 이 하한에 들어가지 않습니다. 그 이전 모델은 보고하는 cached_tokens를 128의 배수로 내림합니다. GPT-5.6 이후는 자격이 있는 경계를 그대로 보고하고, 숨은 토큰은 뺍니다.

한 요청에서 두 시간을 어떻게 세는가

구분점은 그 앞의 접두사 전체를 덮습니다. 한 요청 안에서 각 토큰은 그것을 덮는 선택된 쓰기 가운데 가장 긴 시간으로 한 번만 청구됩니다. 뒤에 12시간 쓰기가 있으면, 그 접두사 안의 앞 구분점도 12시간 덮개가 됩니다. 안내의 네 줄은 다음과 같습니다.

요청 전 캐시고른 구분점읽기30분 쓰기12시간 쓰기
없음2,000에서 12h, 그다음 5,000에서 30m03,0002,000
없음2,000에서 30m, 그다음 5,000에서 12h005,000
2,000까지 30분이 유효5,000에서 12h005,000
2,000까지 12시간이 유효5,000에서 30m2,0003,0000

유효한 30분 덮개를 12시간으로 올리면 그 토큰은 12시간으로 다시 쓰이고, 앞의 쓰기는 돌려받지 못합니다. 이미 유효한 12시간 항목 안에 있는 부분은 읽기로 남습니다. 30분 읽기는 그 읽기 뒤 최소 30분까지 덮개를 늘립니다. 쓰는 항목이 유효한 12시간이면 「원래 만료」와 「읽기 30분 뒤」 가운데 더 늦은 쪽을 남깁니다. 12시간 시계를 다시 시작하지 않고, 쓰기 요금을 한 번 더 받지 않습니다.

usage 숫자를 더하는 법

prompt_cache_options를 지원하는 Responses 모델은 쓰기를 cache_write_tokens_details에 나눕니다. ttl_30m_tokens와 ttl_12h_tokens는 겹치지 않고, 합이 cache_write_tokens입니다. 두 필드가 모두 돌아오며 하나는 0일 수 있습니다. cached_tokens는 읽기로 청구된 토큰만 세고, 쓰기로 청구된 것, 30분에서 12시간으로 올린 부분은 넣지 않습니다.

{
  "usage": {
    "input_tokens": 12000,
    "input_tokens_details": {
      "cached_tokens": 4000,
      "cache_write_tokens": 7000,
      "cache_write_tokens_details": {
        "ttl_30m_tokens": 3000,
        "ttl_12h_tokens": 4000
      }
    }
  }
}

일반 입력은 12000 - 4000 - 7000 = 1000입니다. 입력 비용은 일반 입력에 입력 가격, cached_tokens에 캐시 읽기 가격, ttl_30m_tokens에 입력 가격의 1.25배, ttl_12h_tokens에 2.5배를 곱한 뒤 1,000,000으로 나눕니다. 안내는 입력을 100만당 1달러, 캐시 읽기를 0.10달러로 두고 이 숫자의 입력 비용을 0.01515달러로 계산합니다. GPT-6.1 Sol의 읽기는 0.05배이며, 이 예의 0.1배가 아닙니다. 같은 토큰 수를 0.05배 읽기로 계산해도 0.01515달러가 되지 않습니다.

못 맞추면 접두사가 바뀐 경우가 많습니다

캐시가 담는 것은 KV이고, 원래 토큰이 아닙니다. 렌더된 접두사 전체가 맞아야 합니다. 안내가 접두사를 바꾼다고 이름을 적은 설정은 model, tools, parallel_tool_calls, text.format(구조화 출력은 형식 지시와 보낸 schema를 붙입니다), reasoning.effort, text.verbosity, 그리고 앞글을 다시 쓰는 context_management입니다. schema가 바뀌면 그 자리부터 옛 항목과 맞지 않습니다.

항목은 개별 기계에 있습니다. 분당 15요청을 넘으면 그 항목이 없는 기계로 갈 수 있습니다. 캐시는 조직을 넘지 않고, 처리 리전 경계도 넘지 않습니다. GPT-5.6 이후는 OpenAI가 경로를 정하고, prompt_cache_key는 적중을 높이는 데 쓰이지 않습니다. 고객별 계정을 나누는 데는 아직 쓸 수 있습니다. 이전 설명은 더 앞의 모델에서 GPT-5.6 이후로 옮길 때 prompt_cache_retention을 prompt_cache_options.ttl로 바꾸라고 적습니다.

남길 것은 이 사용량입니다

한 번의 호출에서 적어도 다음을 남깁니다.

{
  "api": "responses",
  "model": "gpt-6.1-sol",
  "request_ttl": "30m",
  "input_tokens": 12000,
  "cached_tokens": 4000,
  "cache_write_tokens": 7000,
  "ttl_30m_tokens": 3000,
  "ttl_12h_tokens": 4000,
  "ordinary_input_tokens": 1000
}

ordinary_input_tokens는 입력에서 읽기와 쓰기를 뺀 수와 같아야 합니다. 두 ttl 필드는 cache_write_tokens로 돌아와야 합니다. 맞지 않으면 끌어올린 쓰기를 읽기로 셌거나, cache_write_tokens를 두 번 더한 것입니다.

  • JSON 검증 — 필드가 다 있는지 본 뒤 두 ttl의 합을 대조합니다.
  • JSON Diff — 두 usage를 비교해 늘어난 것이 12시간 쓰기인지 일반 입력인지 봅니다.
  • JSONPath — ttl_12h_tokens가 0보다 큰 응답을 꺼냅니다.

자주 묻는 질문

Chat Completions에서도 ttl을 12h로 둘 수 있나요?

안내는 12h를 Responses API에 적습니다. Chat Completions 생성 참조는 ttl이 지금은 30m만 받는다고 아직 적습니다. 10월 20일 기록이 이름을 적은 것은 v1/responses입니다.

12h는 12시간 뒤에 반드시 지워지나요?

아닙니다. 최소 보관 시간입니다. OpenAI는 더 오래 남길 수 있습니다. 삭제 시각을 정하지 않고, 보존 정책의 상한도 바꾸지 않으며, 다음 적중이나 더 낮은 지연도 보장하지 않습니다.

2.5배는 일반 입력 위에 얹는 추가요금인가요?

아닙니다. 안내는 쓰기 총액이라고 적습니다. 12시간 쓰기로 청구된 토큰은 일반 입력으로 한 번 더 청구되지 않습니다. 일반 입력은 input_tokens에서 cached_tokens와 cache_write_tokens를 뺀 수입니다.

이미 낸 30분 쓰기는 12시간으로 올리면 돌려받나요?

돌려받지 않습니다. 유효한 30분 덮개를 12시간으로 올리면 그 토큰은 12시간으로 다시 쓰입니다. 이미 유효한 12시간 항목 안에 있는 부분은 읽기로 남습니다.

청구할 때 cache_write_tokens를 한 번 더 더해야 하나요?

더하지 않습니다. 그것은 ttl_30m_tokens와 ttl_12h_tokens의 합입니다. 두 분량을 입력 가격의 1.25배와 2.5배로 곱합니다. cache_write_tokens를 다시 더하면 쓰기가 두 번 들어갑니다.

cached_tokens가 0보다 크면 그 호출이 더 빨랐나요?

안내는 최소 시간이 읽기 가격으로 청구할 수 있는지를 정할 뿐, 매번 기계의 KV를 다시 쓰거나 지연이 낮아진다는 보장은 없다고 적습니다. 분당 15를 넘는 흐름은 그 항목이 없는 기계로 갈 수도 있습니다.

정리

10월 20일의 변경은 Responses API의 최소 시간 선택입니다. 30분 쓰기는 1.25배, 12시간 쓰기는 2.5배, 읽기는 0.1배, Sol에서는 0.05배로 남습니다. usage는 쓰기를 두 ttl 필드로 나눕니다. cache_write_tokens를 그 위에 더하면 쓰기가 두 번이 됩니다.

schema, 도구 정의, 모델 이름은 접두사를 바꿉니다. 기록에는 API가 responses인지, 보낸 ttl, 네 개의 사용량 숫자가 뺄셈과 맞는지를 남깁니다.