文档 · 线路与价格
提示词缓存:Claude 的自动缓存,以及怎么关掉
请求自己没设缓存时,TopxAI 会打开 Claude 的五分钟提示词缓存。缓存读写怎么计费,以及关掉它的请求头。
提示词缓存让模型复用刚见过的提示词开头。重复的部分按缓存读取价计费,比输入价低得多;第一次存进缓存按缓存写入价计费,比输入价略高。每个模型的价格页都列着这两项。
Claude:默认打开
Claude 请求自己没带缓存设置时,TopxAI 在转发前替它打开 Claude 的五分钟自动缓存。/v1/messages、/v1/chat/completions 和 /v1/responses 都是这样,所以完全不懂缓存的客户端也能用上。
你自己发的缓存设置始终优先:顶层的 cache_control,或者 system 块、工具、消息块上的断点,位置和时长都原样保留,一小时缓存也一样。这时 TopxAI 不再加任何东西。
在 Claude 上,缓存读取在 Opus 5.5 和 Sonnet 5.5 上是输入价的 5%,在 Fable 5.2 上是 2.5%。五分钟缓存写入是输入价的 1.25 倍,一小时写入是输入价的 2 倍。
上游有时会自行把长提示的一部分缓存一小时,并把这些写入按一小时上报。从 2026-11-19 14:40(UTC)的发布起,这类写入按你的请求要求的时长计费:请求没设缓存、也关掉了 TopxAI 的自动缓存时,按输入价;要求五分钟时(TopxAI 的自动缓存也算),按五分钟写入价。只有自己要求一小时缓存的请求,才按一小时价付费。之后读到这部分缓存,仍按缓存读取价计费。这次发布之前,这类写入按一小时价收费。
单次请求关掉它
只发一次的提示词用不上缓存,只会被记成一次没人读的缓存写入。这类请求带上下面这个请求头,TopxAI 就不加默认缓存:
curl https://api.topxai.xyz/v1/messages \
-H "x-api-key: $TOPXAI_API_KEY" \
-H "X-TopxAI-Prompt-Cache: off" \
-H "content-type: application/json" \
-d '{"model": "claude-sonnet-5-5", "max_tokens": 256, "messages": [{"role": "user", "content": "用四个字给这段对话起个名字。"}]}'
三个接口都认这个请求头。只有值为 off 时才关掉默认缓存,别的值照旧打开。请求里你自己设的断点不受影响。TopxAI Desktop 给对话起名这类一次性的提示词会带上它。
其他模型
- OpenAI 的模型 由厂商自动缓存。TopxAI 不转发缓存时长(
prompt_cache_options,以及input里的prompt_cache_breakpoint),所以每次写入都是默认的那种,按价格表上的缓存写入价计费。 - Grok 4.7 自动缓存,命中的 token 按缓存读取价计费,没有缓存写入这一项。
- GLM、Kimi 和 DeepSeek 的模型 跑在私有部署上,自动缓存,命中的 token 按缓存读取价计费,主部署没有缓存写入这一项。Abliterated 模型的请求开头都有一段固定的 TopxAI 部署说明,这一段通常会命中缓存(见请求怎么计费)。
缓存不保证什么
能不能命中取决于厂商:同一个模型、开头的文字一样、在缓存有效期内发出。没命中也不额外收钱,这些 token 按普通输入计费。结算用的是厂商报出的输入、缓存读取、缓存写入和输出 token,所以用量日志里能看到具体缓存了多少。请求怎么计费里有一个例子,把一连串命中缓存的请求逐笔算了一遍。
模型:claude-fable-5-2, claude-sonnet-5-5, claude-opus-5-5 · 模型与价格
相关
- 请求怎么计费
- Claude Code 接 TopxAI:ANTHROPIC_BASE_URL 和密钥
- 看懂用量日志
- Claude Fable 5.2 API pricing
- Claude Sonnet 5.5 API pricing
- Claude Opus 5.5 API pricing
上一页:联网搜索:哪些模型能搜,搜一次多少钱 · 下一页:Jev(TypeSafe System One)
其他语言:English