Loading...

文档 · 线路与价格

提示词缓存:Claude 的自动缓存,以及怎么关掉

请求自己没设缓存时,TopxAI 会打开 Claude 的五分钟提示词缓存。缓存读写怎么计费,以及关掉它的请求头。

提示词缓存让模型复用刚见过的提示词开头。重复的部分按缓存读取价计费,比输入价低得多;第一次存进缓存按缓存写入价计费,比输入价略高。每个模型的价格页都列着这两项。

Claude:默认打开

Claude 请求自己没带缓存设置时,TopxAI 在转发前替它打开 Claude 的五分钟自动缓存。/v1/messages、/v1/chat/completions 和 /v1/responses 都是这样,所以完全不懂缓存的客户端也能用上。

你自己发的缓存设置始终优先:顶层的 cache_control,或者 system 块、工具、消息块上的断点,位置和时长都原样保留,一小时缓存也一样。这时 TopxAI 不再加任何东西。

在 Claude 上,缓存读取在 Opus 5.5 和 Sonnet 5.5 上是输入价的 5%,在 Fable 5.2 上是 2.5%。五分钟缓存写入是输入价的 1.25 倍,一小时写入是输入价的 2 倍。

上游有时会自行把长提示的一部分缓存一小时,并把这些写入按一小时上报。从 2026-11-19 14:40(UTC)的发布起,这类写入按你的请求要求的时长计费:请求没设缓存、也关掉了 TopxAI 的自动缓存时,按输入价;要求五分钟时(TopxAI 的自动缓存也算),按五分钟写入价。只有自己要求一小时缓存的请求,才按一小时价付费。之后读到这部分缓存,仍按缓存读取价计费。这次发布之前,这类写入按一小时价收费。

单次请求关掉它

只发一次的提示词用不上缓存,只会被记成一次没人读的缓存写入。这类请求带上下面这个请求头,TopxAI 就不加默认缓存:

curl https://api.topxai.xyz/v1/messages \
  -H "x-api-key: $TOPXAI_API_KEY" \
  -H "X-TopxAI-Prompt-Cache: off" \
  -H "content-type: application/json" \
  -d '{"model": "claude-sonnet-5-5", "max_tokens": 256, "messages": [{"role": "user", "content": "用四个字给这段对话起个名字。"}]}'

三个接口都认这个请求头。只有值为 off 时才关掉默认缓存,别的值照旧打开。请求里你自己设的断点不受影响。TopxAI Desktop 给对话起名这类一次性的提示词会带上它。

其他模型

缓存不保证什么

能不能命中取决于厂商:同一个模型、开头的文字一样、在缓存有效期内发出。没命中也不额外收钱,这些 token 按普通输入计费。结算用的是厂商报出的输入、缓存读取、缓存写入和输出 token,所以用量日志里能看到具体缓存了多少。请求怎么计费里有一个例子,把一连串命中缓存的请求逐笔算了一遍。

模型:claude-fable-5-2, claude-sonnet-5-5, claude-opus-5-5 · 模型与价格

相关

上一页:联网搜索:哪些模型能搜,搜一次多少钱 · 下一页:Jev(TypeSafe System One)

其他语言:English