AWS 发布 Bedrock 上 OpenAI 模型提示词缓存最佳实践

AWS 发布教程，详解在 Amazon Bedrock 上使用 OpenAI 模型时如何配置 prompt caching（提示词缓存）。通过显式和隐式两种模式缓存工具的重复输入前缀，在多轮对话、工具变更、子 agent 调用和新会话等场景给出代码示例。实测 GPT-6 Astra 可降低约 64% 的输入成本。 符合条件的可复用前缀需达到 1,024 tokens，缓存写入费用为正常输入费率的 1.25 倍，缓存前缀在最新写入或成功复用上之后至少 30 分钟内仍可用于复用。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。