AWS Machine Learning Blog· Claudio Mazzoni·· 4 小时前AI 评分53
AI agent 的 Groundhog Day 循环：在 Amazon Bedrock 上使用 OpenAI 模型时的 prompt caching 模式
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AI 导读
AWS 官方博客详解如何在 Amazon Bedrock 上为 OpenAI 模型配置 prompt caching，通过显式和隐式两种模式缓存工具的重复输入前缀，并在多轮对话、工具变更、子 agent 调用和新会话等场景下给出具体代码示例，实测 GPT-6 Astra 可降低约 64% 的输入成本。
来源：AWS Machine Learning Blog · aws.amazon.com