跳到正文
AWS Machine Learning Blog· Srinivas Kini·· 3 小时前精选AI 评分69

Postman 如何在 Amazon Bedrock 上为 4000 万开发者运行 Agent Mode

How Postman runs Agent Mode for 40 million developers on Amazon Bedrock

AI 导读

Postman 在 Amazon Bedrock 上运行面向 4000 万开发者的 Agent Mode,解决工具蔓延、上下文与推理成本问题。架构采用动态工具选择,从 170+ 工具中按需挑选约 15 个;使用基于 schema 的 ClickHouse 查询替代单点读取工具;通过跨 Region 推理配置文件和分层提示词缓存(1 小时与 5 分钟)平衡吞吐与成本。

推荐理由

原文分享生产级 Agent 的架构实践,涵盖工具动态选择、上下文工程、跨区推理与提示词缓存,可供同类项目参考。

来源:AWS Machine Learning Blog · aws.amazon.com