AWS Machine Learning Blog· Naomi Teng·· 4 小时前AI 评分38
Amazon Bedrock 推出 Kimi K3 印度本地推理服务
Introducing India-based inference for Kimi K3 on Amazon Bedrock
AI 导读
Amazon Bedrock 现已支持 Kimi K3 在印度的本地推理,可满足严格的数据驻留要求。Ultrahuman 在实际生产中通过 prompt caching 将 LLM 成本降低 80%,多轮对话速度提升 85%。
来源:AWS Machine Learning Blog · aws.amazon.com