SageMaker Inference 新增 MIG GPU 分区功能
热点事件持续更新
SageMaker Inference 新增 MIG GPU 分区功能
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
AWS 宣布 Amazon SageMaker Inference 支持 NVIDIA Multi-Instance GPU(MIG)分区,将物理 GPU 划分为多个硬件隔离的独立分区,每个分区固定分配计算单元和显存。 该功能适用于使用推理组件(inference component)的端点;异步调用无法访问推理组件。
AI 根据报道生成 · 54 分钟前更新
最新进展11月7日 02:01
Amazon SageMaker Inference 支持 NVIDIA MIG GPU 分区以提升利用率报道时间线
沿着报道,了解事件的不同侧面。
11月7日
- AWS Machine Learning BlogAmazon SageMaker Inference 支持 NVIDIA MIG GPU 分区以提升利用率
Amazon SageMaker Inference 新增 GPU 分区功能,利用 NVIDIA Multi-Instance GPU (MIG) 将物理 GPU 划分为多个硬件隔离的独立分区,每个分区固定分配计算单元和显存。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。