跳到正文
热点事件持续更新

SageMaker Inference 新增 MIG GPU 分区功能

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

AWS 宣布 Amazon SageMaker Inference 支持 NVIDIA Multi-Instance GPU(MIG)分区,将物理 GPU 划分为多个硬件隔离的独立分区,每个分区固定分配计算单元和显存。 该功能适用于使用推理组件(inference component)的端点;异步调用无法访问推理组件。

AI 根据报道生成 · 54 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月7日
  1. AWS Machine Learning Blog
    Amazon SageMaker Inference 支持 NVIDIA MIG GPU 分区以提升利用率

    Amazon SageMaker Inference 新增 GPU 分区功能,利用 NVIDIA Multi-Instance GPU (MIG) 将物理 GPU 划分为多个硬件隔离的独立分区,每个分区固定分配计算单元和显存。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。