Amazon SageMaker Inference 支持 NVIDIA MIG，可按分区部署多模型提升 GPU 利用率
热点事件持续更新
Amazon SageMaker Inference 支持 NVIDIA MIG，可按分区部署多模型提升 GPU 利用率
1 篇报道1 个报道来源48 分钟前更新
先了解这件事
事实说明
AWS 博客称，Amazon SageMaker Inference 现已支持基于 NVIDIA Multi-Instance GPU（MIG）的 GPU 分区，可将一块 GPU 划分为硬件隔离的多个分区，每个分区运行不同模型，或使用较新加速器的一部分容量。文章介绍通过两个可选 API 字段实现每个分区放置一个模型，并给出与整块旧 GPU 的对比测量结果。
最新进展11月7日 02:01
Amazon SageMaker Inference 支持 NVIDIA MIG，可按分区部署多模型提升 GPU 利用率报道时间线
沿着报道，了解事件的不同侧面。
11月7日
- AWS Machine Learning Blog精选Amazon SageMaker Inference 支持 NVIDIA MIG，可按分区部署多模型提升 GPU 利用率
AWS 博客称，Amazon SageMaker Inference 现已支持基于 NVIDIA Multi-Instance GPU（MIG）的 GPU 分区，可将一块 GPU 划分为硬件隔离的多个分区，每个分区运行不同模型，或使用较新加速器的一部分容量。文章介绍通过两个可选 API 字段实现每个分区放置一个模型，并给出与整块旧 GPU 的对比测量结果。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。