Amazon ECS 现已支持通过 NVIDIA 多进程服务（MPS）进行 GPU 共享

发布于: 2026年11月11日

Amazon Elastic Container Service 现已支持通过 NVIDIA 多进程服务（MPS）进行 GPU 共享，使您能够在单个 NVIDIA GPU 上同时运行多个 ECS 任务。对于仅需使用 GPU 部分算力的工作负载（例如小模型推理、嵌入生成以及多模型服务），GPU 共享功能有助于提高 GPU 利用率并降低基础设施成本。

通过 GPU 共享，您无需更改应用程序代码，即可在每个 GPU 实例上部署更多工作负载。您可以定义每个容器所需的 GPU 内存，并可以选择设置 GPU 计算资源的最大共享比例；随着服务的扩展和部署，Amazon ECS 会自动将任务分配到具有可用容量的 GPU 上。Amazon ECS 托管实例和基于 EC2 的 Amazon ECS 均支持 GPU 共享。在 Amazon ECS 托管实例上，Amazon ECS 还会监控负责实现共享功能的 MPS 进程守护程序。如果该进程守护程序停止运行或运行状况不佳，Amazon ECS 会自动替换该实例，并将您的任务迁移至运行状况良好的计算资源上，从而确保您的 GPU 工作负载无需人工干预即可持续运行。

要开始使用，请使用控制台、CLI、SDK 或基础设施即代码工具，创建一个包含 NVIDIA GPU 实例的容量提供程序，在任务定义的容器定义中设置 MPS 共享策略及 GPU 内存大小，并在该容量提供程序上创建一个服务。此功能现已在由光环新网运营的亚马逊云科技中国（北京）区域和由西云数据运营的亚马逊云科技中国（宁夏）区域推出。要了解更多信息，请访问 Amazon ECS GPU 共享文档。