免费软件、软件分享、系统优化、AI工具
科技皮皮虾 > 科技要闻 > AWS为SageMaker HyperPod增加托管Ray支持

AWS为SageMaker HyperPod增加托管Ray支持

AWS宣布Amazon SageMaker HyperPod在Amazon EKS上提供托管Ray支持。

SageMaker HyperPod托管Ray原创配图

用户可以创建和监控Ray集群,并将JupyterLab和Code Editor笔记本连接到运行中的集群。该能力基于开源KubeRay和标准Ray API,支持分布式训练和推理任务,并在SageMaker Studio中提供可观测性。集群规模、节点类型和权限由用户根据工作负载配置。

从单机试验迁移到集群前的检查

Ray把任务、Actor和数据处理分布到多个节点;托管集群减少了自行维护部分Kubernetes组件的工作,但应用代码仍需正确处理重试、序列化、对象存储和节点故障。先确认当前Ray脚本是否依赖本地磁盘路径、固定节点地址或单机内存状态,这些假设在分布式环境里通常需要调整。

试点可从一项可重复的批处理或推理工作开始,记录每个任务的输入规模、并行度、启动时间和失败恢复方式。逐步改变工作节点数量,观察吞吐是否随资源增加而提升;若速度不变,瓶颈可能在数据读取、对象传输或任务调度,而非集群规格不足。

同时核对EKS集群与HyperPod的权限边界、镜像和依赖安装方式、日志去向、自动扩缩容条件及闲置资源成本。Notebook能够连接集群只是开发入口,不能代替对作业部署、版本固定和生产监控的设计。

来源:AWS Machine Learning Blog,发布时间:2026年8月25日。