免费软件、软件分享、系统优化、AI工具
科技皮皮虾 > 科技要闻 > AWS介绍Reflection Beam开源权重模型并提供SageMaker部署路径

AWS介绍Reflection Beam开源权重模型并提供SageMaker部署路径

AWS于2026年10月16日发布文章介绍Reflection AI的Beam开源权重模型,并公布了在Amazon SageMaker上的部署方式。

AWS Reflection Beam模型与SageMaker部署原创配图

AWS称,Beam面向软件工程和代理式编码任务,可处理代码维护、工具调用、结果解释以及多步骤工作流。模型采用稀疏混合专家架构,总参数量为5010亿,激活参数量为230亿,有效上下文长度为100万令牌。Reflection AI通过Hugging Face发布模型权重,采用Apache 2.0许可证。

Beam 1.0提供BF16、FP8和NVFP4三种检查点版本,对应不同的显存占用和硬件兼容性。AWS文章介绍,模型在发布时已通过SageMaker JumpStart提供,首批区域包括美国东部(弗吉尼亚北部)和美国东部(俄亥俄)。用户可以从JumpStart创建实时端点,在自有AWS账户中调用推理接口。

对于需要分布式GPU基础设施控制的场景,AWS提供SageMaker HyperPod Inference路径。用户可以在由Amazon EKS编排的HyperPod集群中使用JumpStart托管容器,也可以选择SGLang或vLLM运行时,以配置服务镜像、量化方式、并行执行和路由策略。AWS提示,部署前需要准备账户权限、网络与存储资源、模型条款确认、GPU配额以及对应的推理运行环境。

AWS还列出不同精度版本的实例建议,并说明部署时需要同时估算权重、KV缓存、运行时开销和并行度。文章发布时间为2026年10月16日,来源:AWS Machine Learning Blog。