Amazon SageMaker 模型监控器

训练和微调机器学习模型以及生成式人工智能模型

什么是 SageMaker 模型训练？

Amazon SageMaker Model Training 可减少大规模训练和调整机器学习 (ML) 模型的时间和成本，而无需管理基础架构。您可以充分利用目前可用的性能最高的机器学习计算基础设施，Amazon SageMaker AI 可自动扩展或缩减基础设施，从一个 GPU 扩展到数千个 GPU。为了更快地训练深度学习模型，SageMaker AI 可帮助您实时选择和优化数据集。SageMaker 分布式训练库可自动在 AWS GPU 实例之间拆分大型模型和训练数据集，或者您也可以使用第三方库，例如 DeepSpeed、Horovod 或 Megatron。通过自动监控和修复训练集群，在不中断的情况下对基础模型（FM）进行数周甚至数月的训练。

经济高效培训的优势

用于大规模且具有经济高效的培训的托管基础设施

SageMaker AI 提供广泛的 GPU 和 CPU 以及诸如 AWS Trainium 和 AWS Inferentia 之类的 AWS 加速器，以实现大规模模型训练。您可以自动向上或向下扩展基础设施，从一个 GPU 扩展到数千个 GPU。

高性能分布式训练

通过 SageMaker AI，您可以在 AWS 集群实例之间自动拆分模型和训练数据集，从而帮助您高效地扩展训练工作负载。其可帮助您优化 AWS 网络基础设施和集群拓扑的训练任务。您还可以使用经过优化的配方，以便从先进的性能中获益，在几分钟内快速开始训练并微调公开可用的生成式人工智能模型。该服务还优化了储存检查点的频率，以便通过配方来简化模型检查点，从而确保训练期间的开销最小。

内置工具可实现最高精度和最低成本

SageMaker AI 可以通过调整数千种算法参数组合来自动调整您的模型，从而得出最准确的预测。使用调试和分析工具快速纠正性能问题并优化训练性能。

用于交互和监控的内置工具

SageMaker AI 支持高效的机器学习实验，帮助您更轻松地跟踪机器学习模型迭代。通过可视化模型架构来识别和修复整合问题，提高模型训练性能。

大规模训练模型

完全托管式训练作业

SageMaker 训练作业为大型分布式 FM 训练提供了完全托管式用户体验，消除了基础设施管理方面无差别的繁重工作。SageMaker 训练作业会自动启动一个有弹性的分布式训练集群，监控基础设施并自动从故障中恢复，以确保顺畅的训练体验。训练完成后，SageMaker 将关闭集群，您需要按净训练时间付费。此外，借助 SageMaker 训练作业，您可以灵活地选择最适合单个工作负载的正确实例类型（例如，在 P5 集群上预训练 LLM 或在 p4d 实例上微调开源 LLM），进一步节省训练预算。此外，SagerMaker 训练作业还为具有不同技术专业知识水平和不同工作负载类型的 ML 团队提供一致的用户体验。

了解更多

SageMaker HyperPod

Amazon SageMaker HyperPod 是一种专用基础设施，可有效管理计算集群来扩展基础模型（FM）开发。它支持先进的模型训练技术、基础设施控制、性能优化和增强的模型可观测性。SageMaker HyperPod 预先配置了 SageMaker 分布式训练库，使您能够在 AWS 集群实例之间自动拆分模型和训练数据集，以帮助有效利用集群的计算和网络基础设施。它通过自动检测、诊断和恢复硬件故障来实现更具弹性的环境，使您能够连续数月不间断地训练 FM，从而将训练时间缩短多达 40%。

了解详情