Amazon EC2 P6-B200 实例

P6-B200 实例配备 8 个 NVIDIA Blackwell GPU、1440 GB 高带宽 GPU 内存、第 5 代英特尔至强可扩展处理器（Emerald Rapids）、2 TiB 系统内存，以及 30 TB 本地 NVMe 存储。这些搭载 Blackwell GPU 的实例与 P5en 实例相比，GPU TFLOP 性能提升高达 125%，GPU 内存容量增加 27%，GPU 内存带宽增加 60%。

P6-B200 实例由 AWS Nitro System 提供支持，该系统配备专用的硬件和固件，旨在实施访问限制，确保包括 AWS 内部人员在内的任何人都无法访问您的敏感人工智能工作负载和数据。Nitro 实时更新功能可在系统正常运行时，为 Nitro 卡部署固件更新、漏洞修复及性能优化。这可以提高稳定性并减少停机时间，对于按时完成培训计划以及在生产环境中运行人工智能应用程序至关重要。

为实现高效的分布式训练，P6-B200 实例提供每秒 3.2 太比特的第 4 代 Elastic Fabric Adapter 网络（EFAv4）。这些实例部署在 Amazon EC2 UltraClusters 中，可在支持 PB 级的非阻塞网络中扩展至数万个 GPU。

P6-B200 实例可提升训练速度并降低训练成本，让模型提供商能够加快规模更大且性能更优的模型的上市时间。P6-B200 实例支持广泛的 AI 和 HPC 工作负载，涵盖深度学习训练与推理、科学模拟以及计算机视觉应用程序等领域。这是中型到大型训练和推理工作负载的理想之选。

P6-B200 实例可提供多达 8 个 NVIDIA Blackwell GPU 和 1440 GB 的高带宽 GPU 内存。与 P5en 实例相比，这些实例的 GPU TFLOP 提升高达 125％，GPU 内存容量增加 27％，GPU 内存带宽增加 60％。

P6-B200 实例可通过 NVLink 提供高达每秒 3.2 太比特的 EFAv4 网络和 1800 GB/s 的 GPU 到 GPU 互连。 

P6-B200 实例支持适用于 Lustre 的 Amazon FSx 文件系统，因此您可以以大规模 DL 和 HPC 工作负载所需的数百 GB/s 吞吐量和数百万 IOPS 访问数据。P6-B200 实例支持高达 30TB 的本地 NVMe SSD 存储，从而对大型数据集进行快速访问。您还可以通过 Amazon Simple Storage Service（Amazon S3）使用几乎无限且经济实惠的存储。

Amazon SageMaker 是一项完全托管的服务，用于构建、训练和部署 ML 模型。借助 Amazon SageMaker HyperPod（P6-B200 支持即将推出），您可以更轻松地扩展至数十、数百或数千个 GPU，从而以任何规模快速训练模型，而无需担心设置和管理弹性训练集群的问题。

AWS Deep Learning AMI（DLAMI）可为机器学习从业人员和研究人员提供基础设施和各种工具，从而加快在云中进行任意规模的深度学习的速度。 AWS Deep Learning Containers 是预先安装了深度学习框架的 Docker 映像，可以让您跳过从头构建和优化环境的复杂流程，从而简化自定义机器学习环境的部署。

如果您更愿意通过容器编排服务管理自己的容器化工作负载，则可以使用 Amazon Elastic Kubernetes Service（Amazon EKS）或 Amazon Elastic Container Service（Amazon ECS）部署 P6-B200 实例。