要了解更多信息,请参阅 Amazon EC2 P6e-GB200 UltraServers 和 P6-B200 实例。
亚马逊弹性计算云(亚马逊 EC2)P6e-GB200 UltraServers 由 NVIDIA GB200 NVL72 加速,提供亚马逊 EC2 中最高的 GPU 性能。与 P5en 实例相比,它们在 NVIDIA NVLink TM 下具有超过 20 倍的计算和超过 11 倍的内存。p6e-GB200 UltraServers 非常适合计算和内存密集型人工智能工作负载,例如以万亿参数规模训练和部署前沿模型。
由 NVIDIA Blackwell GPU 加速的 Amazon EC2 P6-B200 实例是大中型训练和推理应用程序的理想选择。与用于 AI 训练和推理的 P5en 实例相比,它们可提供高达 2 倍的性能。
p6e-GB200 UltraServer 和 P6-B200 实例可以加快下一代人工智能模型的训练速度,并提高生产环境中实时推理的性能。您可以使用 P6e-GB200 UltraServers 和 P6-B200 实例训练前沿基础模型 (FM),例如专家和推理模型的混合体,并将其部署到生成式和代理式 AI 应用程序中,例如内容生成、企业副驾驶和深度研究代理。
优势
功能
产品详细信息
实例类型
Instance Size
|
Blackwell GPUs
|
GPU memory (GB)
|
vCPUs
|
System memory (GiB)
|
Instance storage (TB)
|
Network bandwidth (Gbps)
|
EBS bandwidth (Gbps)
|
Available in EC2 UltraServers
|
---|---|---|---|---|---|---|---|---|
p6-b200.48xlarge
|
8 |
1,440 HBM3e |
192 |
2048 |
8 x 3.84 |
8 x 400 |
100 |
否 |
p6e-gb200.36xlarge
|
4 |
1,440 HBM3e |
144 |
960 |
1 个 75 |
8 x 400 |
60 |
是 |
P6e-GB200 实例仅在 UltraServers 中可用
UltraServer 类型
Instance Size
|
Blackwell GPUs
|
GPU memory (GB)
|
vCPUs
|
System memory (GiB)
|
UltraServer Storage (TB)
|
Aggregate EFA bandwidth (Gbps)
|
EBS bandwidth (Gbps)
|
Available in EC2 UltraServers
|
---|---|---|---|---|---|---|---|---|
u-p6e-gb200x72
|
72 |
13320 |
2529 |
17280 |
405 |
28800 |
1080 |
是 |
u-p6e-gb200x36
|
36 |
6660 |
1296 |
8640 |
202.5 |
14400 |
540 |
是 |
客户评价
以下是一些客户和合作伙伴如何使用亚马逊 EC2 P6e-GB200 UltraServers 和 P6-B200 实例实现其业务目标的示例。
JetBrains
我们正在广泛使用亚马逊EC2 P5en实例,并对采用NVIDIA Blackwell GPU的P6和P6e实例的推出感到兴奋,这些实例有望大幅提高性能。开箱即用的初步评估表明,与我们的机器学习管道中基于 H200 的 P5en 实例相比,P6-B200 的训练时间缩短了 85% 以上,进一步的优化预计将带来更大的收益。这一进步将帮助我们为客户打造卓越的产品。
弗拉迪斯拉夫·坦科夫,JetBrains 人工智能总监

机器学习使用案例入门
找到今天要查找的内容了吗?
请提供您的意见,以便我们改进网页内容的质量。