NVIDIA Blackwell Ultra GPU を搭載した Amazon EC2 P6-B300 インスタンスが利用可能に
AWS は本日、NVIDIA Blackwell Ultra B300 GPU によって高速化された Amazon Elastic Compute Cloud (Amazon EC2) P6-B300 インスタンスの一般提供を発表しました。Amazon EC2 P6-B300 インスタンスは、2.1 TB の高帯域幅 GPU メモリを搭載した NVIDIA Blackwell Ultra GPU を 8 基、6.4 Tbps の EFA ネットワーキング、300 Gbps の専用 ENA スループット、4 TB のシステムメモリを装備しています。
P6-B300 インスタンスは、P6-B200 インスタンスと比較してネットワーク帯域幅が 2 倍、GPU メモリサイズが 1.5 倍、GPU TFLOPS が 1.5 倍 (FP4 でスパース性なし) で、高度な手法を用いた大規模な兆単位パラメータの基盤モデル (FM) や大規模言語モデル (LLM) のトレーニングとデプロイに適しています。ネットワーキングが優れ、メモリが大きいほど、トレーニング時間が短縮され、AI ワークロードのトークンスループットが向上します。
P6-B300 インスタンスは現在、Amazon EC2 Capacity Blocks for ML と Savings Plans を通じて、米国西部 (オレゴン) の AWS リージョン で p6-b300.48xlarge サイズとしてご利用いただけます。 P6-B300 インスタンスのオンデマンド予約については、アカウントマネージャーにお問い合わせください。
P6-B300 インスタンスの詳細については、Amazon EC2 P6 インスタンスを参照してください。