Amazon Bedrock の Amazon Nova Pro 基盤モデルでのレイテンシー最適化推論を発表

投稿日: 2025年3月5日

Amazon Nova Pro の基盤モデルが、Amazon Bedrock のプレビューでレイテンシー最適化推論をサポートするようになりました。これにより、生成 AI アプリケーションにおける応答時間が短縮され、応答性が向上しました。レイテンシー最適化推論を使用すると、レイテンシーの影響を受けやすいアプリケーションの応答時間が短縮され、エンドユーザーエクスペリエンスが向上し、デベロッパーはユースケースに合わせてパフォーマンスをより柔軟に最適化できるようになります。これらの機能に利用するために追加の設定やモデルの微調整は必要なく、既存のアプリケーションをすぐに強化し、応答時間を短縮できます。

Amazon Nova Pro のレイテンシー最適化推論は、米国西部 (オレゴン)、米国東部 (バージニア)、米国東部 (オハイオ) リージョンにおいて、クロスリージョン推論によってご利用いただけます。Amazon Nova 基盤モデルの詳細については、AWS ニュースブログ、Amazon Nova 製品ページ、または Amazon Nova ユーザーガイドをご覧ください。Bedrock でのレイテンシー最適化推論の詳細については、ドキュメントをご覧ください。Amazon Bedrock の Amazon Nova 基盤モデルは、Amazon Bedrock コンソールから使用を開始できます。