AWS 和 NVIDIA

AWS 和 NVIDIA 自 2010 年以來就在合作，不斷為客戶提供大規模、經濟高效且靈活的 GPU 加速解決方案。從雲端到邊緣，這些創新擴展到基礎設施、軟體和服務，提供全端解決方案，用以在建置 AI 並將其部署到正式環境時加快打造解決方案的進程。透過多個 AWS 區域提供的 GPU 加速解決方案，客戶可以獲得實現低延遲、高效能和高可靠性所需的運算能力。

適用於最複雜 AI/ML 模型的 GPU 執行個體和軟體

各種規模的組織都在將生成式 AI 技術用於聊天機器人、文件分析、程式碼產生、視訊和影像產生、語音識別、藥物發現以及合成資料產生，以快速創新、改善客戶服務並獲得競爭優勢。為了充分發揮這些解決方案的價值，組織需要使用自己的專有資料自訂 AI 和機器學習 (ML) 模型，但從頭開始建立模型既昂貴又耗時。採用 NVIDIA GPU 技術的 Amazon EC2 執行個體，可加速針對越來越複雜的 LLM 和運算密集型生成式 AI 應用程式的訓練與推論流程。NVIDIA NIM 和 NeMo 微服務是 AWS Marketplace 中 NVIDIA AI Enterprise 的一部分，使組織能夠大規模發揮生成式 AI 和 LLM 的潛力。

進一步了解 NVIDIA AI Enterprise

解決大型運算問題和取得新洞見

高效能運算 (HPC) 可讓科學家和工程師快速解決複雜、運算密集的問題。HPC 應用程式應用程式通常需要網路效能、快速儲存、大量記憶體和運算能力的組合。AWS 透過在雲端執行 GPU 驅動的 HPC，並擴展到大部分內部部署環境無法應付的大量平行任務，讓客戶加快研究速度，又能縮短得出結果的時間。Amazon EC2 執行個體採用 NVIDIA GPU，是執行工程模擬、計算金融、地震分析、分子模擬、基因體、轉譯和其他高效能運算工作負載的理想平台。

進一步了解由 NVIDIA H100 Tensor Core GPU 支援的 Amazon EC2 P5 執行個體

將 AWS 順暢擴展至邊緣裝置，讓這些裝置可在本機上操作

具有機器學習功能的 IoT 裝置面臨許多挑戰。邊緣有限的運算資源可能會限制機器學習模型的複雜性和規模，同時平衡對更複雜演算法的需求。確保即時處理、低延遲和網路安全至關重要，因為邊緣設備通常更容易受到篡改和惡意攻擊。AWS IoT Greengrass 將 AWS 順暢延伸到邊緣裝置 (例如 NVIDIA Jetson 裝置)，以便在本機上操作其產生的資料，同時繼續將雲端用於管理、分析和耐久性儲存。

了解如何將 Jetson 模組上的 NVIDIA DeepStream 與 AWS IoT Core 和 AWS IoT Greengrass 整合

透過輕鬆建立實際系統的模擬來最佳化營運

許多行業都受益於實際物件的模擬，這些物件可以是物理實體的準確且具有空間感知的沉浸式表示。工業元宇宙涵蓋數位分身和其他模擬，可幫助研究人員和工程師更好地協作和測試他們的產品，例如工廠中的虛擬原型或遠端監控。NVIDIA Omniverse 是一個運算平台，可讓個人和團隊開發基於通用場景描述 (OpenUSD) 的 3D 工作流程和應用程式。

進一步了解 AWS 上的 NVIDIA Omniverse

調整您的人力，網羅全球創意人才

隨著遠端工作趨勢的成長、對 HPC 的需求的增加，以及產業採用更加分散的方法，對功能強大的工作站進行虛擬連結的需求也隨之增加。NVIDIA 的 GPU 技術可確保 3D 建模、影片編輯和 AI 開發等圖形密集型任務可以在雲端順暢執行，為使用者提供以往普遍上對內部部署工作站所期望的效能和視覺保真度。使用 NVIDIA RTX 技術的虛擬工作站在 Amazon EC2 執行個體上執行，並由 NVIDIA GPU 支援，可提高彈性和可擴展性，為分散地區的團隊提供更靈活的工作環境。

深入了解 AWS 上的虛擬工作站