Category: Amazon SageMaker HyperPod

오늘 AWS는 Amazon SageMaker AI의 Amazon Nova용 커스터마이징 기능 제품군을 발표합니다. 이제 고객은 사전 훈련, 지도형 미세 조정, 조율 등, 모델 훈련 수명 주기 전반에 걸쳐 Nova Micro, Nova Lite, Nova Pro를 커스터마이징할 수 있습니다. 이들 기법은 바로 사용할 수 있는 Amazon SageMaker 레시피로 제공되고 Amazon Bedrock에 원활하게 배포할 수 있으며, 온디맨드 처리량 추론과 프로비저닝된 […]

모든 기술을 갖춘 데이터 과학자와 개발자가 최첨단 성능으로 몇 분 만에 파운데이션 모델(FM) 훈련을 시작하고 미세 조정할 수 있도록 지원하는 Amazon SageMaker HyperPod 레시피의 정식 출시를 발표합니다. 이제 Llama 3.1 405B, Llama 3.2 90B, Mixtral 8x22B와 같이 널리 사용되는 FM을 훈련하고 미세 조정하는 데 최적화된 레시피에 액세스할 수 있습니다. AWS re:Invent 2023에서는 SageMaker HyperPod를 소개하여 […]

오늘은 학습, 미세 조정, 추론과 같은 생성형 AI 모델 개발 작업 전반에서 GPU 및 Tranium 사용률을 쉽게 중앙 집중식으로 관리하고 극대화할 수 있는 새로운 혁신, Amazon SageMaker HyperPod 작업 거버넌스의 정식 출시를 발표합니다. 고객들은 생성형 AI 프로젝트에 대한 투자를 빠르게 늘리고 있지만 제한된 컴퓨팅 리소스를 효율적으로 할당하는 데 어려움을 겪고 있다고 말합니다. 리소스 할당을 위한 […]

데이터 과학자가 일정과 예산 내에서 대규모 파운데이션 모델(FM)을 훈련하고 컴퓨팅 가용성을 기반으로 훈련 프로세스를 관리하는 데 드는 몇 주 간의 노력을 절감할 수 있도록 Amazon SageMaker HyperPod 유연한 훈련 플랜의 정식 출시를 오늘 발표합니다. AWS re:Invent 2023에서는 FM을 훈련하는 데 걸리는 시간을 최대 40% 줄이고 사전 구성된 분산 훈련 라이브러리 및 내장된 복원력을 통해 수천 […]

오늘부터 파운데이션 모델(FM) 개발을 위해 복원력을 핵심으로 설계된 목적별 인프라인 Amazon SageMaker HyperPod에서 Amazon Elastic Kubernetes Service(EKS)를 지원하게 되었습니다. 이 새로운 기능을 통해 고객은 EKS를 사용하여 HyperPod 클러스터를 오케스트레이션하고, 대규모 모델 훈련을 위해 설계된 Amazon SageMaker HyperPod의 탄력적인 환경과 Kubernetes의 강력한 성능을 결합할 수 있습니다. Amazon SageMaker HyperPod는 1천여 개의 인공 지능(AI) 액셀러레이터에서 효율적으로 규모를 […]