Author: Channy Yun (윤석찬)

모든 기술을 갖춘 데이터 과학자와 개발자가 최첨단 성능으로 몇 분 만에 파운데이션 모델(FM) 훈련을 시작하고 미세 조정할 수 있도록 지원하는 Amazon SageMaker HyperPod 레시피의 정식 출시를 발표합니다. 이제 Llama 3.1 405B, Llama 3.2 90B, Mixtral 8x22B와 같이 널리 사용되는 FM을 훈련하고 미세 조정하는 데 최적화된 레시피에 액세스할 수 있습니다. AWS re:Invent 2023에서는 SageMaker HyperPod를 소개하여 […]

오늘은 학습, 미세 조정, 추론과 같은 생성형 AI 모델 개발 작업 전반에서 GPU 및 Tranium 사용률을 쉽게 중앙 집중식으로 관리하고 극대화할 수 있는 새로운 혁신, Amazon SageMaker HyperPod 작업 거버넌스의 정식 출시를 발표합니다. 고객들은 생성형 AI 프로젝트에 대한 투자를 빠르게 늘리고 있지만 제한된 컴퓨팅 리소스를 효율적으로 할당하는 데 어려움을 겪고 있다고 말합니다. 리소스 할당을 위한 […]

데이터 과학자가 일정과 예산 내에서 대규모 파운데이션 모델(FM)을 훈련하고 컴퓨팅 가용성을 기반으로 훈련 프로세스를 관리하는 데 드는 몇 주 간의 노력을 절감할 수 있도록 Amazon SageMaker HyperPod 유연한 훈련 플랜의 정식 출시를 오늘 발표합니다. AWS re:Invent 2023에서는 FM을 훈련하는 데 걸리는 시간을 최대 40% 줄이고 사전 구성된 분산 훈련 라이브러리 및 내장된 복원력을 통해 수천 […]

지난해 AWS re:Invent에서 Visual Studio, Visual Studio Code, JetBrains IDEs, Eclipse(미리보기), JupyterLab, Amazon EMR Studio 또는 AWS Glue Studio와 같은 통합 개발 환경(IDE) 전반에 걸쳐 소프트웨어를 설계, 빌드, 테스트, 배포 및 유지 관리하는 생성형 AI 기반 어시스턴트인 Amazon Q Developer를 사전 발표했습니다. 또한 AWS Management Console, AWS Console 모바일 애플리케이션, Amazon CodeCatalyst, AWS Support, AWS […]

오늘 Amazon Bedrock Model Distillation의 출시를 미리 보기로 발표합니다. 이를 통해 교사(Teacher)모델이라고 하는 큰 파운데이션 모델(FM)의 응답을 생성하여 구체적인 사용 사례에 대한 증류된 모델을 만드는 프로세스를 자동화하는 동시에 생성된 응답을 통해 학생(Student) 모델이라고 하는 더 작은 FM을 미세 조정합니다. 데이터 합성 기법을 사용하여 교사 모델의 응답을 개선합니다. 그런 다음 Amazon Bedrock에서는 추론용 최종 증류 모델을 […]

오늘은 스토리지 디바이스를 가져와 데이터를 AWS 클라우드에 더 빠르게 업로드할 수 있는 안전한 물리적 위치인 AWS Data Transfer Terminal의 정식 출시를 발표합니다. 최초의 Data Transfer Terminal은 로스앤젤레스 및 뉴욕에 있으며, 전 세계에 더 많은 위치를 추가할 계획입니다. 시간 슬롯을 예약하여 가장 가까운 위치를 방문하면 고 처리량 연결을 사용하여 Amazon Simple Storage Service(Amazon S3), Amazon Elastic […]

오늘 AWS에서만 사용할 수 있는 올코어 터보 주파수 3.2GHz(최대 코어 터보 주파수 3.8GHz)를 지원하는 맞춤형 4세대 Intel Xeon Scalable 프로세서와 NVIDIA H200 Tensor Core GPU를 사용하는 Amazon Elastic Compute Cloud(Amazon EC2) P5en 인스턴스의 정식 출시를 발표합니다. 해당 프로세서는 PCIe Gen5를 통해 50% 더 높은 메모리 대역폭과 CPU와 GPU 간에 최대 4배의 처리량을 제공하므로 기계 학습(ML)의 […]

오늘 Amazon Security Lake와 Amazon OpenSearch Service 제로 ETL 통합을 정식 출시합니다. 본 통합을 통해 조직은 보안 데이터를 효율적으로 검색 및 분석하고 실행 가능한 인사이트를 확보함으로써 복잡한 데이터 엔지니어링 요구 사항을 간소화하고 보안 데이터의 잠재력을 최대한 활용할 수 있습니다. 이 통합은 Security Lake에서 로그를 즉시 쿼리하고 분석하는 새로운 방법으로, 데이터 복제 필요성을 최소화하고 맞춤형 데이터 […]

오늘은 Amazon Elastic Kubernetes Service(Amazon EKS) Auto Mode 자동 모드의 정식 출시를 발표합니다. 이 자동 모드는 클릭 한 번으로 프로비저닝부터 지속적인 유지 관리까지 컴퓨팅, 스토리지 및 네트워킹을 위한 Kubernetes 클러스터 관리를 간소화하는 새로운 기능입니다. Amazon Web Services(AWS)에서 프로덕션 등급 Kubernetes 애플리케이션을 대규모로 실행하는 데 필요한 클러스터 인프라 관리의 운영 오버헤드를 제거하여 민첩성, 성능 및 비용 […]

오늘은 온프레미스 및 엣지 인프라를 클라우드의 EKS 클러스터에 노드로 연결하는 데 사용할 수 있는 새로운 기능인 Amazon Elastic Kubernetes Service (Amazon EKS) 하이브리드 노드의 정식 출시를 발표합니다. Amazon EKS 하이브리드 노드를 사용하면 클라우드 및 온프레미스 환경 전반에서 Kubernetes 관리를 통합하고 애플리케이션을 실행해야 하는 모든 위치에서 Amazon EKS의 규모와 가용성을 활용할 수 있습니다. 기존 온프레미스 하드웨어를 […]