Amazon EKS 고객

Amazon EKS Hybrid Nodes는 AWS GPU 이외의 리소스를 AWS 에코시스템에 통합할 수 있게 함으로써 인프라 관리 방식을 혁신했습니다. 스타트업인 당사는 H100과 같은 강력한 GPU 리소스에 대한 액세스를 유지하면서 비용을 최적화해야 합니다. Amazon EKS Hybrid Nodes를 사용하면 다른 공급자를 통해 리소스를 활용하면서 AWS를 통해 모든 것을 중앙에서 관리할 수 있습니다. 교육 시간을 5배 이상 단축하고 실험 이행에 드는 운영 비용을 절감할 수 있었습니다. 이는 보유한 리소스를 더 잘 최적화하고 필요할 때 컴퓨팅을 사용할 수 있도록 함으로써 달성됩니다. 따라서 규모를 확장하거나 축소해도 서비스 가동 시 콜드 스타트 시간이 늘어나지 않습니다. Amazon EKS Hybrid Nodes는 Amazon EKS의 강력한 관리 기능을 유지하면서 하이브리드 클라우드 운영을 대폭 간소화하고 GPU 사용률을 개선했습니다.

Sony Interactive Entertainment는 Amazon EKS의 지원을 받아 컴퓨팅 리소스를 효율적으로 관리하고 개발자에게 선호하는 도구를 제공했습니다. 이를 통해 일반적인 장애물이 제거되고 커널 및 노드 업데이트가 가속화되며 전반적인 개발자 경험이 향상되었습니다.

Amazon EKS는 우리가 여러 지역에 있고 전 세계에 걸쳐 있으며 EKS의 안정성과 신뢰성을 갖추고 있기 때문에 인프라와 함께 모든 것을 직접 유지 관리해야 하는 경우보다 고객에게 더 집중할 수 있기 때문에 확실히 도움이 됩니다.

비용을 너무 많이 희생하지 않고도 우수한 성능을 얻을 수 있도록 항상 인프라를 구축하는 것이 매우 중요합니다. Karpenter를 EKS와 함께 사용하면서 2개월 이내에 배포 및 조정을 비롯한 많은 개선이 이루어졌습니다.

관리형 컨트롤 플레인을 포함하여 Amazon EKS가 제공하는 모든 기능은 자체 Kubernetes 클러스터를 관리하는 것에 비해 월등했습니다.

AWS에서는 새 릴리스로 인한 서비스 중단이 없습니다. 이를 통해 가용성이 100% 에 가까워졌습니다.

Amazon EKS를 통해 고객에게 매우 안전한 환경을 제공하는 데 중요한 단일 테넌트 아키텍처를 구현할 수 있었습니다. 자체 호스팅되는 Kubernetes 솔루션을 관리하면 상당히 복잡하고 유지 관리 문제가 발생했을 것입니다. Amazon EKS를 통해 이러한 문제를 피할 수 있었습니다. Amazon EKS를 통해 운영이 더 복잡해지지 않으면서 성장을 지원하는 확장 가능한 인프라를 확보했습니다. 현재 SaaS 플랫폼 내 Amazon EKS에서 300개 이상의 AI 모델을 실행하고 있으며, 사용자가 전월 대비 20% 증가하여 고객 기반이 확장되고 있습니다. Amazon EKS를 사용하면 인프라 업데이트와 새로운 기능을 비롯한 변경 사항을 몇 시간 내에 모든 고객에게 배포할 수 있으므로 가동 중지가 발생하지 않습니다.

Kubernetes는 매우 복잡한 소프트웨어인데, Amazon EKS를 사용하면 상상했던 것보다 더 간단하게 Kubernetes를 설치하고 사용할 수 있습니다.

Snap은 Kubernetes를 사용하여 대규모 서비스를 관리하는 문제를 해결하는데, 여기서 EKS는 초당 200만 건의 트랜잭션을 처리하도록 지원합니다. EKS와 ECR 덕분에 Snap은 새로운 마이크로서비스를 출시하기 위한 개발 노력의 77%를 줄일 수 있었습니다.

Amazon EKS는 전 세계에 쉽게 접근할 수 있고 저렴한 의료를 제공하고자 하는 저희의 목표를 달성하는 데 매우 중요합니다. EKS 및 EC2 스팟 인스턴스를 사용하고 나서 엄청나게 빠른 마이크로서비스 아키텍처를 가질 수 있게 되었습니다. 이 아키텍처에서 300개가 넘는 컨테이너식 애플리케이션이 각각 구축 및 배포됩니다. 이제 전 세계적으로 지금까지 경험해보지 못한 높은 가용성을 갖추는 동시에, 스택 변경에 걸리는 평균 시간을 4주에서 몇 시간 이내로 단축했습니다. 당사의 상품은 저렴한 가격에 초점을 맞추었고, 중요 클러스터에서 비용을 40% 절감한 것이 이 목표를 달성하는 데 중요한 역할을 합니다. Fargate for EKS가 제공하는 가용성 덕분에 복잡한 오케스트레이션 플랫폼을 실행하고 운영하는 데서 안전한 확장형 의료 시스템을 운영하는 것으로 초점을 바꿀 수 있을 것입니다. 그러면 시간과 예산 측면에서 모두 엔지니어링 노력이 극대화됩니다.

HSBC의 클라우드 서비스 팀이 어떤 방식으로 사내 애플리케이션 팀이 미션 크리티컬 컨테이너형 애플리케이션을 Amazon EKS에 실행할 수 있는 안전한 다중 테넌트 플랫폼을 구축했는지 실제 사례를 살펴보면서 솔루션에 대해 알아봅니다.

EKS 덕분에 고객의 성공에 직접적으로 기여하지 않고, 서비스를 제공하는 고객에게 부가가치가 발생하지 않는 영역에 대해 깊은 지식을 쌓을 필요가 사라졌습니다. EKS 팀에 책임을 위임한 것은 그만한 가치가 있습니다. 저희는 이 마이크로서비스 아키텍처를 고객에게 제공하고, 고객이 해결을 바라는 문제를 해결하는 데 집중하고 나머지는 EKS 팀에 위임할 수 있습니다.

Kubernetes는 훌륭한 인프라 지원 도구입니다. AWS와 Amazon EKS 덕분에 고객 만족을 위한 저희의 목표를 훨씬 손쉽게 달성할 수 있습니다. EKS는 GoDaddy와 Kubernetes 요구 사항에 맞습니다.

EKS는 컨트롤 플레인과 VPC CNI 드라이버를 관리하는 고충을 대신 처리해주고, 신청하는 즉시 바로 사용할 수 있습니다.

Amazon EC2 스팟 인스턴스에서 Amazon EKS를 실행한 건 경이로운 경험이었습니다. 그 덕분에 엄청나게 비용을 절약하고 비즈니스 성장에 집중할 수 있는 시간과 에너지가 생겼습니다. Delivery Hero는 Amazon EC2 스팟 인스턴스에서 Kubernetes를 실행하고 비용이 70% 절감되었습니다.

Amazon EKS를 사용하면 운영 시간을 크기 단축하고 애플리케이션 개발 생산성을 높일 수 있습니다. 또한 EKS는 보안 및 재해 복구 측면에서 이점이 있으며 향후 모든 것을 EKS로 이전할 계획입니다.

지난 4년 동안 SuperAwesome은 큰 변화를 맞았습니다. 원래는 한 리전에서 소규모로 EC2 인스턴스를 실행했지만 여러 리전과 AWS 계정에서 수백 개를 실행하게 되었고, 분당 몇백 건에 지나지 않던 HTTP 요청은 초당 수만 건으로 늘어났으며, 하루에 처리하는 분석 이벤트가 몇백만에서 10억 이상으로, Kubernetes 클러스터 2개에서 20개 이상으로 증가했습니다. 성장에는 복잡성이 수반됩니다. 복잡하지 않고 편리하게 관리할 수 있도록 Amazon Elastic Kubernetes Service(Amazon EKS)로 서비스를 전환했습니다. 그 덕분에 클러스터를 직접 관리하지 않고도 Kubernetes의 모든 기능을 이용할 수 있었습니다.

저희의 사업적 과제는 항상 연결되어 있고, 실시간으로 알림을 보내고, 비용 효율성을 유지하면서도 고객에게 아기에 대한 분석 정보를 제공하는 것이었습니다. 기술적 과제는 스트리밍 카메라 1만 대, 스트리밍 고객 10만 명을 관리하고 실시간으로 대규모 딥 러닝을 실행하는 것이었습니다. 왜 EKS를 선택했느냐고요? 전체적인 AWS Support, 출시 업데이트, Kubernetes의 형식 및 호환성을 제공받고 컨트롤 플레인을 관리할 수 있기 때문입니다.

저희는 수십억 건의 요청을 처리하면서 고객이 모바일 앱과 상호작용할 때 고객이 생성하는 데이터에 대해 더욱 정확히 분석할 수 있도록 돕습니다. 여러 가지 조사 결과에 따르면, 분석 정보는 경쟁 우위를 확보하기 위한 자료이고 저희 고객들도 그 사실을 알고 있습니다. EKS로 옮긴 것은 가장 현명한 결정이었습니다. 클러스터를 마이그레이션하고 나서 얻은 가장 큰 장점은 AWS에 책임을 위임했기 때문에 더 이상 Kubernetes 제어 플레인을 관리할 필요가 없고 이런 구성 요소의 확장성과 안정성도 고려할 필요가 없다는 것이었습니다. 저희는 그 어느 때보다 많은 트래픽을 처리하고 분석을 실행할 수 있게 되었습니다.

Mercari 앱이 인기를 끈 이유는 기술을 활용한 여러 가지 기능이 있기 때문입니다. 예를 들어 ‘AI 전시’가 있는데, 스마트폰 카메라로 물품을 촬영하면 제품 이름과 카테고리를 추정해서 자동으로 정보를 입력해주는 기능입니다. Amazon EKS 클러스터에 있는 클라우드 스토리지 Amazon S3에 저장된 수억 건의 이미지 덕분에 높은 정확도로 분석할 수 있습니다. 관리형 서비스인 Amazon EKS를 사용하고 나서 Kubernetes를 관리하고 운영할 필요가 사라졌고 대량의 기계 학습을 신속히 처리할 수 있습니다.

과거에 Kubernetes 클러스터를 직접 유지 및 관리해온 경험에 비추어 볼 때 EKS가 제공하는 간편성과 안정성은 상당히 인상적이었습니다. EKS를 사용하면 새로운 Kubernetes 클러스터를 몇 시간이 아니라 몇 분 만에 시작할 수 있습니다. 따라서 엔지니어는 새로운 기능을 테스트할 새로운 클러스터를 가동하고 이를 통해 고객에게 엄격한 테스트를 거친 더 뛰어난 성능의 플랫폼을 제공할 수 있습니다. 또한 과거에는 확장도 쉽지 않았습니다. 하지만 EKS를 통해 60초 이내에 원하는 크기로 Kubernetes 클러스터를 확장하고 고객의 트래픽 급증에 거의 실시간으로 대응할 수 있습니다. 스팟 인스턴스 및 기타 AWS의 비용 절감 조치를 활용할 수 있으므로 이렇게 확장이 필요한 상황에서도 전혀 걱정할 필요가 없습니다.