Amazon EKS 시작하기

Amazon EKS를 사용하면 에이전틱 AI에 대한 두 가지 고유한 접근 방식을 사용할 수 있습니다. 먼저, 자율 에이전트를 컨테이너화된 애플리케이션으로 배포하고 확장하여 에이전트 인프라를 제어할 수 있습니다. 둘째, 에이전트와 AI 어시스턴트가 Agent2Agent 프로토콜(A2A) 및 Model Context Protocol(MCP)을 사용하여 자연어 상호 작용을 통해 운영을 간소화하고 문제를 해결할 수 있도록 Kubernetes 운영 및 애플리케이션 개발을 간소화할 수 있습니다. 이 경로는 Amazon EKS에 에이전트를 배포하고 에이전틱 AI를 사용하여 Amazon EKS 개발자 및 운영자 경험을 향상시키는 두 가지 접근 방식을 모두 안내합니다.

오픈 소스 Strands Agents SDK 또는 선호하는 에이전트 프레임워크를 사용하여 Amazon EKS에서 자율 AI 에이전트를 배포하고 확장하세요. 이 접근 방식을 통해 에이전트 인프라를 완벽하게 제어할 수 있으므로 모든 모델을 사용하고 구현을 사용자 지정할 수 있습니다. EKS는 가용성과 확장성이 뛰어난 컨테이너화된 AI 에이전트를 실행할 수 있는 프로덕션급 기능을 제공합니다.

EKS에서 AI 에이전트를 구축하고 배포하는 데 필요한 기본 사항을 살펴보세요. Strands Agents SDK에 대해 알아보고 이 SDK가 에이전트 개발을 간소화하는 방법을 알아보거나 이러한 개념을 선호하는 프레임워크에 적용해 보세요. 간단한 에이전트가 외부 API와 통합하고, 스트리밍 응답을 처리하고, 자연어 쿼리를 처리하는 방법을 이해하기 위해 일기 예보에 대한 실제 사례를 살펴보세요. 이 예시는 EKS에 에이전트를 배포할 때 필요한 시스템 프롬프트, 도구 통합, API 워크플로와 같은 주요 개념을 보여줍니다.

Strands Agents SDK 에이전트를 Amazon EKS에 배포하는 방법에 대한 단계별 가이드를 따르세요. 먼저 에이전트를 컨테이너화하고, FastAPI 엔드포인트를 설정하고, 스트리밍 응답을 구현하고, Docker를 사용하여 애플리케이션을 패키징하는 방법을 학습하세요. 샘플 프로젝트를 사용하여 EKS Auto Mode 구성, 헬름 배포, 기본 테스트와 같은 필수 개념을 이해하세요. 이 가이드에서는 Strands SDK를 사용하지만 EKS에 어떤 컨테이너화된 에이전트를 배포하는 데에도 같은 원칙이 적용됩니다.

프로덕션 환경에서 에이전트 배포를 안정적으로 확장하고 운영하는 방법을 알아보세요. 오토 스케일링을 구현하여 다양한 워크로드를 처리하고, 백업 및 장애 조치 구성을 통해 고가용성을 달성하고, CloudWatch Container Insights를 사용하여 포괄적인 모니터링을 설정하세요. AI/ML 워크로드 실행을 위한 EKS 모범 사례 가이드를 따라 에이전트 인프라가 안전하고 관찰 가능한지 확인하세요. 자습형 EKS의 에이전틱 AI 워크숍을 통해 AI 에이전트를 대규모로 배포하기 위한 단계별 지침을 받아보세요.

Amazon EKS MCP 서버를 통해 AI 코딩 어시스턴트에게 실시간 도구 및 리소스를 제공하여 쿠버네티스 운영을 혁신하세요. 이를 통해 AI 에이전트는 자연어 상호 작용을 통한 상황별 지침 및 자동화를 통해 EKS 클러스터와 직접 상호 작용할 수 있습니다. 클러스터 생성부터 문제 해결에 이르기까지 이러한 AI 에이전트는 AWS 모범 사례를 유지하면서 Kubernetes 운영을 간소화하는 데 도움이 됩니다.

다양한 AWS MCP 서버가 AI 모델과 AWS 서비스 및 리소스 간의 상호 작용을 어떻게 촉진하는지 알아보세요. EKS MCP 서버 가이드를 살펴보고 AI 에이전트가 클러스터 관리에서 문제 해결에 이르는 일반적인 운영 작업을 자동화하는 데 어떻게 도움이 되는지 알아보세요. EKS MCP 서버 통합을 통해 Amazon Q Developer CLI 또는 Cline과 같은 AI 어시스턴트를 구성하도록 개발 환경을 설정합니다.

단계별 가이드를 따라 Amazon EKS MCP 서버를 사용하여 Kubernetes 운영을 간소화하세요. EKS에서 애플리케이션을 컨테이너화하고 배포하기 위해 자연어 명령을 사용하는 방법을 알아보세요. 이 데모를 통해 AI 에이전트가 EKS MCP 서버의 도구를 사용하여 Kubernetes 매니페스트를 생성하고, 클러스터 리소스를 관리하고, 배포 워크플로를 자동화하는 데 어떻게 도움이 되는지 자세히 알아보세요.

Amazon EKS MCP 서버의 AI 지원 문제 해결 안내를 따라 AI 에이전트가 애플리케이션 상태를 모니터링하고 일반적인 문제를 해결하는 데 어떻게 도움이 되는지 알아보세요. 포드 장애 및 인프라 문제를 디버깅하는 실제 사례를 통해 자연어 쿼리를 사용하여 CloudWatch 지표를 확인하고, 로그를 분석하고, 문제를 진단하는 방법을 알아보세요. 이 실습 안내서는 Amazon CloudWatch 및 기타 AWS 서비스를 활용하여 EKS에서 애플리케이션을 정상적으로 유지 관리하는 데 AI 지원이 어떻게 도움이 되는지 보여줍니다.

생성형 AI 환경은 빠르게 진화하고 있습니다. 조직은 분산 모델 훈련, 미세 조정 및 대규모 추론 배포에 이르는 사용 사례에 대해 다양한 AI/ML 워크로드를 구축, 배포 및 확장하고 있습니다. Anthropic 및 Adobe를 비롯한 고객들은 운영 효율성을 유지하면서 컴퓨팅 리소스를 세밀하게 제어하기 위해 Amazon EKS를 선택하고 있습니다. 고객이 모델 교육 및 배포, 검색 증강 생성(RAG) 및 추론과 같은 일반적인 사용 사례를 위해 AI/ML용 EKS를 선택하는 이유에 대한 개요를 보려면 이 가이드를 참조하세요.

Amazon EKS는 GPU 최적화, 다중 모델 서비스 및 오토 스케일링을 지원하여 프로덕션급 추론 배포를 지원합니다. 조직은 기존 EKS 전문 지식과 운영 관행을 활용하여 다른 애플리케이션과 함께 추론 워크로드를 신속하게 배포하고 관리할 수 있습니다. Vannevar Labs 및 Omi와 같은 회사는 오픈 소스 도구 및 AWS의 광범위한 액셀러레이터와의 통합을 통해 인프라 전반에서 운영 일관성을 유지하면서 상당한 비용 절감 및 성능 개선을 달성했습니다.

GPU 지원, 모델 서비스 패턴, 리소스 최적화와 같은 주요 주제를 다루는 이 솔루션 가이드에서 EKS에 추론 워크로드를 배포하기 위한 인프라 및 아키텍처 기본 사항을 알아보세요. 프로덕션 배포를 위한 코드형 인프라 템플릿을 사용하여 확장 가능한 LLM 추론 서비스를 설정하는 등 배포 준비가 완료된 블루프린트를 제공하는 오픈 소스 AI on EKS 프로젝트를 살펴보세요.

먼저 실시간 추론을 위한 모범 사례 클러스터 설정 가이드부터 시작하여 프로덕션 추론 워크로드에 최적화된 EKS 클러스터를 생성하세요. vLLM 및 NVIDIA Triton과 같은 인기 프레임워크를 위한 헬름 차트 및 코드형 인프라 템플릿을 제공하는 프로덕션급 EKS의 AI 추론 차트를 사용하여 모델을 배포하세요. 기존 ML 워크로드의 경우 배포 패턴에 대한 CPU 및 GPU 기반 추론을 위한 AWS 딥 러닝 컨테이너 개발자 안내서를 참조하세요.

실습 워크숍을 따라 원하는 가속기를 사용하여 EKS에 추론 워크로드를 배포할 수 있습니다. GPU 기반 추론을 위한 NVIDIA 기반 워크숍과 Inferentia 및 Trainium 가속기를 사용하는 AWS Neuron 기반 워크숍이 있습니다. 두 워크숍 모두 기기 플러그인 설정, 리소스 관리, 모니터링과 같은 필수 작업을 다룹니다. AI/ML 워크로드에 대한 포괄적인 EKS 모범 사례 가이드를 참조하여 추론 배포가 컴퓨팅, 네트워킹, 스토리지 및 관찰 가능성에 대한 검증된 패턴을 따르도록 하세요. 이 가이드는 EKS에서 추론 아키텍처를 운영하고 발전시킬 때 지속적으로 참조할 수 있습니다.

Amazon EKS를 처음 사용하시나요? 이 경로의 단계를 따라 몇 분 만에 첫 번째 Kubernetes 클러스터를 설정하세요.

Amazon EKS를 사용하면 AWS Management Console에 로그인하여 몇 분 만에 컨테이너를 설정하고 시작할 수 있습니다.

Containers from the Couch 동영상 시리즈와 Containers 블로그 채널에서 Amazon EKS가 어떻게 작동하는지 알아보세요.

Linux 및 Windows의 샘플 배포를 통해 Amazon EKS에 워크로드 및 애드온을 배포하는 방법을 알아보세요.