예: 고객 지원 에이전트 배포

채팅과 이메일에서 사용자 문의를 해결하는 고객 지원 에이전트를 배치할 계획입니다. 에이전트는 주문 문제, 계정 확인 및 정책 설명을 처리합니다. RAG(검색 증강 생성)를 사용하여 제품 정책을 가져오고 MCP(모델 컨텍스트 프로토콜) 호환 도구를 사용하여 주문 상태를 쿼리하고 지원 티켓을 업데이트합니다. 각 에이전트 세션에는 벡터 저장소에 대한 RAG 호출 1회, MCP 도구 호출 2회(예: OrderAPI, TicketAPI) 및 2개의 LLM 추론 단계를 포함하는 정교한 다단계 추론이 포함됩니다. 세션을 완전히 분리하고 몇 초 만에 수천 개의 세션으로 확장할 수 있는 유연성이 필요하기 때문에 AgentCore Runtime에 에이전트를 배포했습니다.

매월 1천만 개의 사용자 요청을 처리하고, 각 세션은 70% 의 I/O 대기 시간(LLM 응답 및 API 호출 대기)으로 60초 동안 실행되며, I/O 중에는 다른 백그라운드 프로세스가 실행되지 않습니다. 각 에이전트 세션은 활성 처리 중에 1vCPU를 사용합니다. 메모리 사용량은 초기화 시 1GB에서 시작하여 RAG 처리 중에 2GB로 증가하며, 나머지 세션 동안 복잡한 도구 호출 중에는 2.5GB에서 최고조에 달합니다. 월 비용은 다음과 같이 분석됩니다.

세션당 CPU 비용: 18초(활성 처리 시간만 해당)×1vCPU×(0.0895/3600 USD)=0.0004475 USD
세션당 메모리 비용: 10초×1GB×(0.00945/3600 USD)+20초×2GB×(0.00945/3600 USD)+30초×2.5GB×(0.00945/3600 USD)=0.000026 USD+0.000053 USD+0.000197 USD=0.000276 USD
세션당 총 비용: 0.0007235 USD

월간 총액: 1천만 세션 × 0.0007235 USD= 7,235 USD

스토리지 비용: 컨테이너 기반 배포에서는 게시된 ECR 요금에 따라 ECR 스토리지를 별도로 관리합니다. 대신 직접 코드 배포를 사용한 경우 코드 아티팩트에 S3 표준 요금(2026년 2월 27일부터 시작)이 적용됩니다. 100MB 에이전트의 경우 이 요금으로 인해 월 최대 0.0023 USD의 스토리지 비용이 발생합니다.

사전 할당된 요금과 비교: 이 워크로드가 사전 할당된 리소스에 대해 요금을 청구하는 서비스에서 실행된 경우 전체 60초 동안 최대 사용량(2.5GB 메모리, 1vCPU)을 프로비저닝해야 하므로 CPU 비용은 최대 3.3배 증가하고 메모리 비용은 최대 1.4배 더 높아집니다. 위의 예에서 CPU 사용량이 전체 워크로드 비용의 62% 를 차지한다는 점을 고려하면 CPU 비용 절감 효과가 상당합니다. AgentCore Runtime의 사용량 기반 가격 책정은 ‘I/O 대기 시간 무료’의 이점을 자동으로 캡처하고 확장 시 실제 메모리 사용량에 대해서만 요금을 청구하므로 기존 컴퓨팅 옵션에 비해 상당한 비용 효율성을 제공합니다.

예: 자동 여행 예약 시스템

웹 상호 작용을 통해 전체 여행 계획 및 예약을 자동화하는 여행 예약 에이전트를 만들 계획입니다. 구현하려면 항공편, 호텔 검색, 클릭 시뮬레이션, 가격 추출, 예약 양식 제출을 위한 헤드리스 브라우저를 동적으로 관리할 수 있는 AgentCore Browser의 안전한 서버리스 런타임이 필요합니다. AgentCore Browser 도구는 세션 격리 샌드박스 컴퓨팅과 라이브 뷰 및 세션 재생을 통한 포괄적인 관찰성을 비롯한 엔터프라이즈급 기능을 제공합니다.

에이전트는 매월 10만 건의 요청을 처리합니다. 각 브라우저 세션은 10분 동안 실행되며 I/O 대기 시간은 80% 입니다. 액티브 프로세싱 중에는 2vCPU와 4GB 메모리를 지속적으로 사용하고 I/O 중에는 0.4vCPU와 5GB 메모리를 사용합니다. 월 비용은 다음과 같이 분석됩니다.

세션당 CPU 비용: 120초(80% I/O 대기 시간으로 조정) × 2 vCPU × (0.0895 USD/3600) = 0.005967 USD
세션당 메모리 비용: 600초 × 4GB × (0.00945 USD/3600) = 0.0063 USD
세션당 총 비용: 0.012267 USD
월간 총액: 10만 세션 × 0.012267 USD = 1,226.67 USD

예: 자연어 데이터 분석 자동화

데이터세트 쿼리, 시각화 및 통계 분석을 모두 자연어로 처리하여 비즈니스 및 제품 팀을 지원하는 데이터 분석가 에이전트를 배포할 계획입니다. 에이전트는 사이트 트래픽과 전환율 간의 상관관계 분석과 같은 복잡한 요청에 대해 Python 코드를 동적으로 생성하고 실행합니다. AgentCore Code Interpreter는 엔터프라이즈 보안 정책을 준수하는 격리된 샌드박스 환경, 다국어(JavaScript, TypeScript, Python)를 위한 사전 빌드된 실행 런타임, 대용량 파일 지원 등을 제공하므로 잘 활용할 수 있습니다.

에이전트는 요청당 코드 실행 3회로 매월 10,000건의 요청을 처리합니다. 각 실행은 2분 동안 진행되며 I/O 대기 시간은 60%이며, 활성 처리 중에는 2vCPU를 사용하고 4GB 메모리를 지속적으로 사용합니다. 월 비용은 다음과 같이 분석됩니다.

세션당 CPU 비용: 48초(I/O 대기 60%로 조정) × 2 vCPU × (0.0895 USD/3600) = 0.002387 USD
세션당 메모리 비용: 120초 × 4GB × (0.00945 USD/3600) = 0.00126 USD
세션당 총 비용: 0.003647 USD
월간 총액: 3만 건의 실행 건수 × 0.003647 USD = 109.40 USD

예: HR 어시스턴트 에이전트를 내부 도구에 연결

내부 정책 질문, 휴가 잔여일, 복리후생 등록 및 급여 문의를 처리하는 중견기업을 위한 HR 어시스턴트 에이전트를 구축할 계획입니다. 사용자 요청을 처리하려면 에이전트가 여러 내부 시스템(온보딩, 복리후생, 급여 및 휴가 관리 API)을 도구로 액세스해야 합니다. AgentCore Gateway를 사용하여 200개의 내부 도구를 위한 MCP 서버를 생성했습니다. 이 MCP 서버는 에이전트가 코드를 작성하지 않고도 어디서든 상호 작용할 수 있습니다. 도구 사용의 정확도를 높이기 위해 검색 기능을 활용하여 도구 메타데이터를 인덱싱하고 상호 작용 컨텍스트를 기반으로 에이전트를 호출하는 동안 도구의 동적 매칭을 활성화했습니다.

각 에이전트 상호 작용에는 검색 API 1개와 InvokeTool API 간접 호출 4건이 필요합니다. 매월 5천만 건의 상호 작용으로 5천만 건의 검색과 2억 건의 InvokeTool 호출이 발생합니다. 월 비용은 다음과 같이 분석됩니다.

SearchToolIndex 요금: 도구 200개 × 도구 100개당 0.02 USD = 0.04 USD
검색 API 요금: 5천만 ×2,500만 USD = 1,250 USD
InvokeTool API 요금: 2억 × 500만 USD = 1,000 USD
월 합계: 2,250.04 USD 

예:

운영 팀이 공급업체 선택, 구매 주문 생성 및 송장 승인을 관리하는 데 도움이 되는 조달 자동화 에이전트를 개발할 계획입니다. 작업이 정의된 비즈니스 규칙을 따르도록 하려면 AgentCore Gateway 도구와 함께 Policy를 사용하여 정의된 정책에 대해 실행하기 전에 모든 작업을 자동으로 확인합니다. 에이전트가 작업(예: 구매 승인 전송 또는 결제 시작)을 시도할 때마다 게이트웨이는 도구 호출을 가로채어 작업의 허용 또는 거부 여부를 확인합니다. 에이전트가 한 달에 10만 개의 세션을 처리하고 각 세션에서 평균 5회의 도구 호출을 수행한다고 가정해 보겠습니다. 각 도구 호출에 대해 하나의 승인 요청을 구현하는 경우 다음과 같이 비용을 세분화하여 매월 50만 건의 권한 부여를 요청하게 됩니다.


승인 요청=세션 10만 개x도구 호출 5회/세션x정책 1개 적용/도구 호출=50만 승인 요청
월별 총액: 요청 50만 개x0.000025=12.50 USD

배포 전에 팀은 선택적으로 자연어 정책 작성을 사용하여 온보딩 및 정책 설정을 간소화합니다. Cedar 정책을 수동으로 작성하는 대신 일반 언어로 규칙을 설명하고 AgentCore에서 규칙을 Cedar 정책 설명으로 변환합니다. 이 작성 단계에서 처리된 사용자 입력 토큰 수를 기준으로 일회성 요금이 부과됩니다. 팀에서 10,000개의 토큰을 사용하여 여러 정책을 작성한 경우 비용은 다음과 같습니다.

정책 작성=토큰 2만 개×입력 토큰 1개당 0.13달러=2.60 USD

참고: 관찰성이 활성화된 경우 표준 CloudWatch 요금이 적용됩니다.

예: 보안 고객 지원 액세스 관리

지원 대화를 위한 Slack, 통화 기록을 가져오는 Zoom, 문제 추적 및 커밋 로그를 위한 GitHub 등 다양한 도구에 액세스하여 기술 팀을 지원하는 고객 지원 에이전트를 운영할 계획입니다. 구현에서는 사용자 또는 지원 엔지니어의 안전하고 위임된 액세스를 위해 AgentCore Identity를 사용합니다. 이 시스템은 기존 자격 증명 공급자(예: Amazon Cognito, Okta, Microsoft Entra ID)와 호환되며 OAuth 토큰에서 API 키까지 모든 인증 방법을 관리하므로 사용자 지정 보안 인프라가 필요 없습니다. 

1만 명의 월간 활성 사용자가 에이전트를 사용하고 있으며, 각각 평균 5건의 상호 작용을 하고, 각 사용자마다 매월 세션당 도구 액세스 3회가 필요하다고 가정해 보겠습니다. 이때, 월 비용은 다음과 같이 분석됩니다.

요청된 총 토큰 수: 사용자 1만 명×세션 5개×도구 3개=15만 토큰
월 합계: 요청 15만 건 × 0.010 USD/1,000 = 1.50 USD

참고: AgentCore Runtime 또는 Gateway를 사용할 때 AgentCore Identity는 추가 비용 없이 포함됩니다.

예: 맞춤형 코딩 어시스턴트 에이전트 구현

소프트웨어 엔지니어가 IDE와 터미널에서 코드를 작성, 디버그 및 리팩터링할 수 있도록 지원하는 코딩 어시스턴트 에이전트를 개발할 계획입니다. 개인화된 경험을 제공하려면 에이전트는 세션 중에 컨텍스트를 유지하고 여러 세션에서 사용자 기본 설정을 기억해야 합니다. 구현에서는 AgentCore Memory를 사용하여 에이전트에게 단기 메모리(즉각적인 대화 및 이벤트)과 장기 메모리(세션 전반에 걸친 지속적인 지식)를 모두 제공합니다.

사용자가 에이전트와 상호 작용할 때마다(예: 코드 조각을 보내거나 코딩 질문을 하는 등) AgentCore Memory에 이벤트를 전송하여 단기 메모리로 저장합니다. 장기 메모리의 경우 세션 전반에 걸쳐 디버깅 세션 요약 및 사용자 기본 설정을 자동으로 추출하고 저장하도록 내장된 추출 전략을 구성했습니다. 그러면 에이전트는 이러한 장기 메모리를 검색하여 개발자에게 개인화된 경험을 제공할 수 있습니다.

월간 단기 기억 이벤트 10만 건, 저장된 장기 기억 기록 10,000건, 월간 기억 기록 검색 호출 20,000건을 기준으로 비용은 다음과 같이 분류됩니다.

단기 메모리: 이벤트 10만 건×0.25 USD/1,000=25 USD
장기 메모리 저장소: 메모리 만 개 × 0.75 USD/1,000 = 7.50 USD
장기 메모리 검색: 검색 2만 건×0.50 USD/1,000 =10 USD
월 합계: 42.50 USD

참고: 오버라이드 추출 전략이 내장되어 있으면 장기 보관 비용이 저장된 메모리 1000개당 0.25 USD로 낮아집니다. 단, 계정에서 모델 사용에 대한 추가 요금이 발생할 수 있습니다.

예: 다중 에이전트 재무 자문 플랫폼

투자 조사, 포트폴리오 분석 및 규제 준수 검사를 담당하는 여러 전문 에이전트가 포함된 포괄적인 재무 자문 플랫폼을 배포할 계획입니다. 각 에이전트는 데이터베이스 및 웹 검색 쿼리, 금융 데이터 공급자에 대한 API 직접 호출, 문서 분석을 통해 복잡한 다단계 추론을 수행합니다. 플랫폼은 수백만 건의 트랜잭션을 처리하고 모든 상담원 상호 작용에 대한 추적, 지표 및 로그를 포함한 광범위한 원격 측정 데이터를 생성합니다. AgentCore Observability를 사용하여 포괄적인 감사 추적을 통해 성능을 모니터링하고, 문제를 디버그하고, 재무 규정을 준수할 수 있습니다.

플랫폼은 상담원 상호작용, API 호출, 시스템 이벤트를 통해 매월 10TB의 관찰성 데이터를 생성합니다. 전체 범위의 30% 가 이벤트 로그(모델 호출, 도구 호출)라고 가정하면 약 6TB(스팬 이벤트당 로그 데이터 2KB로 가정)가 CloudWatch 표준 로그에 기록됩니다. 월 비용은 다음과 같이 분석됩니다.

월간 스팬 인제스트 요금: 10TB×1,000GB/TB×0.35 USD/GB=3,500 USD
월별 이벤트 로깅 요금: 6TB×1,000GB/TB×0.50달러/GB=3,000 USD
월간 총액: 3,500 USD+3,000 USD=6,500 USD

* CloudWatch로 전송되는 모든 지표 및 비 텔레메트리(표준) 로그 데이터에는 표준 CloudWatch 요금이 적용됩니다.

예: 전자 상거래 고객 서비스 상담원 품질 모니터링

전자 상거래 플랫폼에 대한 주문 문의, 반품 처리 및 제품 추천을 처리하는 고객 서비스 에이전트를 배치할 계획입니다. 일관된 서비스 품질을 보장하기 위해 AgentCore 평가를 사용하여 개발 및 프로덕션 환경 전반에서 에이전트 성능을 모니터링합니다. 구현에는 3개의 내장 추적 수준 평가자 (정확성, 유용성, 목표 성공률) 와 비즈니스별 품질 지표에 대한 사용자 지정 평가자 1개가 사용됩니다.

개발 과정에서 CI/CD 파이프라인은 매월 5,000개의 테스트 상호 작용을 평가합니다. 프로덕션 환경에서는 매월 10,000건의 고객 대화를 평가하는 샘플링 규칙을 통해 실시간 상호 작용의 2% 를 모니터링합니다. 내장된 각 평가는 평균 15,000개의 입력 토큰(대화 내역, 제품 카탈로그 및 주문 세부 정보 포함)을 처리하고 점수를 매길 수 있는 300개의 출력 토큰을 생성합니다.

월 비용은 다음과 같이 분석됩니다.
내장 평가기:

• 총 상호작용 평가: 15,000개(개발 5,000개+생산 10,000개)
• 상호작용당 내장 평가자 수: 3(정확성, 유용성, 목표 성공률)
• 전체 평가: 상호작용 15,000건×평가자 3명=평가 45,000건
• 입력 토큰: 평가 45,000개×토큰 15,000개=675만 토큰
• 출력 토큰: 평가 45,000개×토큰 300개=1,350만 토큰
• 입력 비용: 675만 토큰×2.40 USD/1백만 USD=1,620 USD
• 출력 비용: 1,350만 토큰×12.00 USD/1백만 USD=162 USD
• 내장 평가기 소계: 1,782 USD

맞춤형 평가:

• 총 사용자 지정 평가: 상호작용 15,000개×사용자 지정 평가자 1명=평가 15,000개
• 맞춤형 평가 비용: 평가 15,000건×1.50 USD/1,000 USD= 22.50 USD

월 합계: 1,804.50 USD

참고: 내장 평가기의 경우 모델 사용 비용이 포함됩니다. 사용자 지정 평가 시 계정에 추가 모델 사용 요금이 발생합니다.

예: 금융 서비스 회사를 위한 엔터프라이즈 AI 도구 마켓플레이스
여러분은 거래, 위험 관리, 규정 준수 및 고객 서비스 팀 전반에서 5,000명 이상의 개발자로 구성된 대규모 금융 서비스 회사에서 근무하고 있습니다. 각 팀은 MCP 서버, 에이전트 및 사용자 지정 도구를 구축하고 유지 관리하지만 기존 리소스를 검색할 수 있는 중앙 집중식 장소가 없습니다. 여러분은 AWS Agent Registry를 팀이 도구를 게시하는 중앙 집중식 카탈로그로 활용합니다.
단일 레지스트리를 생성하여 12개 팀의 개발자가 리소스를 등록하는 단일 레지스트리를 생성합니다. 여기에는 총 17,000개의 레지스트리 레코드(2,000개의 MCP 서버(시장 데이터 피드, 주문 관리, 위험 계산기, 규정 준수 체커), 10,000명의 에이전트(포트폴리오 재조정, 거래 조정, 규제 보고), 5,000개의 사용자 지정 도구(내부 API, 독점 모델, 지식 기반)가 있습니다. 월초에 2,000개의 MCP 서버가 추가되고, 월 중순에 10,000개의 에이전트와 5,000개의 사용자 지정 도구가 추가됩니다.

소비자 측에서는 5,000명의 빌더 모두가 한 달 내내 레지스트리를 쿼리합니다. 첫 달에 빌더는 시스템에 익숙해지면 일 평균 2건의 검색 호출과 5건의 List+Get 호출을 받습니다. 두 번째 달이 되면 사용량이 일 검색 호출 20건, List + Get 호출 50건으로 증가합니다.

• 첫 번째 달:
  • 레코드: 2,000개의 MCP 서버(한 달 전체) + 7,500개의 비례 계산된 레코드(10,000명의 에이전트 + 월중 5,000개의 도구 추가) = 9,500개의 유효 레코드. 5,000개의 레코드가 무료인 경우 4,500개의 레코드에 대해 0.40 USD/1,000 = 1.80 USD의 요금이 부과됩니다.
  • 검색 API 호출: 호출 300,000건(빌더 5,000명 × 일 호출 2건 × 30일). 1백만 프리 티어 이내이므로 비용은 = $0입니다.
  • 목록 작성 + API 호출 가져오기: 750,000개의 호출(5,000명의 빌더 × 일 5개의 호출 × 30일). 2백만 프리 티어 이내이므로 비용은 = $0입니다.
  • 월 합계: 1.80 USD
• 두 번째 달:
  • 레코드: 총 레코드 17,000개 - 무료 5,000개 = 청구 가능한 레코드 12,000개(0.40 USD/1,000 = 4.80 USD)
  • 검색 API 호출: 호출 3,000,000건(빌더 5,000명 × 일 호출 20건 × 30일) - 무료 1백만 건 = 2백만 건의 청구 가능 호출(0.020 USD/1,000 = 40.00 USD)
  • List + Get API 호출: 호출 7,500,000건(빌더 5,000명 × 일 호출 50건 × 30일) - 무료 2백만 건 = 5.5백만 건의 청구 가능 호출(0.004 USD/1,000 = 22.00 USD)
  • 월 합계: 66.80 USD