Начало работы с Amazon EKS

Amazon EKS поддерживает два разных подхода к агентному ИИ. Во-первых, вы можете развертывать и масштабировать автономные агенты в виде контейнерных приложений, получая полный контроль над инфраструктурой агентов. Во-вторых, вы можете оптимизировать операции Kubernetes и разработку приложений, передав задачи по упрощению операций и устранению неполадок ИИ-агентам и помощникам путем взаимодействия на естественном языке по протоколам Agent2Agent (A2A) и контекста модели (MCP). В этом руководстве мы рассматриваем обе стратегии: развертывание агентов на Amazon EKS и использование агентного ИИ для повышения удобства разработчиков и операторов Amazon EKS.

Развертывайте и масштабируйте автономные ИИ-агенты на Amazon EKS, используя SDK Strands Agents с открытым исходным кодом или любую другую агентскую платформу. Эта стратегия дает вам полный контроль над инфраструктурой агентов, позволяя использовать любые модели и настраивать реализацию. EKS обеспечивает возможности промышленного уровня, необходимые для работы контейнерных агентов ИИ с высокой доступностью и масштабируемостью.

Изучите основы создания и развертывания агентов ИИ на EKS. Узнайте об SDK Strands Agents и о том, как он упрощает разработку агентов: те же принципы можно применить к любой другой платформе. Изучите реальный пример приложения прогноза погоды, чтобы понять, как простой агент может интегрироваться с внешними API, обрабатывать потоковую передачу ответов и запросы на естественном языке. В этом примере демонстрируются такие важные понятия, как системные подсказки, интеграция инструментов и рабочие процессы API, которые потребуются вам при развертывании агентов на EKS.

Изучите наше пошаговое руководство по развертыванию агентов из SDK Strands Agents на Amazon EKS. Узнайте, как разместить агенты в контейнерах, настроить адреса FastAPI, реализовать потоковую передачу ответов и упаковать приложение с помощью Docker. Используйте наш пример проекта, чтобы разобраться с такими основными понятиями, как настройка автоматического режима EKS, развертывания Helm и базовое тестирование. В этом руководстве используется SDK Strands, однако рассмотренные принципы применимы к развертыванию любых агентов в контейнерах на EKS.

Научитесь управлять развертываниями агентов и масштабировать их в рабочей среде. Внедрите автомасштабирование для управления различными рабочими нагрузками, обеспечьте высокую доступность за счет конфигураций резервного копирования и переключения и настройте комплексный мониторинг с помощью Аналитики контейнеров CloudWatch. Изучите наши рекомендации EKS по запуску рабочих нагрузок искусственного интеллекта и машинного обучения, чтобы обеспечить безопасность и наблюдаемость инфраструктуры агентов. Посетите наш семинар для самостоятельного изучения по агентному ИИ на EKS, в котором приводятся пошаговые инструкции по развертыванию агентов ИИ в нужных масштабах.

Выведите разработку в Kubernetes на новый уровень, предоставив ИИ-помощникам по программированию все необходимые инструменты и ресурсы в реальном времени через сервер MCP для Amazon EKS. Агенты ИИ смогут напрямую взаимодействовать с вашими кластерами EKS на естественном языке, используя контекстные инструкции и автоматизацию. Агенты ИИ помогают оптимизировать операции Kubernetes – от создания кластера до устранения неполадок, четко следуя рекомендациям AWS.

Узнайте, как разные серверы MCP для AWS упрощают взаимодействие ИИ-моделей с сервисами и ресурсами AWS. Изучите руководство по серверу MCP для EKS, чтобы узнать, как агенты ИИ могут помочь автоматизировать стандартные рабочие задачи: от управления кластером до диагностики и устранения неполадок. Подготовьте среду разработки к использованию ИИ-помощников, таких как CLI Amazon Q для разработчиков CLI или Cline, за счет интеграции серверов MCP для EKS.

Изучите наше пошаговое руководство по оптимизации операций Kubernetes с помощью сервера MCP для Amazon EKS. Научитесь использовать команды на естественном языке для контейнеризации и развертывания приложений в EKS. Посмотрите эту демонстрацию, чтобы узнать больше о том, как агенты ИИ помогают создавать манифесты Kubernetes, управлять ресурсами кластера и автоматизировать рабочие процессы развертывания благодаря инструментам сервера MCP для EKS.

Ознакомьтесь с нашим пошаговым руководством по устранению неполадок с помощью ИИ на сервере MCP для Amazon EKS, чтобы узнать, как агенты ИИ помогают отслеживать работоспособность приложений и решать типичные проблемы. На практических примерах устранения сбоев подов и проблем инфраструктуры вы научитесь использовать запросы на естественном языке для проверки метрик CloudWatch, анализа журналов и диагностики неполадок. Это практическое руководство демонстрирует, как ИИ может помочь вам использовать Amazon CloudWatch и другие сервисы AWS для поддержания работоспособности приложений на EKS.

Сфера применения генеративного искусственного интеллекта постоянно растет — организации создают, развертывают и масштабируют всевозможные рабочие нагрузки ИИ и машинного обучения для различных сценариев использования: от обучения распределенных моделей до тонкой настройки и крупномасштабных развертываний логических выводов. Такие клиенты, как Anthropic и Adobe, выбирают Amazon EKS, чтобы получить точный контроль над вычислительными ресурсами, не жертвуя операционной эффективностью. Ознакомьтесь с этим руководством, чтобы узнать, почему клиенты выбирают EKS для поддержки ИИ и машинного обучения в таких сферах, как обучение и развертывание моделей, дополненная извлеченными данными генерация Retrieval (RAG) и логические выводы.

Amazon EKS дает вам возможность развертывать систему вывода промышленного уровня с поддержкой оптимизации графических процессоров, обслуживания нескольких моделей и автоматического масштабирования. Организации могут использовать имеющийся опыт работы с EKS для быстрого развертывания рабочих нагрузок логических выводов и управления ими наряду с другими приложениями. Благодаря интеграции с инструментами с открытым исходным кодом и широкому выбору ускорителей на AWS такие компании, как Vannevar Labs и Omi, добились значительного снижения затрат и повышения производительности, сохранив согласованность работы всей инфраструктуры.

Изучите основы инфраструктуры и архитектуры для развертывания рабочих нагрузок логического вывода на EKS в этом руководстве по решению, посвященном таким важным темам, как поддержка графических процессоров, шаблоны предоставления моделей и оптимизация ресурсов. Изучите проект ИИ на EKS с открытым исходным кодом, который содержит готовые к развертыванию схемы, включая настройку масштабируемого сервиса выводов LLM с шаблонами инфраструктуры как кода для рабочего развертывания.

Чтобы создать кластер EKS, оптимизированный для рабочих нагрузок вывода, изучите наши рекомендации по настройке кластера для получения логических выводов в реальном времени. Развертывайте модели с помощью готового набора схем вывода ИИ для EKS, который включает схемы Helm и шаблоны инфраструктуры как кода для популярных платформ, таких как vLLM и NVIDIA Triton. Если вы работаете с традиционными рабочими нагрузками машинного обучения, ознакомьтесь с руководством для разработчиков контейнеров глубокого обучения на AWS, посвященным логическим выводам на базе ЦП и графических процессоров, в котором вы также найдете схемы развертывания.

Посетите наши практические семинары по развертыванию рабочих нагрузок логического вывода на EKS, посвященные разным ускорителям: семинар по NVIDIA, посвященный получению выводов на базе графических процессоров, и семинар по AWS Neuron, посвященный использованию ускорителей Inferentia и Trainium. Оба семинара включают такие важные темы, как настройка плагинов для устройств, управление ресурсами и мониторинг. Ознакомьтесь с подробными рекомендациями EKS по рабочим нагрузкам ИИ и машинного обучения, чтобы убедиться, что ваше развертывание вывода соответствует проверенным схемам организации вычислений, сетей, хранения данных и наблюдаемости. Эти руководства пригодятся вам на всех этапах работы с архитектурой логических выводов на EKS и ее развития.

Только начинаете работать с Amazon EKS? Следуйте инструкциям в этом руководстве и создайте свой первый кластер Kubernetes всего за несколько минут.

С помощью Amazon EKS можно настраивать и запускать контейнеры за считаные минуты, выполнив вход в консоль управления AWS.

Узнайте, как работает сервис Amazon EKS, посмотрев серию видео Containers from the Couch и канал блога Containers.

Узнайте, как развертывать рабочие нагрузки и дополнения на Amazon EKS с помощью примеров развертывания для Linux и Windows.