Amazon SageMaker AI теперь поддерживает списки предпочтений инстансов для обучения и обработки заданий
Сегодня Amazon SageMaker AI объявляет о списках предпочтений инстансов для заданий обучения и обработки, что упрощает и ускоряет поиск вычислительных ресурсов для рабочих нагрузок. Многие рабочие нагрузки по обучению ИИ, точной настройке и обработке данных одинаково хорошо работают на инстансах любого типа или размера. Однако раньше при отправке задания нужно было назвать только один тип инстанса за раз и ждать, пока SageMaker найдет именно тот конкретный инстанс для вашего задания. Для высокопроизводительных графических процессоров в пиковые периоды, когда время ожидания может быть непредсказуемым, клиентам иногда приходилось создавать сложную логику повторных попыток или одновременно отправлять несколько заданий на разных типах инстансов, чтобы найти первый доступный вариант. Теперь вы можете просто предоставить приоритетный список типов инстансов, принимаемых вашей рабочей нагрузкой, и SageMaker автоматически выполнит задание в первой доступной конфигурации в соответствии с вашими предпочтениями. С помощью этого решения ваше задание по обучению или обработке, скорее всего, начнется раньше.
Чтобы использовать эту функцию, вы указываете предпочтения в отношении типа и количества инстансов в порядке приоритета при отправке задания на обучение или обработку. Например, ваш список может содержать два инстанса ml.g6.48xlarge или четыре инстанса ml.g5.48xlarge. SageMaker просматривает список и запускает задание в первой конфигурации, в которой будет доступна емкость. Вы также можете настроить получение вычислительной емкости из источников по запросу или из зарезервированных гибких планов обучения SageMaker в рамках одной и той же отправки задания. Эта функция упрощает процесс получения вычислительных ресурсов для выполнения заданий в периоды высокой нагрузки и сокращает количество однотипных повторных попыток выполнения заданий вручную, которые в противном случае вам пришлось бы выполнять, — все это в рамках уже используемых API SageMaker для обучения и обработки заданий.
Списки предпочтений инстансов для заданий по обучению и обработке SageMaker сегодня предлагаются во всех регионах AWS, в которых SageMaker доступен через интерфейс командной строки SageMaker, API, пакеты SDK и пользовательский интерфейс Консоли. Чтобы узнать больше, ознакомьтесь с нашей документацией или нашим блогом по запуску.