O Amazon SageMaker AI agora oferece suporte a listas de preferências de instâncias para trabalhos de treinamento e processamento
Hoje, o Amazon SageMaker AI anuncia listas de preferências de instâncias para trabalhos de treinamento e processamento, tornando mais fácil e rápido encontrar capacidade computacional para suas workloads. Muitas workloads de treinamento, ajuste fino e processamento de dados de IA funcionam comparativamente bem em qualquer um dos vários tipos ou tamanhos de instância. No entanto, anteriormente, você precisava nomear apenas um tipo de instância no momento do envio do trabalho e esperar que o SageMaker encontrasse essa instância específica para o seu trabalho. Para GPUs de alta demanda durante períodos de pico, em que os tempos de espera podem ser imprevisíveis, os clientes às vezes precisavam criar uma lógica complexa de repetição ou enviar simultaneamente vários trabalhos com diferentes tipos de instância para encontrar a primeira opção disponível. Agora você pode simplesmente fornecer uma lista priorizada dos tipos de instância que sua workload aceita, e o SageMaker executa automaticamente seu trabalho na primeira configuração disponível de acordo com suas preferências. Com essa solução, seu trabalho de treinamento ou processamento provavelmente começará mais cedo.
Para usar esse recurso, você especifica o tipo de instância e as preferências de contagem em ordem de prioridade ao enviar o treinamento ou o trabalho de processamento. Por exemplo, sua lista pode conter uma preferência de duas instâncias de ml.g6.48xlarge ou quatro instâncias de ml.g5.48xlarge. O SageMaker analisa a lista e inicia seu trabalho na primeira configuração em que a capacidade está disponível. Você também pode configurar o fornecimento de capacidade a partir de fontes sob demanda ou de seus planos de treinamento flexíveis reservados do SageMaker dentro do mesmo envio de trabalho. Esse recurso simplifica o processo de obtenção de computação para seus trabalhos durante períodos de alta demanda e reduz a repetição manual indiferenciada que você faria de outra forma, tudo dentro das APIs de treinamento e processamento de tarefas do SageMaker que você já usa.
As listas de preferências de instâncias para trabalhos de treinamento e processamento do SageMaker estão disponíveis hoje em todas as regiões da AWS onde o SageMaker está disponível por meio das CLIs, APIs, SDKs e interface do console do SageMaker. Para saber mais, consulte nossa documentação ou nosso blog de lançamento.