Amazon SageMaker AI unterstützt jetzt Instance-Präferenzlisten für Trainings- und Verarbeitungsaufträge.
Amazon SageMaker AI kündigt heute Instance-Präferenzlisten für Trainings- und Verarbeitungsaufträge an, sodass Sie einfacher und schneller Rechenkapazität für Ihre Workloads finden können. Viele Workloads für KI-Training, Feinabstimmung und Datenverarbeitung lassen sich auf allen Instance-Typen oder -Größen vergleichsweise gut ausführen. Bisher mussten Sie jedoch zum Zeitpunkt der Auftragsübermittlung einen einzigen Instance-Typ benennen und warten, bis SageMaker diese spezielle Instance für Ihren Auftrag gefunden hatte. Bei GPUs mit hoher Nachfrage in Spitzenzeiten mit unvorhersehbaren Wartezeiten mussten Kunden manchmal eine komplexe Wiederholungslogik erstellen oder mehrere Jobs mit unterschiedlichen Instance-Typen gleichzeitig einreichen, um die erste verfügbare Option zu finden. Jetzt können Sie einfach eine priorisierte Liste der Instance-Typen angeben, die Ihr Workload akzeptiert, und SageMaker führt Ihren Auftrag automatisch mit der ersten verfügbaren Konfiguration aus, die Ihren Einstellungen entspricht. Mit dieser Lösung wird Ihr Trainings- oder Verarbeitungsauftrag wahrscheinlich früher ausgeführt werden.
Um diese Funktion nutzen zu können, geben Sie beim Übermitteln des Trainings- oder Verarbeitungsauftrags Ihre Einstellungen für den Instance-Typ und die Anzahl der Instances in der Reihenfolge der Priorität an. Ihre Liste könnte beispielsweise eine Präferenz von zwei Instances von ml.g6.48xlarge oder vier Instanzen von ml.g5.48xlarge enthalten. SageMaker geht die Liste durch und startet Ihren Auftrag mit der ersten Konfiguration, bei der Kapazität verfügbar ist. Sie können auch die Kapazitätsbeschaffung aus On-Demand-Quellen oder aus Ihren reservierten flexiblen SageMaker-Trainingsplänen innerhalb derselben Auftragsübermittlung konfigurieren. Diese Funktion vereinfacht in Zeiten hoher Nachfrage das Abrufen von Rechenleistung für Ihre Aufträge und reduziert die undifferenzierten manuellen Wiederholungsversuche, die Sie sonst durchführen würden, und das alles innerhalb der SageMaker-APIs für Trainings- und Verarbeitungsjobs, die Sie bereits verwenden.
Instance-Präferenzlisten für SageMaker-Trainings- und Verarbeitungsaufträge sind heute in allen AWS-Regionen verfügbar, in denen SageMaker über die SageMaker-CLIs, APIs, SDKs und die Konsolen-UI verfügbar ist. Weitere Informationen finden Sie in unserer Dokumentation oder in unserem Launch-Blog.