- Amazon EC2›
- Tipi di istanza›
- Istanze DL1
Istanze DL1 di Amazon EC2
Costo di addestramento ridotto per i modelli di Deep Learning
Perché scegliere le istanze Amazon EC2 DL1?
Le istanze DL1 di Amazon EC2 con tecnologia degli acceleratori Gaudi di Habana Labs (una società Intel) forniscono modelli di Deep Learning con costi di addestramento ridotti per i casi d'uso di elaborazione del linguaggio naturale, individuazione di oggetti e riconoscimento di immagini. Le istanze DL1 offrono un rapporto tra prezzo e prestazioni superiore del 40% rispetto alle attuali istanze EC2 basate su GPU per l'addestramento di modelli di Deep Learning.
Le istanze DL1 di Amazon EC2 dispongono di 8 acceleratori Gaudi, ciascuno con una memoria ad alta larghezza di banda (HBM) da 32 GB, una memoria di sistema da 768 GiB, processori personalizzati Intel Xeon scalabili di seconda generazione, una velocità effettiva di rete di 400 GB al secondo e 4 TB di archiviazione locale NVMe.
Le istanze DL1 includono l'Habana SynapseAI® SDK integrato con i migliori framework di machine learning come TensorFlow e PyTorch.
Puoi avviare facilmente le istanze DL1, utilizzando le AMI di AWS Deep Learning o gli AWS Deep Learning Containers o Amazon EKS ed ECS per le applicazioni containerizzate. Il supporto per le istanze DL1 su Amazon SageMaker arriverà presto.
Panoramica video sulle nuove istanze Amazon EC2 DL1
Vantaggi
Caratteristiche
Le istanze DL1 sono basate su AWS Nitro System, una ricca raccolta di componenti di base che trasferisce molte delle tradizionali funzioni di virtualizzazione su hardware e software dedicati per offrire prestazioni elevate, alta disponibilità e sicurezza, riducendo al contempo il sovraccarico della virtualizzazione.
Dettagli prodotto
|
Instance Size
|
vCPU
|
Instance Memory (GiB)
|
Gaudi Accelerators
|
Network Bandwidth (Gbps)
|
Accelerator Peer-to-Peer Bidirectional (Gbps)
|
Instance Storage (GB)
|
EBS Bandwidth (Gbps)
|
On-demand (Price/Hr)
|
1-yr Reserved Instance Effective Hourly
|
3-yr Reserved Instance Effective Hourly*
|
|---|---|---|---|---|---|---|---|---|---|---|
|
dl1.24xlarge
|
96 |
768 |
8 |
400 |
100 |
4 x 1000
|
19 |
13,11 USD |
7,87 USD |
5,24 USD |
*I prezzi mostrati sono validi nelle seguenti regioni: Stati Uniti orientali (Virginia settentrionale) e Stati Uniti occidentali (Oregon).
Seagate
Seagate Technology è stata un leader mondiale per 40 anni offrendo soluzioni di archiviazione e gestione dati. Gli ingegneri di data science e machine learning di Seagate hanno creato un sistema avanzato di rilevamento dei difetti con deep learning (DL) e lo hanno implementato a livello globale in tutti gli stabilimenti di produzione dell'azienda. In un recente progetto di Proof of concept, Habana Gaudi ha superato gli obiettivi prestazionali nell'addestramento di uno dei modelli DL di segmentazione semantica utilizzato attualmente nella produzione di Seagate.
«Prevediamo che il significativo vantaggio in termini di prezzo e prestazioni delle istanze Amazon EC2 DL1, alimentate dagli acceleratori Habana Gaudi, possa costituire un'interessante aggiunta futura ai cluster di calcolo AWS. Mentre Habana Labs continua ad evolversi permettendo una maggiore copertura degli operatori, c'è il potenziale per espandersi verso ulteriori casi d'uso aziendali e quindi ottenere un ulteriore risparmio sui costi".
Leidos
Leidos è uno dei primi 10 fornitori di IT per la sanità e offre una vasta gamma di soluzioni personalizzabili e scalabili per ospedali, sistemi sanitari e organizzazioni biomediche, nonché per tutte le agenzie federali degli Stati Uniti che si occupano di salute.
«Una delle numerose tecnologie che stiamo abilitando per far progredire l'assistenza sanitaria oggi è l'uso dell'apprendimento automatico e del deep learning per la diagnosi delle malattie basata sui dati di imaging medico. I nostri enormi set di dati necessitano di un addestramento tempestivo ed efficiente per aiutare i ricercatori che stanno cercando di risolvere alcuni degli urgenti casi medici più misteriosi. Considerata la necessità per Leidos e per i suoi clienti di un addestramento rapido, semplice ed economicamente sostenibile per i modelli di Deep Learning, siamo entusiasti di aver iniziato questo viaggio insieme a Intel e AWS per utilizzare le istanze DL1 di Amazon EC2 basate sui processori Habana Gaudi AI. Utilizzando le istanze DL1, prevediamo un aumento della velocità e dell'efficienza dell'addestramento dei modelli, con una conseguente riduzione del rischio e dei costi di ricerca e sviluppo. »
Intel
Intel ha creato una tecnologia di tracciamento 3D dell'atleta che analizza in tempo reale i video dell'atleta in azione per informare i processi di addestramento delle prestazioni e migliorare l'esperienza del pubblico durante le gare.
«L'addestramento dei nostri modelli su istanze Amazon EC2 DL1, alimentate dagli acceleratori Gaudi di Habana Labs, ci consentirà di elaborare in modo accurato e affidabile migliaia di video e generare dati sulle prestazioni associati, riducendo al contempo i costi di formazione. Con le istanze DL1, ora possiamo allenarci alla velocità e ai costi necessari per servire in modo produttivo atleti, squadre ed emittenti di tutti i livelli in una varietà di sport. »
Combustibile a rischio
RiskFuel fornisce valutazioni in tempo reale e sensibilità al rischio alle società che gestiscono portafogli finanziari, aiutandole ad aumentare la precisione e le prestazioni del trading.
«Due fattori ci hanno portato alle istanze Amazon EC2 DL1 basate sugli acceleratori AI Habana Gaudi. Prima di tutto volevamo essere sicuri che i nostri clienti delle assicurazioni e delle banche potessero eseguire i modelli Riskfuel che sfruttano gli hardware più recenti. Per fortuna migrare i nostri modelli verso le istanze DL1 è stato semplice e intuitivo, davvero, si è trattato solo di cambiare alcune linee di codice. In secondo luogo, i costi di formazione sono una componente importante della nostra spesa e la promessa di un miglioramento fino al 40% dell'andamento dei prezzi offre un vantaggio potenzialmente sostanziale ai nostri profitti. »
Fractal
Fractal è un leader mondiale nel campo dell'intelligenza artificiale e dell'analisi dei dati, migliorando le scelte delle società Fortune 500.
«L'intelligenza artificiale e il deep learning sono al centro della nostra capacità di visione artificiale, consentendo ai clienti di prendere decisioni migliori in tutti i settori in cui operiamo. Per migliorare la precisione, i set di dati stanno diventando più grandi e complessi e necessitano di modelli più grandi e complessi. Questo sta spingendo la necessità di prestazioni e prezzi di calcolo migliorati. Le nuove istanze DL1 di Amazon EC2 promettono una riduzione significativa dei costi di addestramento rispetto alle istanze EC2 basate su GPU. Ci aspettiamo che ciò renda la formazione dei modelli di intelligenza artificiale sul cloud molto più competitiva in termini di costi e accessibile rispetto a prima per un'ampia gamma di clienti. »
Nozioni di base
Gli AWS Deep Learning AMI (DLAMI) e gli AWS Deep Learning Containers (DLC)
Amazon Elastic Kubernetes Service (EKS) o Elastic Container Service (ECS)
Hai trovato quello che cercavi?
Facci sapere la tua opinione in modo da migliorare la qualità dei contenuti delle nostre pagine