L'Instinct MI300X di AMD è un potente acceleratore per l'IA, costruito sull'architettura CDNA di terza generazione dell'azienda e sui avanzati processi a 5 e 6 nm di TSMC. Dispone di 19.456 stream processor, 192 GB di memoria HBM3, 304 unità di calcolo, 1.216 core di matrice e un TDP (Thermal Design Power) di 750 watt. In uno dei primi test di benchmark, ha superato nettamente la RTX 4090 di Nvidia.
Vultr, una importante piattaforma di cloud computing privato, ha annunciato l'intenzione di integrare l'hardware ad alte prestazioni di AMD nella sua infrastruttura cloud scalabile. L'obiettivo è gestire in modo più efficace i carichi di lavoro accelerati dalle GPU, offrendo prestazioni fluide sia nei data center che nell'edge computing.
“L'innovazione prospera in un ecosistema aperto”, ha dichiarato J.J. Kardwell, CEO di Vultr. “Il futuro dei carichi di lavoro AI aziendali si trova in ambienti aperti che offrono flessibilità, scalabilità e sicurezza. Gli acceleratori AMD garantiscono ai nostri clienti un rapporto costo/prestazioni senza precedenti. L'equilibrio tra elevate capacità di memoria e bassi requisiti energetici promuove la sostenibilità e fornisce ai nostri clienti gli strumenti per guidare in modo efficiente l'innovazione e la crescita attraverso l'IA.”
Collaborazione Vultr-AMD: potenziare lo sviluppo dell'IA per le imprese
La collaborazione tra Vultr e AMD ha l’obiettivo di offrire alle imprese l'accesso a un ambiente di sviluppo per l'IA di livello mondiale. L'architettura di AMD, combinata con la piattaforma di Vultr, permetterà alle aziende di lavorare con modelli pre-addestrati open-source, semplificando così lo sviluppo dei progetti di intelligenza artificiale.
"Siamo orgogliosi della nostra stretta collaborazione con Vultr, poiché la sua piattaforma cloud è progettata per gestire attività di formazione e inferenza dell'IA ad alte prestazioni, offrendo una maggiore efficienza complessiva", ha dichiarato Negin Oliver, corporate vice president of business development della Data Center GPU Business Unit di AMD.
"Con l'adozione degli acceleratori AMD Instinct MI300X e del software open-source ROCm per queste nuove implementazioni, i clienti di Vultr beneficeranno di un sistema realmente ottimizzato per gestire una vasta gamma di carichi di lavoro ad alta intensità di IA".
Questa partnership ottimizza anche l'infrastruttura di Vultr per i cluster Kubernetes accelerati dalle GPU, capaci di gestire carichi di lavoro complessi a livello globale. Vultr non ha rivelato il numero esatto di unità Instinct MI300X ordinate, limitandosi a dire che il cluster iniziale è composto da "migliaia" di unità.
