Elon Musk è a capo di almeno sei aziende innovative: Tesla, SpaceX, Starlink, X (ex Twitter), Neuralink e xAI. Ma non gli basta… L’imprenditore, infatti, ha recentemente annunciato che xAI ha iniziato il più potente cluster di training AI al mondo, battezzato con il nome Memphis Supercluster, situato a Memphis, nel Tennessee. L’obiettivo è creare l’intelligenza artificiale più capace in assoluto entro dicembre di quest’anno.
Nice work by @xAI team, @X team, @Nvidia & supporting companies getting Memphis Supercluster training started at ~4:20am local time.
With 100k liquid-cooled H100s on a single RDMA fabric, it’s the most powerful AI training cluster in the world!
— Elon Musk (@elonmusk) July 22, 2024
Secondo l’emittente locale WREG, il supercluster si trova nella parte sud-occidentale della città e rappresenta il più grande investimento di capitale da parte di una nuova azienda nella storia di Memphis. Tuttavia, xAI deve ancora stipulare un contratto con l’ente locale Tennessee Valley Authority, responsabile della fornitura di elettricità ai progetti superiori a 100 megawatt.
Il potenziale del Memphis Supercluster
Il Memphis Supercluster è composto da 100.000 unità di elaborazione grafica (GPU) H100 raffreddate a liquido, i chip offerti da Nvidia a partire dall’anno scorso e molto richiesti dai fornitori di modelli di AI, compresi la rivale OpenAI. Musk ha sottolineato che il cluster opera su un singolo fabric RDMA (Remote Direct Memory Access), che consente un trasferimento di dati più efficiente e a bassa latenza tra i nodi di calcolo senza appesantire l’unità di elaborazione centrale (CPU).
Obiettivi Ambiziosi per xAI
xAI mira ad addestrare i propri LLM sul supercluster con l’obiettivo di offrire “l’AI più potente al mondo secondo ogni metrica” entro dicembre 2024. Musk ritiene che il Supercluster di Memphis fornirà un “vantaggio significativo” per raggiungere questo scopo.
Musk in passato ha più volte presentato pubblicamente progetti e obiettivi senza poi rispettare le scadenze annunciate, come nel caso dei robotaxi (la presentazione era prevista per l’inizio di agosto ed è slittata a ottobre) e del trasporto di persone su Marte. Per questo motivo, non è certo che la nuova intelligenza artificiale Grok sarà davvero pronta e presentata entro dicembre 2024. Tuttavia, se xAI ci riuscisse, darebbe un grande impulso agli sforzi dell’azienda.
Con OpenAI, Anthropic, Google, Microsoft e Meta che stanno tutti perseguendo LLM e SLM più potenti e convenienti, xAI dovrà presentare un modello davvero innovativo e utile per rimanere competitiva nella corsa all’AI.
Anche Microsoft e OpenAI lavorano a un supercomputer: Stargate
Secondo quanto riportato da The Information, Microsoft starebbe collaborando con Sam Altman, CEO di OpenAI, allo sviluppo di un supercomputer per l’addestramento dell’intelligenza artificiale del valore di 100 miliardi di dollari, con nome in codice Stargate. Se il progetto di Microsoft e OpenAI andasse in porto come previsto, il Supercluster Memphis di xAI, attualmente considerato il più potente al mondo (da Elon Musk), potrebbe essere presto superato e perdere questo primato.