AMD ROCm 6.3: le novità dell'ultima versione dello stack

AMD ROCm 6.3 è l’ultima versione dello stack destinato alla programmazione di GPU, pubblicato in versione gratuita e open source, nonché distribuito con varie licenze e basato su alcuni precedenti stack dell’azienda, con alcuni strumenti risalenti a GPUOpen e a Heterogeneus System Architecture.

La nuova versione, lanciata da poco tramite la pagina dedicata su GitHub, apporta diverse novità che mirano ulteriormente a ottimizzare gli strumenti a disposizione, con un beneficio diretto sulle prestazioni e le funzionalità messe a disposizione.

AMD ROCm 6.3: le novità dell’imminente nuova versione dello stack

Le novità della nuova versione di AMD ROCm 6.3 cominciano dal nuovo runtime SGLang, creato apposta per ottimizzare l’inferenza di modelli generativi moderni come LLM e VLM sulle GPU AMD Instinct per uso aziendale. Con l’uso di questo nuovo runtime è possibile ottenere prestazioni fino 6 volte superiori per quanto riguarda questi ambiti, stando a quanto dichiarato dall’azienda nell’annuncio.

Ad aumentare le prestazioni c’è anche FlashAttention-2, il componente dedicato all’addestramento dell’IA con benefici 3 volte superiori alla prima versione e lunghezze di sequenza estese, per un utilizzo più efficiente della memoria per semplificare la gestione delle sequenze più lunghe.

AMD ROCm 6.3 introduce anche un nuovo compilatore Fortran con offload diretto della GPU, per accelerare ulteriormente le principali applicazioni scientifiche, che sarà anche compatibile con le vecchie versioni, offrendo altri vantaggi. A ciò si aggiunge un nuovo FFT multi-nodo, all’interno di rocFFT, pensato per consentire flussi di lavori per i calcoli FFT distribuiti ad alte prestazioni.

Oltre a ciò, la nuova versione dello stack aggiunge il supporto al codec AV1, ormai ampiamente diffuso per la codifica e l’elaborazione dei contenuti multimediali, in questo caso all’interno di rocDecode e rocPyDecode. Con il supporto per il nuovo codec viene anche accelerata la codifica delle immagini JPEG tramite la libreria rocJPEG, nonché migliorata l’elaborazione dell’audio con rocAL.

AMD ROCm 6.3 è disponibile al download su GitHub, insieme ad altri componenti dello stack.