Linux 6.12 migliorerà le prestazioni degli acceleratori IA

Tra i nuovi aggiornamenti ultimamente inviati per la cosiddetta “finestra di unione” di Linux 6.12, che ricordiamo essere quel periodo in cui vengono caricate nella build del kernel tutte le modifiche a cui gli sviluppatori, che collaborano al progetto, hanno lavorato, la più interessante è la funzionalità Device Memory TCP, che riguarda la gestione degli acceleratori IA collegati in rete.

Linux 6.12: pronta l’implementazione della funzionalità Device Memory TCP

Il lavoro per la funzionalità Device Memory TCP, destinata a essere integrata in Linux 6.12, è stato guidato negli ultimi anni dagli ingegneri Google. Si tratta di un sistema che permette di passare direttamente dalla rete alla memoria del dispositivo ed è quindi molto utile nell’utilizzo di acceleratori IA, dato che permette di sfruttare in maniera notevolmente più efficiente la loro memoria, senza dover prima copiare i dati in un buffer di memoria host. Ciò consentirà di migliorare notevolmente le prestazioni di hardware di tipologia GPU/TPU, e altri acceleratori simili, solitamente utilizzati nei grandi sistemi di elaborazione.

Adesso che il codice della funzionalità è abbastanza maturo, Device Memory TCP è stato aggiunto alla serie di modifiche del nuovo kernel che riguardano la rete. Un ingegnere ne spiega anche brevemente e nel dettaglio il funzionamento:

“Il nuovo codice supporta ora Device Memory TCP, nonché la capacità di copiare in modalità zero-copy i payload TCP ricevuti in una regione DMABUF della memoria mentre le intestazioni dei pacchetti vengono salvate separatamente nei normali buffer del kernel e i processi TCP vengono quindi eseguiti come di consueto.”

Oltre al supporto per la funzionalità Device Memory TCP, sempre per quanto riguarda la rete Linux 6.12 includerà anche il supporto IPv6 IOAM6, migliorie alle prestazioni del percorso di controllo IPsec. Il codice NVIDIA Mellanox supporta ora le tabelle di sterzo direttamente gestite dall’hardware, il driver AMD Pensando può invece utilizzare il pool di pagine per aumentare notevolmente le prestazioni di ricezione.

Inoltre, come abbiamo già anticipato nel nostro articolo, la nuova versione del kernel supporterà anche la sovrapposizione dei permessi ARM.