L’uso dell’intelligenza artificiale è aumentata in maniera esponenziale, ma i sistemi IA integrano componenti hardware non adatti ad elaborare l’enorme quantità di dati. L’addestramento dei modelli di IA generativa richiede server con migliaia di GPU dedicate che consumano molta energia e acqua. IBM ha progettato un nuovo chip, denominato NorthPole, che offre prestazioni ed efficienza superiori.
IBM NorthPole: chip IA efficiente
Fin dalla nascita dell’industria dei semiconduttori è stata seguita l’architettura di Von Neumann, in cui CPU e memoria sono unità di elaborazione distinte. Ciò ha accentuato il “collo di bottiglia” dovuto alla differenza di velocità tra CPU e memoria, incrementando lo spreco di tempo ed energia.
I ricercatori di IBM hanno completamente abbandonato l’architettura di Von Neumann, progettando il nuovo chip NorthPole che esegue i calcoli di inferenza delle reti neurali (non è quindi un processore general purpose). Il prototipo, realizzato a 12 nanometri, permette di effettuare il riconoscimento delle immagini e la rilevazione degli oggetti ad una velocità superiore e soprattutto con consumi inferiori rispetto alle più avanzate GPU moderne a 4 nanometri.
NorthPole integra 22 miliardi di transistor e occupa 800 millimetri quadrati (nell’immagine è saldato su una scheda PCI Express). Ha 256 core e può eseguire 2.048 operazioni per ciclo di clock per core con precisione di 8 bit. L’incremento di prestazioni e la riduzione dei consumi sono stati ottenuti eliminando il collo di bottiglia di Von Neumann. La memoria è infatti integrata in ogni core, quindi non è separata.
NorthPole non ha bisogno di un sistema di raffreddamento a liquido, ma solo di dissipatori e ventole. Uno degli svantaggi è che non può eseguire modelli IA di grandi dimensioni, come GPT-4, in quanto la dotazione di memoria non è sufficiente. Può essere però utilizzato per il riconoscimento di voce, immagini e video.
Ti potrebbe interessare
23 ott 2023