DeepSeek V3, nuovo modello AI funziona anche su PC domestici

DeepSeek ha rilasciato a sorpresa su Hugging Face il suo nuovo modello AI DeepSeek-V3-0324, con una licenza MIT che permette l’uso commerciale gratuito.

DeepSeek V3 disponibile gratis: ora funziona anche su hardware domestico

La vera novità di DeepSeek-V3-0324 è la sua capacità di funzionare su dispositivi consumer senza bisogno di infrastrutture gigantesche. Un esempio? Può girare su un Mac Studio con chip M3 Ultra. Questo dimostra che non servono più server dedicati per sfruttare un modello AI avanzato. DeepSeek-V3 da 641 gigabyte può raggiungere una velocità di elaborazione di oltre 20 token al secondo su un semplice computer desktop. Un approccio agli antipodi rispetto ai modelli tradizionali.

I primi test interni hanno dato risultati entusiasmanti: DeepSeek-V3-0324 sembra superare tutti i modelli concorrenti. Persino il temibile Claude Sonnet 3.5 di Anthropic è stato battuto sui compiti non di ragionamento. E il bello è che, mentre Sonnet richiede un abbonamento, V3 è completamente gratuito.

DeepSeek-V3-0324 usa un trucco intelligente per ridurre il carico di lavoro senza perdere in potenza. Invece di attivare tutti i suoi 685 miliardi di parametri, ne utilizza solo 37 miliardi alla volta, scegliendo quelli più adatti al compito richiesto. Inoltre, due tecnologie avanzate – Multi-Head Latent Attention (MLA) e Multi-Token Prediction (MTP) – aiutano il modello a ricordare meglio le informazioni e a generare risposte più velocemente. Risultato? Un’AI più efficiente, capace di funzionare su hardware meno potente senza sacrificare la qualità.

Come provare il nuovo modello DeepSeek V3

Chi vuole provare DeepSeek-V3-0324, ha l’imbarazzo della scelta: si può acceder tramite Hugging Face, l’API e l’interfaccia chat di OpenRouter, la piattaforma chat di DeepSeek e persino il provider di inferenza Hyperbolic Labs.