Meta annuncia il modello Llama 3.3 70B

Meta ha annunciato un altro modello di intelligenza artificiale generativa. Llama 3.3 70B offre prestazioni simili a quelle di Llama 3.1 405B, ma è più efficiente (costi di utilizzo inferiori). Mark Zuckerberg ha comunicato con un video su Instagram che il prossimo annuncio sarà Llama 4 e che Meta AI ha quasi 600 milioni di utenti mensili.

Llama 3.3 70B: modello ottimizzato

Meta offre attualmente tre modelli per un totale di sette versioni. Llama 3.1 (solo testo) è disponibile con 8 e 405 miliardi di parametri. Llama 3.2 è disponibile con 1 e 3 miliardi di parametri (solo testo, on-device) e 11 e 90 miliardi di parametri (multimodale). Infine, Llama 3.3 (solo testo) è disponibile con 70 miliardi di parametri.

Ahmad Al-Dahle, responsabile del gruppo GenAI di Meta, ha condiviso su X una tabella (pubblicata anche sul sito ufficiale) che mostra i risultati di alcuni benchmark. Nonostante le dimensioni ridotte, Llama 3.3 70B offre prestazioni simili a quelle di Llama 3.1 405B. Grazie all’uso di avanzate tecniche di post-training, il nuovo modello è ottimizzato al massimo, quindi ha un migliore rapporto performance/costo.

Llama 3.3 70B supera i concorrenti Nova Pro (Amazon), GPT-4o (OpenAI), Gemini Pro 1.5 (Google) e Claude 3.5 Sonnet (Anthropic) in alcuni test, ma vince nettamente sul fronte dei prezzi (API): solo 0,1 dollari per un milione di token in input e 0,4 dollari per un milione di token in output. Oltre che dal sito ufficiale può essere scaricato anche da Hugging Face.

Come tutti i modelli Llama è open source. Secondo Open Source Initiative non è vero perché l’azienda di Menlo Park obbliga alle piattaforme con più di 700 milioni di utenti mensili a chiedere una speciale licenza.

Mark Zuckerberg ha comunicato che questo è l’ultimo annuncio del 2024. Nel 2025 arriverà Llama 4. Per l’addestramento sono state utilizzate oltre 100.000 GPU H100 di NVIDIA. Meta ha avviato la costruzione di un data center da 10 miliardi di dollari in Louisiana per l’addestramento dei futuri modelli.

Il CEO ha inoltre annunciato che Meta AI ha quasi 600 milioni di utenti mensili (erano oltre 500 milioni a fine ottobre). Il chatbot non è ancora disponibile in Europa perché non rispetta il GDPR (ma le capacità base sono accessibili con gli occhiali smart Ray-Ban).