Mistral rilascia nuovi modelli AI per PC portatili e smartphone

La startup francese Mistral ha introdotto una nuova gamma di modelli di intelligenza artificiale generativa, chiamata “Les Ministraux”, appositamente progettati per funzionare su dispositivi edge come PC portatili e smartphone. Questi modelli possono essere impiegati in una vasta gamma di applicazioni, dalla semplice generazione di testo alla collaborazione con modelli più avanzati per il completamento di attività complesse.

I nuovi modelli AI di Mistral leggeri ottimizzati per funzionare su laptop, smartphone e altri dispositivi portatili

Les Ministraux comprende due modelli AI: Ministral 3B e Ministral 8B, entrambi dotati di una finestra di contesto di 128.000 token, equivalente a circa 50 pagine di un libro. Mistral sottolinea che questi modelli sono stati sviluppati per fornire un’inferenza locale e basata sulla privacy per applicazioni critiche come la traduzione on-device, assistenti intelligenti offline, analisi locale e robotica autonoma.

Ministral 8B è già disponibile per il download, ma solo a scopi di ricerca, mentre per l’utilizzo commerciale di entrambi i modelli è necessario richiedere una licenza a Mistral. Ministral 8B costa 10 centesimi per milione di token di output/input (~750.000 parole), mentre Ministral 3B costa 4 centesimi per milione di token di output/input.

La tendenza verso modelli AI di dimensioni ridotte

L’introduzione di Les Ministraux si inserisce in una tendenza sempre più diffusa nel settore dell’AI, che vede la crescente popolarità di modelli di dimensioni ridotte, che sono più economici e veloci da addestrare, perfezionare ed eseguire rispetto alle loro controparti più grandi. Anche giganti del settore come Google, Microsoft con Phi-3 e Meta stanno ampliando le loro offerte di modelli di piccole dimensioni, ottimizzati per i dispositivi portatili.

Mistral punta a competere con i modelli di punta

Fondata da ex allievi di Meta e DeepMind di Google, Mistral ha recentemente raccolto 640 milioni di dollari in capitale di rischio e punta a creare modelli di intelligenza artificiale in grado di competere con i migliori attualmente disponibili, come GPT-4 di OpenAI e Claude di Anthropic.

L’azienda sta gradualmente ampliando il proprio portafoglio di prodotti, che include un servizio gratuito per gli sviluppatori, un SDK per il perfezionamento dei modelli e nuovi modelli come Codestral, specifico per la generazione di codice. Nonostante la difficoltà di generare entrate, un classico delle startup di AI generativa, Mistral ha riportato di aver iniziato a registrare i primi ricavi nell’estate del 2023.