Opera One può usare localmente oltre 150 modelli IA

Opera One è stato il primo browser con intelligenza artificiale (la versione stabile è disponibile da giugno 2023). Opera One è diventato oggi anche il primo browser che permette di scaricare e usare localmente oltre 150 modelli di IA generativa. Al momento, questa novità è disponibile nella versione Developer.

Chatbot con diversi modelli IA

Opera One integra nativamente il modello Aria basato su GPT di OpenAI. La software house norvegese offre ora numerose alternative. La versione Developer del browser permette di scegliere tra oltre 150 varianti LLM (Large Langue Model) di circa 50 famiglie. Ovviamente sono tutti modelli open source, tra cui Llama di Meta, Gemma di Google e Mixtral di Mistral AI.

L’uso locale offre diversi vantaggi. Non viene inviato nessun dato ai server, in quanto non c’è nessun accesso al cloud. Inoltre si ottiene un incremento delle prestazioni, in particolare una diminuzione dei tempi di attesa (latenza) per le risposte. Ci sono però anche svantaggi. L’esecuzione richiede un computer abbastanza recente per evitare un’eccessiva lentezza dell’output. È inoltre necessario avere spazio su disco, in quanto un modello può occupare fino a 10 GB.

Come detto, il supporto sperimentale è stato aggiunto alla versione Developer. Per scaricare un modello è sufficiente aprire la barra laterale di Aria Chat, scegliere la modalità locale nelle impostazioni e cercare il modello (o sfogliare l’elenco). Prima di iniziare una chat si deve scegliere la modalità locale e quindi il modello.

La fonte dei modelli è la libreria Ollama, ma in futuro verranno aggiunte altre fonti. Tra i modelli c’è anche Code Llama, un’estensione di Llama per la generazione di codice.