In occasione del DevDay 2024, OpenAI ha svelato una serie di novità pensate per semplificare la creazione di app AI avanzate da parte degli sviluppatori. Contrariamente alle aspettative, l’azienda non ha annunciato alcun nuovo modello durante l’evento, concentrandosi invece su quattro importanti aggiornamenti delle sue offerte esistenti.
Nuovi strumenti AI di OpenAI per gli svikuppatori al DevDay 2024
1. API Realtime
La prima novità riguarda il lancio in beta pubblica dell’API Realtime, che permetterà agli sviluppatori di integrare nelle loro app esperienze multimodali a bassa latenza, simili alla Modalità vocale avanzata di ChatGPT. Questa API consentirà conversazioni naturali speech-to-speech utilizzando sei voci preimpostate.
Per chi non necessita dei vantaggi in termini di latenza offerti dall’API Realtime, OpenAI ha annunciato anche l’introduzione dell’input e output audio nella Chat Completions API. I costi variano a seconda del tipo di token utilizzato, con l’input audio che costa circa 0,06 dollari al minuto e l’output audio 0,24 dollari al minuto.
2. Messa a punto della visione su GPT-4o
OpenAI ha inoltre annunciato la possibilità di effettuare il fine-tuning di GPT-4o utilizzando sia immagini che testo, aprendo la strada a miglioramenti in ambiti come la ricerca visiva, il rilevamento degli oggetti per i veicoli autonomi e l’analisi delle immagini mediche. Questa funzionalità è disponibile per tutti gli sviluppatori che utilizzano l’ultima versione del modello GPT-4o nei livelli di utilizzo a pagamento. L’azienda offre anche 1 milione di token di addestramento gratuiti al giorno fino al 31 ottobre 2024.
3. Supporto Prompt Caching
Un’altra novità è il supporto Prompt Caching, che consente agli sviluppatori di ridurre costi e latenza del 50% senza dover fare nulla per abilitarlo, poiché viene applicato automaticamente sulle ultime versioni di diversi modelli.
4. Model Distillation Suite per modelli più piccoli ed efficienti
Infine, OpenAI ha presentato la nuova suite Model Distillation, che permette agli sviluppatori di mettere a punto modelli più piccoli utilizzando i risultati di modelli di frontiera più grandi, eguagliandone le prestazioni su compiti specifici a un costo inferiore. La suite integra l’intera pipeline di distillazione direttamente nella piattaforma di OpenAI, semplificando un processo precedentemente complesso e frammentato.