Uno dei primi servizi IA offerti da Microsoft è stato GitHub Copilot circa un anno fa. È disponibile a 10 dollari/mese, ma questa cifra non permette all’azienda di Redmond di coprire i costi. Secondo il Wall Street Journal, l’intelligenza artificiale generativa è al momento un investimento in perdita.
IA generativa troppo costosa
È noto che l’addestramento dei modelli IA richiede centinaia di milioni di dollari. Servono infatti data center dedicati con numerosi server e migliaia di GPU (come le NVIDIA H100) che consumano quantità enormi di elettricità e acqua. Ma si devono considerare anche i costi dovuti all’aumento degli utenti che usano i servizi e quindi la necessità di aggiornare l’infrastruttura hardware (come successo recentemente con Bing Chat e Bing Image Creator).
GitHub Copilot, disponibile per tutti da giugno 2022, permette di sfruttare l’IA generativa per velocizzare la scrittura del codice. Il servizio, usato da oltre 1,5 milioni di utenti, costa 10 dollari/mese o 100 dollari/anno (studenti verificati e sviluppatori di noti progetti open source non pagano nulla).
Secondo la fonte del Wall Street Journal, Microsoft perde circa 20 dollari/mese per utente e alcuni utenti costano all’azienda circa 80 dollari/mese. Microsoft 365 Copilot, disponibile dal 1 novembre, costerà 30 dollari/mese per utente, ma potrebbero non bastare per coprire i costi, in quanto il numero di abbonati alla suite di produttività è nettamente superiore a quello di GitHub Copilot.
L’azienda di Redmond ha già studiato alcune soluzioni per ridurre i costi. Una di esse è offrire versioni meno potenti dei servizi. Un’altra opzione è progettare un proprio chip IA, ma ciò non eliminerà la dipendenza da NVIDIA. In ogni caso, al momento i costi dell’IA generativa sono esorbitanti. Usare GPT-4 per ottenere il riassunto di un’email equivale a consegnare una pizza con una Lamborghini.
Ti potrebbe interessare
10 ott 2023