È di nuovo l'era delle CPU

1/ Meta ha lanciato l'agente AI personale Muse l'8 settembre. Non si tratta di un semplice chatbot reattivo, ma di un agente personale in grado di eseguire compiti in modo proattivo e proporre idee per conto dell’utente. Le sue caratteristiche comprendono l’invio automatico di e-mail, la prenotazione di viaggi e altro ancora, oltre a possedere una struttura residente che gli consente di continuare a eseguire attività in background anche quando l'applicazione è chiusa.2/ All’inizio del suo lancio, la reazione del mercato è stata straordinaria. In soli 12 giorni ha raggiunto 1,8 milioni di download, superando il record di ChatGPT nello stesso periodo, e i DAU hanno toccato quota 640.000, notevolmente superiore rispetto a ChatGPT nello stesso momento del suo percorso. Questo è stato considerato il primo caso di successo dell’espansione dei servizi di agent AI verso il mercato consumer.3/ Anche la struttura del servizio contribuisce all’aumento dell’utilizzo. Rispetto ai chatbot, un AI agent comporta cicli di utilizzo più lunghi e un consumo di token maggiore, quindi è un servizio dai costi sostenuti; eppure Meta offre fino a 100 milioni di token gratuiti ogni settimana anche agli utenti non abbonati. Nel lungo termine, l’obiettivo è quello di ottenere commissioni dai venditori sulle piattaforme di shopping, viaggi e simili collegate a Muse.4/ Da notare che questo carico di lavoro è intensivo per la CPU. Un AI agent segue una struttura a cicli multipli con chiamate a strumenti esterni, accesso a DB e ripetuti processi di inferenza; a parte i calcoli AI gestiti dalla GPU, la pianificazione e la decisione di ciascun passaggio e l’accesso ai software esterni rientrano nel dominio della CPU.5/ In particolare, la struttura di Muse prevede che anche gli utenti gratuiti dispongano di una VM cloud dedicata; di conseguenza, probabilmente, con l’aumento degli utenti crescerà proporzionalmente anche la domanda di CPU. Intel ha indicato che, con la diffusione degli agent, il rapporto GPU:CPU potrebbe aumentare nel lungo termine dall’attuale 8~4:1 a oltre 1:1.6/ Anche le mosse di investimento di Meta vanno nella stessa direzione. Nel primo semestre dell’anno, Meta ha stipulato contratti per server CPU con i principali fornitori come NVIDIA Grace·Vera, ARM AGI, AMD Venice e AWS Graviton. Ciò viene interpretato come una pianificazione anticipata per l’espansione dei servizi agent, inclusa Muse.7/ Il successo di Muse rappresenta un caso esemplare delle potenzialità di crescita dei servizi di AI agent rivolti ai consumatori. Più rapidamente si diffonderanno questi servizi, più la domanda di CPU per la gestione dei carichi di lavoro aumenterà in modo strutturale.8/ È probabile che la già delicata situazione di disponibilità delle CPU si inasprirà ulteriormente. I principali produttori di CPU come Intel, AMD e ARM, nonché l’intera filiera del valore della CPU, potrebbero tornare al centro dell’attenzione; a mio avviso, questa situazione offre una prospettiva favorevole per gli acquisti.