LinkedIn: Stabilità degli Investimenti in GPU per il Prossimo Anno Fiscale

LinkedIn ha comunicato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, con l’impronta di calcolo e storage che sarà mantenuta all’incirca stabile. La società ha raddoppiato l’efficienza delle GPU esistenti in circa sei mesi, grazie a miglioramenti cumulativi nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro.

Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo mentre si introducono nuove funzionalità più esigenti dal punto di vista computazionale. Questo approccio si distingue da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa di 41 miliardi di dollari in conto capitale, con l’aggiunta di 31 data center solo nell’ultimo trimestre.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, la società ha concentrato i suoi sforzi su data center propri situati in Oregon, Texas e Virginia. Avere il controllo completo dell’intero stack tecnologico è visto come un fattore chiave per monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e calcolo per un anno è un compito notevole, che ha richiesto un lavoro significativo. I miglioramenti ottenuti non sono il risultato di una singola innovazione, ma piuttosto di un insieme di strategie, tra cui un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro e la distillazione di modelli più complessi in versioni più compatte.

Questa scelta strategica è anche motivata dalla crescente pressione sui costi: il costo per singola query era in aumento mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non sostiene di aver risolto definitivamente il problema, ma questa strategia rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.