In Breve
- Qual è la previsione di LinkedIn per gli investimenti in GPU?
- LinkedIn prevede di mantenere invariati gli investimenti in GPU per il prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a ottimizzazioni nell'utilizzo e nella gestione dei carichi di lavoro.
- Qual è l'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio più conservativo rispetto a Microsoft, che sta espandendo significativamente la propria infrastruttura.
LinkedIn ha annunciato che non prevede di aumentare significativamente la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’azienda manterrà sostanzialmente invariato il suo investimento in GPU, così come l’impronta di calcolo e storage, puntando invece a ottimizzare le risorse esistenti.
Secondo Erran Berger, CTO per l’ingegneria, LinkedIn ha raddoppiato l’efficienza delle GPU già in uso in un periodo di sei mesi. Questo risultato è stato raggiunto grazie a miglioramenti nell’utilizzo delle GPU, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. L’azienda intende utilizzare il margine operativo derivante da queste ottimizzazioni per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.
Questo approccio si distingue da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre. Microsoft ha anche aperto 31 nuovi data center in quel periodo e prevede di continuare a investire pesantemente nell’espansione della propria infrastruttura.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, ma nel 2022 ha deciso di sospenderlo. Attualmente, l’azienda sta puntando su data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore chiave per ottimizzare l’efficienza operativa.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e compute per un anno è un risultato notevole, frutto di un lavoro significativo. I miglioramenti ottenuti non derivano da una singola innovazione, ma da un insieme di strategie, tra cui un uso più efficiente delle GPU e una riprogettazione della divisione dei compiti tra training, inference e storage.
Il cambiamento di strategia è anche motivato dalla crescente dinamica dei costi: il costo per singola query è aumentato, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza che LinkedIn giudica insostenibile nel lungo termine. Sebbene l’azienda non affermi di aver risolto definitivamente il problema, la sua scelta rappresenta un’alternativa interessante alla tendenza generale di crescita proporzionale dell’hardware.
La capacità di mantenere l’efficienza operativa nel tempo sarà cruciale per determinare il successo di questa strategia, che si propone di affrontare le sfide del futuro senza incrementare la spesa in hardware.
