In Breve
- Cosa è ZML LLMD?
- ZML LLMD è un server di inferenza progettato per eseguire modelli di linguaggio su vari chip.
- Qual è l'obiettivo di ZML LLMD?
- L'obiettivo è superare i vincoli software e architetturali, permettendo l'uso di chip eterogenei.
- Chi ha investito in ZML?
- ZML ha raccolto 20 milioni di dollari da vari investitori, tra cui 20VC e Kima Ventures.
La startup francese ZML ha recentemente presentato LLMD, un innovativo server di inferenza progettato per eseguire modelli di linguaggio open source su una vasta gamma di chip, tra cui Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Questo prodotto, disponibile gratuitamente al momento del lancio ma non open source, si propone di superare i vincoli software e architetturali che spesso costringono le aziende a rimanere legate a singoli fornitori.
L’obiettivo di ZML è quello di permettere a imprese e operatori cloud di utilizzare mix di chip, anche quelli meno costosi o più efficienti dal punto di vista energetico, per ottenere significativi guadagni in termini di efficienza e facilitare la diffusione dell’intelligenza artificiale. Come ha dichiarato il fondatore Steeve Morin: “L’idea è restituire alle persone il potere di creare il proprio sistema e ottenere reali guadagni di efficienza che permettano la diffusione dell’IA”.
ZML non si limita a proporre una soluzione, ma indica anche la possibilità di collaborare con nuovi produttori di chip, molti dei quali europei. Tra i nomi citati ci sono Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. Morin ha sottolineato che l’azienda sta lavorando su soluzioni innovative, non ancora sviluppate altrove: “Siamo arrivati al punto in cui stiamo co-progettando il silicio”.
Il lancio di LLMD avviene in un mercato altamente competitivo, dove operano già aziende come Baseten, Inferact e RadixArk, oltre a progetti open source come vLLM e SGLang, che presentano funzionalità simili. Nonostante ciò, ZML mantiene rapporti di collaborazione con Nvidia, un attore chiave nel settore.
Con sede a Parigi e un team di circa 20 persone, ZML ha recentemente raccolto 20 milioni di dollari da investitori tra cui 20VC, commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe e Puzzle Ventures. Morin, che in precedenza ha ricoperto il ruolo di VP of Engineering di Zenly, acquisita da Snapchat nel 2017, ha affermato che il rilascio gratuito di LLMD serve a misurare l’utilizzo prima di decidere eventuali politiche commerciali: “Preferisco misurare e poi generare ricavi dove è più efficace, senza ostacolare stupidamente la crescita perché sono stato troppo avido fin dall’inizio”.
Tra i sostenitori presenti nel capitale di ZML figurano nomi noti come Solomon Hykes, Clément Delangue, Julien Chaumond e Yann LeCun, a conferma dell’interesse crescente verso l’ecosistema europeo. Morin ha inoltre sottolineato che non sarebbe stato possibile realizzare ZML senza il supporto di Parigi, un hub di innovazione tecnologica.
