ZML Rivoluziona l’Inferenza AI con LLMD: Un Nuovo Server per Chip Eterogenei

La startup francese ZML ha recentemente presentato LLMD, un innovativo server di inferenza progettato per eseguire modelli di linguaggio open source su una vasta gamma di chip, tra cui Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Questo prodotto, disponibile gratuitamente al lancio ma non open source, si propone di superare i vincoli software e architetturali che spesso limitano le scelte delle aziende, creando un lock-in verso fornitori specifici.

Il fondatore di ZML, Steeve Morin, ha dichiarato: «L’idea è restituire alle persone il potere di creare il proprio sistema e ottenere reali guadagni di efficienza che permettano la diffusione dell’IA». Con LLMD, l’obiettivo è fornire a imprese e operatori cloud la flessibilità di utilizzare un mix di chip, anche quelli meno costosi o più efficienti dal punto di vista energetico, per massimizzare le performance e facilitare l’adozione dell’intelligenza artificiale.

ZML ha anche manifestato l’intenzione di collaborare con nuovi produttori di chip, molti dei quali europei, citando aziende come Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. Morin ha sottolineato che l’azienda sta lavorando su soluzioni innovative, affermando: «Siamo arrivati al punto in cui stiamo co-progettando il silicio».

Il lancio di LLMD avviene in un contesto di mercato altamente competitivo, con operatori come Baseten, Inferact e RadixArk, oltre a progetti open source come vLLM e SGLang, che offrono funzionalità simili. Nonostante ciò, ZML mantiene relazioni strategiche con Nvidia, un gigante del settore.

Con sede a Parigi e un team di circa 20 persone, ZML ha recentemente raccolto 20 milioni di dollari da investitori come 20VC, commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe e Puzzle Ventures. Morin, che in precedenza ha ricoperto il ruolo di VP of Engineering di Zenly (acquisita da Snapchat nel 2017), ha spiegato che il rilascio gratuito di LLMD serve a misurare l’utilizzo prima di stabilire eventuali politiche commerciali: «Preferisco misurare e poi generare ricavi dove è più efficace, senza ostacolare stupidamente la crescita perché sono stato troppo avido fin dall’inizio».

Tra i sostenitori del capitale di ZML figurano nomi noti come Solomon Hykes, Clément Delangue, Julien Chaumond e Yann LeCun, evidenziando l’interesse crescente verso l’ecosistema europeo dell’IA. Morin ha inoltre sottolineato che la realizzazione di ZML non sarebbe stata possibile senza il supporto e l’innovazione che Parigi offre.