LLMD, un serveur d’inférence made in France qui se frotte à vLLM

Face aux entreprises commerciales qui se structurent autour des serveurs d'inférence open source, la start-up française ZML avance le sien, fondé sur un framework maison qui a ses particularités.