法国热门AI初创公司ZML发布免费产品以加速多AI芯片推理

法国热门AI初创公司ZML（获得图灵奖得主Yann LeCun支持）已发布LLM推理服务器ZML/LLMD，该软件可使多种开源大型语言模型在包括英伟达、AMD、谷歌TPU、苹果Metal及英特尔Arc在内的多种芯片上运行。ZML创始人Steeve Morin表示，此产品旨在打破现有技术壁垒，让不同芯片能以最大可用速度（有时甚至更快）应用于AI场景，解决因软件和架构障碍导致的供应商锁定问题，助力企业和云服务提供商混合使用成本更低或能耗更少的芯片，实现AI效率提升与普及。该软件可能对欧洲新兴AI芯片制造商（如Axelera、Fractile、Kalray等）有所帮助，ZML正与这些厂商合作开发全球首创技术。尽管面临Baseten（估值130亿美元）、Inferact（vLLM创建者）、RadixArk（SGLang背后公司）等竞争，Morin称ZML团队（20人）凭借敏捷性正推进芯片协同设计，并有更多产品计划。ZML已融资2000万美元，投资方包括20VC、Kima Ventures等，其早期支持者还包括Hugging Face联合创始人等。与2024年发布并于2025年3月更新的开源ML框架不同，ZML/LLMD目前免费但非开源，Morin称此举旨在先了解用户使用情况，暂未确定商业化时间表及具体模式。