📰 重點摘要
法國 AI 新創公司 ZML 近日正式推出推理伺服器軟體 LLMD，目標是讓各種主流開源大型語言模型能夠在多種不同廠商的晶片上以接近甚至超越原生的最高速度運行，支援的硬體涵蓋 Nvidia GPU、AMD、Google TPU、Apple Metal 及 Intel Arc。創辦人 Steeve Morin 表示，當前 AI 推理（即模型處理使用者提示的過程）已在重要性上逐漸超越模型訓練本身，但軟體層與架構層的割裂導致企業深陷供應商鎖定困境。ZML 的核心訴求是讓企業與雲端服務商能混用不同來源的晶片，藉此降低成本或減少能耗，進而使 AI 的大規模普及成為可能。
Morin 本人曾任社交 App Zenly（2017 年以九位數美元被 Snapchat 收購）的工程副總裁，憑藉此背景成功從 20VC、Kima Ventures 等知名創投籌得 2000 萬美元，以僅 20 人的精幹團隊在巴黎快速推進開發。ZML 目前已進入與晶片廠共同設計矽芯片的階段，並點名 Axelera、SiPearl 等多家歐洲新興晶片廠為潛在合作對象。
推理基礎設施賽道競爭激烈，對手包括估值達 130 億美元的 Baseten、vLLM 開源項目創始團隊成立的 Inferact，以及 SGLang 背後的商業公司 RadixArk。Morin 強調 ZML 並非看空 Nvidia，雙方維持良好合作關係，但 LLMD 的多晶片相容策略正為市場提供更多議價選擇。
💬 JudyAI Lab 觀點
ZML推出的LLMD直指AI基礎設施最核心的矛盾——當推理的重要性已超越模型訓練本身，軟體層與架構層的割裂卻讓企業深陷供應商鎖定，規模化部署的成本因此居高不下。
從估值130億美元的Baseten到vLLM創始團隊成立的Inferact，推理基礎設施賽道的競爭已非常激烈。ZML的切入點不是正面對抗Nvidia，而是讓企業能混用不同廠商的晶片——Nvidia、AMD、Google TPU、Apple Metal、Intel Arc全數相容。我們觀察到這個方向背後，是整個產業對「鎖定風險」的集體焦慮：當推理成本直接影響AI服務的商業可行性，誰能讓企業在晶片選擇上保有彈性，誰就握有真正的議價籌碼。
不妨評估一下你目前使用的推理架構：若明天需要更換晶片供應商，切換成本有多高？這個問題的答案，決定了你面對未來漲價或供應短缺時有多少騰挪空間。
📅 原文資訊
- 發布時間：2026-07-08T08:00
- 來源原文：https://techcrunch.com/2026/07/08/hot-french-startup-zml-releases-free-product-to-speed-inference-across-lots-of-ai-chips/