首波GPU投资方转向推理芯片：4亿美元交易揭示AI基础设施新趋势

AI推理云初创公司General Compute从科技投资公司Upper90获得4亿美元贷款，这可能是首笔以推理专用芯片为抵押的交易。推理芯片用于快速高效运行已训练的AI模型，而非构建模型的昂贵芯片。该融资表明市场正转向能更廉价运行开源模型的基础设施，以应对AI工具和代币的价格担忧。General Compute由CEO Finn Puklowski创立，今年5月刚完成1500万美元种子轮融资，计划围绕英特尔支持的芯片制造商SambaNova的硅芯片构建推理“新云”（neocloud），这类云专为AI工作负载设计，区别于AWS或Azure等传统超大规模服务商的通用基础设施。SambaNova的SN50芯片专为推理设计，能效高且无需昂贵水冷系统，可在更多类型数据中心比GPU更快部署，General Compute称其推理速度比基于GPU的云快16倍。对于新公司而言，获取大量此类芯片是挑战。Upper90联合创始人兼CEO Billy Libby曾在2021年为能源数据中心初创公司Crusoe的GPU采购提供融资，是首笔以先进芯片价值为抵押的贷款。当时传统 lenders因GPU贬值风险回避此类交易，但随着CoreWeave将芯片抵押贷款发展为商业模式并成功IPO，这类融资已普及。Libby表示，当初作为首批GPU融资方时市场低效，能通过承担风险获得回报；如今GPU市场已较成熟且可能过度购买，Upper90转向General Compute等公司以把握AI繁荣下一波浪潮，认为开源模型将重要，多数用户需要推理和AI而非超级计算机。这一观点正得到强化，OpenRouter、Fireworks等提供开源模型访问的公司以高估值融资，Kimi的K3模型在编码基准测试中可与Anthropic和OpenAI最新产品竞争，Groq、Cerebras等新芯片制造商也吸引了收购方和公开市场关注。General Compute能获取非英伟达生态系统芯片的能力具有重要意义，另一家AI基础设施公司TensorWave也与AMD合作押注类似方向。随着英伟达替代方案增多，未锁定英伟达交易的计算提供商在提供成本高效推理方面可能具优势。Puklowski称，许多芯片开始规模化，拥有出色总拥有成本或比英伟达更快运行速度，但买家不多；与Upper90合作不仅是初创公司获资金购买计算资源，更是资本组织及英伟达垄断主导地位碎片化的首个信号。