AI推理云初创公司General Compute已从科技投资公司Upper90获得4亿美元贷款。这可能是首笔以推理专用芯片作为抵押品的交易——这类芯片用于快速高效地运行已训练好的AI模型，而非用于构建模型的更昂贵的训练芯片。
此次融资是市场对AI工具和Token价格担忧的最新回应——投资者正转向使用开源模型的基础设施，其运行成本远低于前沿实验室的最新大语言模型。
General Compute由首席执行官Finn Puklowski和首席技术官Jason Goodison创立，5月已获得1500万美元种子轮融资，用于围绕英特尔支持的芯片制造商SambaNova的硅片构建推理云。公司采用SN50芯片专为推理设计，功耗低且无需昂贵的水冷系统，可比GPU更快地在多种数据中心部署。据称新芯片推理速度达GPU云的16倍。
挑战在于获取大量这类芯片，尤其对新公司而言。Upper90联合创始人兼首席执行官Billy Libby曾于2021年为Crusoe的GPU采购提供融资，据信是首笔针对先进芯片价值的贷款。当时传统贷款机构因GPU折旧风险而不愿涉足，但随着CoreWeave将芯片抵押贷款发展为商业模式并成功IPO，此类融资已日趋普遍。
Libby表示：“当我们率先为英伟达GPU融资时，市场效率不高。作为早期参与者，我们能够设计方案并从风险中获得回报。”如今GPU已被充分认知甚至存在超买，Upper90转向General Compute以捕捉AI浪潮下一阶段机会。Libby指出：“我们认为开源模型将变得重要，去年就开始寻找推理领域的参与者。并非每个人都需要超级计算机，但确实需要推理和AI。”
这一趋势正持续增强，提供开源模型访问权限的公司如OpenRouter和Fireworks正以高估值完成新一轮融资。Kimi K3等新模型已被证明在编程基准上与Anthropic和OpenAI最新产品竞争。Groq和Cerebras等新芯片制造商也吸引了收购方和公开市场的关注。
General Compute获取英伟达生态系统之外芯片的能力同样关键。另一家AI基础设施公司TensorWave正通过与AMD合作进行类似布局。随着英伟达替代方案不断涌现，不受制于英伟达协议的算力提供商在成本效益推理方面可能具备优势。
Puklowski表示：“有一批芯片正在规模化，拥有出色的总拥有成本或比英伟达运行更快，但买家不多。与Upper90的合作不仅是一家初创公司获得资金购买算力，更是资本组织化的首次信号，标志着英伟达垄断格局的裂变。”
责任编辑：张俊 SF065
精彩评论