IBM(IBM)与初创公司Together AI周二表示,双方已签署一项价值2.4亿美元的多年期协议,将在IBM云上使用英伟达(NVDA)系统构建一个大规模人工智能集群。
该集群将为开源AI模型提供推理服务。随着企业寻求控制AI成本,并权衡涉及Anthropic、OpenAI和Meta(META)模型的网络安全事件,开源模型日益受到青睐。
推理,即运行已训练的AI模型以生成响应的过程,已成为算力需求的最大驱动力之一,促使云服务提供商和芯片制造商投入数十亿美元扩展AI基础设施。
IBM云上的这一集群将使用英伟达的HGX B300系统(该系统集成了英伟达较新的Blackwell处理器)及其Spectrum-X以太网网络设备。英伟达曾表示,Blackwell芯片针对AI推理进行了优化。
总部位于旧金山的Together AI平台,让企业能够在DeepSeek、MiniMax和Kimi等开源模型上训练和运行AI工作负载,成本低于闭源系统。该公司在7月的估值为83亿美元。
精彩评论