IBM与Together AI签署2.4亿美元协议,打造由英伟达驱动的AI推理集群

老虎资讯综合08-11 20:23

IBM(IBM)与初创公司Together AI周二表示,双方已签署一项价值2.4亿美元的多年期协议,将在IBM云上使用英伟达(NVDA)系统构建一个大规模人工智能集群。

该集群将为开源AI模型提供推理服务。随着企业寻求控制AI成本,并权衡涉及Anthropic、OpenAI和Meta(META)模型的网络安全事件,开源模型日益受到青睐。

推理,即运行已训练的AI模型以生成响应的过程,已成为算力需求的最大驱动力之一,促使云服务提供商和芯片制造商投入数十亿美元扩展AI基础设施。

IBM云上的这一集群将使用英伟达的HGX B300系统(该系统集成了英伟达较新的Blackwell处理器)及其Spectrum-X以太网网络设备。英伟达曾表示,Blackwell芯片针对AI推理进行了优化。

总部位于旧金山的Together AI平台,让企业能够在DeepSeek、MiniMax和Kimi等开源模型上训练和运行AI工作负载,成本低于闭源系统。该公司在7月的估值为83亿美元。

免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法