智能体AI测试:英伟达Vera CPU比英特尔Sapphire Rapids快2.2倍

IT之家08:38

7 月 22 日消息,云端 AI 推理平台 DeepInfra 昨日(7 月 21 日)发布博文,报道称在生产环境下智能体 AI(Agentic AI)负载测试显示,英伟达 Vera CPU 速度是其它 CPU 的 2 倍多。

英伟达在此前官方博文中指出,相比较 AMD 的 Turin 9755 处理器,Vera CPU 在处理智能体 AI 负载上的性能提升 80%。

而在 DeepInfra 最新测试中,英伟达 Vera CPU 的 runc(基于 Linux 内核特性的“进程级”轻量化容器)延迟为 29ms,而英特尔 Sapphire Rapids 为 64ms,

英伟达 Vera 快 2.2 倍

。IT之家附上相关截图如下:

图源:deepinfra

测试环境使用统一条件:每次运行均为 20 个物理核、每核 1 线程、单 NUMA 节点,并启用 CPU confinement,超出核预算的运行会被丢弃。

芯片 Kata ms (deployed) runc ms (intrinsic) IPC
NVIDIA Vera 58 29 3.62
AMD Zen5 Turin 87 35
Intel Granite Rapids 103 51 2.44
Intel Sapphire Rapids 122 64 2.44

免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法