Meta 发布新一代自研AI芯片:采台积电5nm制程,性能提升3 倍

Meta 去年公开首款自研芯片MTIA(Meta Training and Inference Accelerator)成果,第一代MTIA(MTIA v1)即采台积电7 nm制程,下一代MTIA 同样委由台积电生产。

在英特尔、Google 发表最新AI芯片之后,Meta 10 日也公开自研芯片开发成果。MTIA v1后继产品官方称为下一代MTIA(Next Gen MTIA),它执行的模型用于处理与AI 推荐系统相关的工作。与台积电7nm制程建构的MTIA v1 相比,下一代MTIA 采用5nm制程。

据介绍,此次发布的新一代 MTIA 与第一代 MTIA 相比,显著改进了性能,并有助于强化内容排名和推荐广告模型。其架构从根本上侧重于提供计算、内存带宽和内存容量的适当平衡。

下一代MTIA 配备更多处理核心,拥有更多on-chip memory(256MB 对比MTIA v1 128MB)和off-chip LPDDR5(128GB 对比MTIA v1 64GB),并以更高的平均时脉速度运行,从800MHz 上升到1.35GHz,同时功耗增加(90W 对比MTIA v1 25W)。

Meta 指出,下一代MTIA 目前已投入16 个资料中心区域使用。Meta 评估的四个关键模型中,下一代MTIA 性能比MTIA v1 提升3 倍,“由于我们控制整个堆叠,所以与商用GPU 相比,可以达成更高的运算效率”,Meta 部落格文章写道。

Meta 也透露,目前还没有使用下一代MTIA 训练生成式AI,尽管该公司声称有多项专案正在进行。此外,Meta 承认下一代MTIA 不会取代目前用于训练模型的GPU,而是补充运算资源。

英特尔最新发表Gaudi 3,声称能源效率比NVIDIA H100 芯片高40%,推论速度快50%。Google 正向Google Cloud 客户推出用于训练AI 模型的TPU v5p,并发表首款为资料中心设计的Arm 架构Axion CPU。亚马逊拥有多款自研AI 芯片,微软去年也已AI 芯片Azure Maia 100和云端运算处理器Azure Cobalt 100参战。

Meta 近年不遗余力加强AI 技术开发,自行研发客制化芯片以满足运算需求。该公司一直是NVIDIA H100 GPU 的大客户,今年底前Meta 运算基础设施预计采购达到35 万颗H100。同时MTIA 系列芯片开发也将加速进行,希望在AI 军备竞赛赶上竞争对手。

来源:technews

免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。

举报

评论

  • 推荐
  • 最新
empty
暂无评论