点击小程序查看研报原文
核心观点
随着人工智能模型规模的日益庞大和计算需求的持续增长,传统计算架构所面临的性能瓶颈日益凸显。在此背景下,粗粒度可重构架构(Coarse-Grained Reconfigurable Architectures,CGRA)和晶圆级集成芯片(Wafer-Scale Integration,WSI)作为创新性解决方案,有望提升AI计算效率与灵活性。
粗粒度可重构架构(CGRA):性能与灵活性的平衡点
CGRA是一种加速器架构,设计理念在于兼顾专用集成电路(ASIC)的高性能与现场可编程门阵列(FPGA)的灵活性。ASIC峰值性能和能效极高,但设计成本昂贵且后期难以更新;FPGA有出色的重构性,却因位级操作造成性能、功耗及面积劣势。CGRA作为折衷方案,针对AI/ML等计算密集型任务,在性能、能效与灵活性之间实现更佳平衡。CGRA核心优势在于“粗粒度”设计,以字(word)级而非位(bit)级处理数据,使CGRA的性能与能效接近ASIC,同时比FPGA拥有更大的处理单元、更低的功耗及更快的重构速度,可支持单周期动态重构。其“粗粒度”还带来面积节省,并通过可重构能力显著降低NRE成本,加速产品上市。凭借对循环密集型计算的优化,CGRA尤其适合缓解AI/ML性能瓶颈,也成为功耗受限边缘设备的理想方案。在应用落地方面,Cerebras将CGRA理念用于其晶圆级引擎(WSE)以支持大规模AI训练与推理;SambaNova芯片亦采用类似架构。
晶圆级集成芯片:突破互连与内存瓶颈的终极方案
晶圆级集成(WSI)通过在单一、未切割硅晶圆上集成计算单元,突破传统多芯片系统在互联带宽与内存共享方面的限制。其长期价值在于为超大规模AI模型提供统一、高效的计算平台。我们将从芯片互联与内存墙两方面展开分析。互连速度的革命:互连瓶颈日益成为制约当前AI硬件性能和可扩展性的关键因素。随着AI模型规模呈几何级数增长,计算单元和内存之间传输的数据量也大幅增长。传统多GPU系统依赖PCIe或NVLink等芯片间互连技术,虽已经成熟,但与片上通信相比,仍会导致较高的延迟和功耗。随着GPU数量的增加,芯片间互连或将成为主要瓶颈,严重限制AI训练和推理的有效扩展。我们认为晶圆级芯片或为根本解决方案。例如,Cerebras的WSE在单个晶圆上集成数十万个AI内核和大量片上内存,消除多GPU系统中常见的片外通信瓶颈。其片上芯片间互连提供高带宽和超低延迟的内核间通信,速度甚至可超过单个芯片内的通信。Cerebras的WSE-2芯片结构带宽高达220 Pbps,WSE-3比GPU快3715倍。特斯拉的Dojo超级计算机使用“训练单元”定制D1芯片。其芯片间互连带宽比ASIC和英伟达GPU高一个数量级。单个Dojo训练单元间的互联带宽高达18 TB/s。克服内存墙:与互连瓶颈密切相关的是“内存墙”问题,即计算速度的进步远超内存访问速度和带宽速度的提升。大型AI模型需要海量的高速、高带宽内存,而内存带宽不足将严重限制其性能。晶圆级设计通过将大量片上内存直接集成到处理单元中来绕过内存瓶颈。WSE的优势在于其大规模、高速片上SRAM,均匀分布在所有内核上,允许每个内核在单个时钟周期内访问高速内存,从而有效消除片上数据的“内存墙”效应。Dojo的D1芯片也集成片上SRAM,并强调计算和内存“共址”,以最大限度减少数据传输。
结论与展望:专业化架构崛起,有望打破GPU瓶颈,开拓AI芯片新蓝海
尽管GPU仍具主导地位,但在大规模AI负载中面临互连与内存瓶颈。CGRA 与晶圆级架构作为高效替代方案崭露头角。但其能否实现突破,取决于性能优势与生态构建能力。我们看好此类专业化架构芯片正逐步打开市场空间。
风险提示:市场竞争加剧,技术落地能力不足。本报告所涉未上市或未覆盖公司,仅基于公开信息整理,不构成推荐或覆盖意见。
风险提示
市场竞争风险:AI芯片领域的市场竞争正日益加剧。除英伟达、AMD、英特尔等传统芯片巨头外,谷歌、亚马逊、微软、Meta等科技巨头亦加速布局自研ASIC,加大垂直整合力度。在此背景下,Cerebras等晶圆级架构的新兴企业,面临与上述行业巨头的直接竞争。
技术落地能力不足:作为一项相对新兴的技术路线,晶圆级集成的发展高度依赖于先进封装、制造工艺及系统级协同优化的持续进步与有效整合。这将对Cerebras等企业在晶圆级架构上的长期研发能力与技术储备提出更高挑战。
本研报中涉及到未上市公司或未覆盖个股内容,均系对其客观公开信息的整理,并不代表本研究团队对该公司、该股票的推荐或覆盖。
相关研报
研报:《突破算力瓶颈:CGRA与晶圆级芯片的创新之路》2025年6月14日
研究员 何翩翩 S0570523020002 ASI353
关注我们
华泰证券研究所国内站(研究Portal)
https://inst.htsc.com/research
访问权限:国内机构客户
华泰证券研究所海外站
https://intl.inst.htsc.com/research
访问权限:美国及香港金控机构客户
添加权限请联系您的华泰对口客户经理
免责声明
▲向上滑动阅览
本公众号不是华泰证券股份有限公司(以下简称“华泰证券”)研究报告的发布平台,本公众号仅供华泰证券中国内地研究服务客户参考使用。其他任何读者在订阅本公众号前,请自行评估接收相关推送内容的适当性,且若使用本公众号所载内容,务必寻求专业投资顾问的指导及解读。华泰证券不因任何订阅本公众号的行为而将订阅者视为华泰证券的客户。
本公众号转发、摘编华泰证券向其客户已发布研究报告的部分内容及观点,完整的投资意见分析应以报告发布当日的完整研究报告内容为准。订阅者仅使用本公众号内容,可能会因缺乏对完整报告的了解或缺乏相关的解读而产生理解上的歧义。如需了解完整内容,请具体参见华泰证券所发布的完整报告。
本公众号内容基于华泰证券认为可靠的信息编制,但华泰证券对该等信息的准确性、完整性及时效性不作任何保证,也不对证券价格的涨跌或市场走势作确定性判断。本公众号所载的意见、评估及预测仅反映发布当日的观点和判断。在不同时期,华泰证券可能会发出与本公众号所载意见、评估及预测不一致的研究报告。
在任何情况下,本公众号中的信息或所表述的意见均不构成对任何人的投资建议。订阅者不应单独依靠本订阅号中的内容而取代自身独立的判断,应自主做出投资决策并自行承担投资风险。订阅者若使用本资料,有可能会因缺乏解读服务而对内容产生理解上的歧义,进而造成投资损失。对依据或者使用本公众号内容所造成的一切后果,华泰证券及作者均不承担任何法律责任。
本公众号版权仅为华泰证券所有,未经华泰证券书面许可,任何机构或个人不得以翻版、复制、发表、引用或再次分发他人等任何形式侵犯本公众号发布的所有内容的版权。如因侵权行为给华泰证券造成任何直接或间接的损失,华泰证券保留追究一切法律责任的权利。华泰证券具有中国证监会核准的“证券投资咨询”业务资格,经营许可证编号为:91320000704041011J。
精彩评论