HBM(高带宽内存)作为当前AI加速器GPU的核心配置,凭借垂直堆叠的薄DRAM芯片结构,以超高数据带宽为AI训练与推理提供了关键支撑,成为AI算力爆发的重要基石。然而,HBM存在两大显著短板:一是成本居高不下,其价格较普通DDR内存高出一个数量级;二是容量增长受限,受限于DRAM内存密度缩放的技术瓶颈,即便如英伟达Blackwell GPU搭载8个24GB HBM3e芯片堆栈(总容量192GB)...
网页链接HBM(高带宽内存)作为当前AI加速器GPU的核心配置,凭借垂直堆叠的薄DRAM芯片结构,以超高数据带宽为AI训练与推理提供了关键支撑,成为AI算力爆发的重要基石。然而,HBM存在两大显著短板:一是成本居高不下,其价格较普通DDR内存高出一个数量级;二是容量增长受限,受限于DRAM内存密度缩放的技术瓶颈,即便如英伟达Blackwell GPU搭载8个24GB HBM3e芯片堆栈(总容量192GB)...
网页链接
精彩评论