🚨$NVDA最强芯片被“浪费60%”？真正的瓶颈已经不在硬件，而在软件

这条信息如果只看表面，很容易被误解成一件事：

NVIDIA 出问题了。

但如果把逻辑拆开看，结论其实完全相反。

这不是 NVIDIA 的问题。

这是整个 AI 行业进入新阶段的信号。

先看发生了什么。

$NVDA Blackwell B200：

算力直接从 H100 的

1 PFLOPS → 2.25 PFLOPS

几乎翻倍。

这是目前最强的 AI 芯片。

但问题来了：

软件没有跟上。

Princeton、Meta、Together AI 发现：

在 B200 上运行的现有软件（包括 FlashAttention-3）

大量算力没有被利用。

原因很简单：

瓶颈不在算力。

而在：

内存带宽

指数计算单元

这些没有同步提升。

结果就是：

GPU算力在等数据。

算力在“空转”。

这其实是一个非常典型的工程问题：

瓶颈转移。

当你把最强的一块补齐之后，

系统的上限

会被第二慢的部分决定。

于是他们做了一件更重要的事：

不是优化代码。

而是：

重写计算逻辑。

FlashAttention 4 的核心变化是：

重新围绕新瓶颈设计整个 attention pipeline。

包括：

软件模拟指数函数

新的计算路径

新的反向传播方式

结果是：

在 B200 上：

性能提升 2.7×（vs Triton）

超过 NVIDIA 自家 cuDNN 1.3×

达到理论性能的 71%

而且：

编译时间从 55 秒 → 2.5 秒

最关键的一句话其实是：

这不是硬件问题。

芯片性能是兑现的。

问题在于：

软件没准备好。

这件事真正重要的地方在于：

AI行业的瓶颈，正在发生转移。

第一阶段：

缺算力

→ GPU决定一切

第二阶段（现在）：

算力提升

→ 软件开始跟不上

第三阶段（正在发生）：

系统级优化成为核心竞争力

换句话说：

未来 AI 性能的提升，不再只是靠买更强的 GPU。

而是靠：

软件架构

调度系统

计算路径设计

这会带来一个很大的变化：

谁在创造价值？

过去是：

芯片公司（$NVDA）

现在开始变成：

AI系统公司

算法优化团队

基础软件层

而且还有一个更现实的问题：

在 FlashAttention 4 出现之前，

所有在跑 B200 的公司，

都在为“用不上的算力”付费。

这意味着：

算力利用率 = 真实成本。

所以这件事的本质不是：

“B200不够强”

而是：

AI进入了“软件定义算力效率”的阶段。

如果这个趋势继续发展，

未来最重要的问题可能不再是：

谁有最强 GPU

而是：

谁能把GPU用到极限。

你更倾向于下一阶段AI竞争的核心是：

更强的硬件

还是

更聪明的软件？