过去几年,AI行业最容易被市场理解的一条逻辑,是“模型越大,需要的GPU越多”。于是,参数规模、GPU数量、训练集群和数据中心成为资本市场观察AI产业的核心指标。模型公司不断提高训练投入,云厂商扩建AI基础设施,芯片需求随之增长。但随着AI进入更大规模的实际应用,一个新的变化正在发生:AI对算力的需求没有减弱,算力被消耗的方式却正在改变。
过去大量算力集中在“把模型训练出来”。训练一个前沿大模型,需要大量GPU、电力、存储和高速网络,这更像一次规模巨大的工程项目。但模型训练完成以后,真正决定它商业价值的,是有多少人使用,以及使用多少次。这就是推理(Inference)。用户向AI提出一个问题、程序员让AI生成一段代码、企业让Agent读取文件并执行任务,背后都需要推理计算。换句话说,训练解决的是“AI能不能学会”,推理解决的是“AI每天到底工作多少次”。
这两者最大的商业差异,在于训练具有明显的阶段性,而推理跟使用量持续相关。一个模型可能经历几个月的大规模训练,但上线以后可能服务数百万甚至数亿用户。只要用户继续使用AI,计算需求就会持续产生。因此,未来衡量AI算力需求的方式可能越来越接近一个简单的公式:用户数量 × 使用频率 × 单次任务计算量。
这也是为什么Token正在成为理解AI商业化的重要单位。假设一个AI产品拥有100万日活用户,每个人每天完成10次交互,每一次交互都需要处理用户输入、历史上下文和模型输出,那么每天产生的Token处理量已经非常庞大。更重要的是,AI正在从Chatbot走向Agent,这可能进一步放大推理需求。
Chatbot时代,一次提问通常对应一次或几次模型响应。Agent时代则完全不同。比如让AI完成“分析一家公司的季度业绩并生成报告”,Agent可能需要读取财报、搜索资料、调用数据库、分析数字、生成图表、检查结果,再输出最终文件。用户表面上只输入了一条指令,后台可能已经发生多次甚至几十次模型调用。
这意味着未来AI使用量的增长,不完全取决于人类输入了多少Prompt,还取决于AI为了完成一个任务,需要调用多少次模型。当AI从“回答问题的软件”逐渐变成“执行任务的软件”,单个用户行为背后的计算量可能明显增加。Agent真正值得关注的地方,也正在这里:它带来的不只是新的AI产品形态,还可能改变整个AI产业的算力消耗结构。
随着这种变化发生,AI的价值链也开始变得更长。训练时代最容易看到的是GPU、服务器、高速网络、数据中心和电力基础设施,这些环节依然重要。但推理规模扩大之后,新的商业环节开始快速进入产业链。
第一层是推理基础设施。企业需要更低成本、更低延迟地运行不同模型,因此GPU云、推理芯片、模型部署和推理优化的重要性开始提高。第二层是Model API和MaaS。大量企业没有必要自己训练基础模型,通过API调用现成模型,再接入自己的业务系统,可能是成本更低的路径。再往上则是Agent和企业AI应用。企业最终愿意付费购买的,往往是客服自动化、代码生成、文档处理、数据分析和内容生产等具体能力。
因此,AI商业模式正在逐渐从“谁能训练最强的模型”,延伸到“谁能够以更低成本让模型持续工作”。这里会产生一个很重要的商业问题:推理需求越大,并不意味着所有AI公司利润都会同步增加。 对应用公司来说,每一次模型调用都是服务,同时也是成本。如果用户支付20美元订阅费,却消耗了价值很高的算力资源,那么用户越活跃,公司承担的推理成本也可能越高。
因此,推理时代另一场竞争已经开始:完成同样一个任务,到底需要多少计算资源?更小的模型、模型量化、缓存、模型路由、专用推理芯片等技术,本质上都在解决单位推理成本的问题。一个简单任务没有必要每次都调用最昂贵、参数最大的模型。如果系统能够根据任务复杂程度自动选择模型,就可能在维持用户体验的同时降低成本。
这也带来了一个值得资本市场长期观察的变量:Token价格下降和Token使用量增长,究竟谁更快? 如果未来处理100万个Token的成本不断下降,但整个社会消耗Token的速度增长得更快,那么AI计算市场仍然可能继续扩大。这与云计算的发展有一些相似之处:单位计算资源不断变便宜,但企业购买和使用的计算资源总量持续增长。
因此,从训练走向推理之后,观察AI产业的指标也需要发生变化。除了GPU出货量、训练集群规模和资本开支,未来可能还要观察推理Token数量、AI产品使用频率、单任务推理成本、企业API调用量、Agent平均模型调用次数,以及AI基础设施利用率。这些指标最终都指向同一个问题:AI有没有从实验室里的技术,真正变成每天被个人和企业持续使用的生产工具。
过去几年,AI产业最吸引注意力的是一次次规模更大的模型训练。接下来,真正庞大的市场可能发生在模型训练结束之后。当AI进入搜索、编程、办公、客服、Agent、机器人以及更多企业工作流,每一次任务都会产生新的计算需求。届时市场需要计算的,可能已经不只是“训练下一个模型需要多少GPU”,还有另一个更长期的问题:当数亿用户、数百万企业以及大量AI Agent每天持续调用模型时,运行这些AI究竟需要多少计算资源,又会形成多大的产业价值链。
精彩评论