编辑｜小龙
图源｜Fireworks
在AI应用开发门槛急速走低的当下，一款产品从想法到原型的周期正在被压缩到数周，界面、功能，甚至完整工作流，都不再是难以复刻的壁垒。
过去，AI创业者最重要的问题是“怎么把产品做出来”；而今天，越来越多团队面临的是另一个问题：当产品已经找到产品市场契合（PMF），下一步靠什么建立真正可持续的竞争壁垒？
很多团队的第一反应是砸钱买量、扩大用户规模、快速占领市场。但在Fireworks AI CEO兼联合创始人乔琳（Lin Qiao）看来，AI产品进入PMF之后，还有一件更重要的事情——把产品自身积累的数据、反馈、偏好和专业知识，真正变成模型能力。
她把这件事称为“拥有自己的智能”（Own Your Intelligence）。
这并不是一个停留在概念层面的判断。2026年7月，Fireworks完成15.05亿美元D轮融资，公司估值达到175亿美元，并宣布年化收入运行率（ARR）突破10亿美元，每日服务超过40万亿Tokens；其中超过95%的Tokens来自基于客户专有数据、针对特定任务进行专业化优化的模型。
而就在不到一年之前，2025年10月，Fireworks刚完成2.5亿美元C轮融资，估值达到40亿美元。当时公司的ARR已超过2.8亿美元，客户数量突破1万家，每日处理超过10万亿Tokens。不到一年时间，ARR增长至原来的3.6倍以上，日服务Tokens增长约4倍。
Fireworks的成长路径，本身也折射出了AI基础设施正在发生的变化。
公司成立于2022年，由一群来自Meta和Google的AI基础设施专家共同创办。乔琳此前在Meta工作超过7年，曾任PyTorch负责人和工程高级总监，长期参与PyTorch及Meta AI基础设施建设。她拥有复旦大学计算机科学专业本硕学位，并在美国加州大学圣塔芭芭拉分校取得计算机科学博士学位，此前还曾在IBM和LinkedIn从事技术工作。
乔琳和Fireworks创始团队成员
她的联合创始团队同样堪称“AI基础设施老兵团”：成员包括前PyTorch核心维护者、前Meta广告基础设施负责人、前Google Vertex AI负责人，以及负责PyTorch编译器、排序系统和Meta News Feed机器学习基础设施的工程师。
换句话说，乔琳既经历过PyTorch从AI研究框架走向大规模生产部署的过程，也亲眼见证了AI应用从实验走向生产。
Fireworks最初解决的是“如何让企业更快、更便宜地调用和部署模型”，如今则进一步向模型微调、强化学习、评测和专业化智能延伸。
在她看来，随着通用智能越来越普及，真正难以复制的，反而是每家公司自身积累的知识、数据、工作流和判断力。通用模型解决通用问题，而企业真正的竞争力，藏在那些别人拿不到的数据，以及“只有自己知道什么才算好”的产品判断里。
因此，AI应用的竞争正在发生一次微妙的变化：从“谁能做出一个更好的AI产品”，转向“谁能把自己的产品经验沉淀成别人无法复制的智能”。
在红杉资本的活动上，乔琳系统拆解了这一过程：从Prompting、RAG，到监督微调、偏好学习和强化学习，企业究竟应该在什么阶段使用什么技术；为什么很多团队的真正瓶颈不是模型，而是数据和奖励信号；为什么训练环境与线上推理之间的偏差，会直接影响最终效果；以及当AI产品进入规模化阶段之后，后训练为什么可能成为同时提升模型能力和单位经济效益的关键工具。
以下为乔琳在活动中的分享实录，经创业邦翻译并整理，Enjoy！（👉原视频链接，点击查看👈）
从“做产品”转向“拥有智能”
大家好，早上好。我是琳，Fireworks的CEO和联合创始人。
今天，我想深入聊一聊后训练（Post-Training），以及为什么后训练与你打造自己的业务可能高度相关。
图片来源：Sequoia Capital
在Fireworks，我们打造的是一个专业化智能（Specialized Intelligence）平台。目前已经有大量应用构建在我们的平台之上，从初创公司到数字原生企业（digital-native enterprises）都有。
我觉得自己这份工作最有意思的地方，就是我们能够看到很多不同的模式：大家正在基于我们的平台构建什么样的创新产品？他们正在面临哪些挑战？开发者又正在围绕什么趋势进行构建？
尤其是在过去一年，我们看到软件开发和应用开发发生了一定程度的颠覆。
过去，你可能有一个很好的想法，希望把它真正实现出来，并进一步扩展到生产环境。但这通常需要一支由几十名非常优秀的产品工程师和产品经理组成的团队，连续合作几个季度，才能把产品交付出来。
而现在，只需要一个人、几周时间，即使这个人甚至不理解如何写一行代码，也可以做到过去需要整个团队才能完成的事情。
这种变化意味着，无论是时间周期还是深度专业能力，开发一个应用所需要的资源都在大幅减少。
这正在改变应用市场的竞争格局。
它正在推动人们从过去“如何构建在现成的黑盒 API（off-the-shelf black-box APIs）之上”，转向思考“如何建立一个更深的护城河”，从而打造一个更加持久的业务。
我们也看到，尤其是在过去一周，行业围绕开源模型和闭源模型展开了大量讨论，也出现了对开源模型的大量支持和声援。
之所以会形成如此强烈的共鸣，是因为我们认为，这背后反映的是一个比开源与闭源之争更深层次的问题。
看看整个行业，你会发现这里有这么多公司。而你们每一个人，都在打造属于自己的公司。
每一家公司之所以存在，都是有原因的，它们都在以一种独特的方式解决一个独特的问题。
这意味着，每家公司都会把自己的判断、品味、决心和信念带进自己的产品。这就是为什么你的公司今天能够存在。
如果你只是构建在一个现成的API之上，那么你真正需要思考的是：如何把这种特殊的品味、判断和独特视角保留在产品中，并不断向前推进。
我们认为，对于任何一家公司来说，要打造一个持久的业务，其中一种方式就是把你的判断、品味以及对客户的深度理解，真正融入你所构建的智能之中，而不是仅仅使用一个现成的API。
这就是当前行业变化的一点背景，也是我们正在看到的情况，以及为什么后训练可能与你非常、非常相关。
你可能已经听过很多关于“拥有自己的智能，而不是租用智能”的讨论。那么，拥有自己的智能到底意味着什么？实际上，它包含很多层面。
首先，它始于数据。
智能是从数据中衍生出来的。
显然，我们今天使用的前沿实验室以及各种基础模型，都是建立在公开数据和经过标注的数据之上的，而这些数据主要解决的是通用任务。
但你们每个人正在解决的，都是一个具体的问题。这也是你为什么要创业、为什么要建立一家公司的原因。
因此，能够从生产环境中筛选、整理出高质量的生产数据，甚至主动生成数据来丰富你的生产数据，这是拥有自己智能的第一步。
然后，当你拥有了数据之后，就可以开始把这些数据转化成模型：基于现有模型进行构建，并最终拥有属于自己的模型权重。
这里有一系列可以使用的技术。
这些技术分别针对你可能遇到的不同类型的问题，而且它们之间也可以相互配合，帮助你最终实现自己的目标。
接下来，当你拥有了一个真正属于自己的优秀模型，而且它能够非常好地解决你的特定问题之后，你还需要解决如何部署和提供模型服务的问题。
你可能首先会进行一些A/B测试（A/B testing），确保这个模型真的能够推动你的产品指标发生变化。
然后，再把结果反馈回这个循环。
后训练是逐级深入的阶梯
显然，我不认为大家应该一开始就直接跳进后训练。
你会经历不同的阶段。
第一步，所有人都是从提示词（Prompting）开始。
直接使用一个现成模型，采用少样本提示（few-shot prompting），快速验证你的想法。
然后，你会使用检索增强生成（RAG，Retrieval-Augmented Generation），让 AI 的使用建立在你自己的数据之上。
从这里开始，你还可以进行大量的上下文工程（Context Engineering）。
这些交互可能从几分钟一直持续到几个小时。然后，你会进一步进入这样一个阶段：
“我已经有了一些数据。我想看看这些数据如何真正反映到模型中，并让模型更好地服务我的产品。”
于是，你开始进行监督微调（SFT，Supervised Fine-Tuning）。这个过程可能需要几个小时。
再往后，你可能会想：“我希望模型能够体现个性化的品味。这是我的产品非常独特的选择标准。”
因此，你会开始使用从用户交互中收集到的偏好信息（Preference Information）。
这些信息可能包括点赞、点踩，以及大量类似的用户反馈信号。这些信号能够帮助模型学习你的产品到底有什么样的品味。最终，你希望构建一个模型，它能够理解并承载你在某一个特定领域的专业能力。
这个领域可以是法律、金融、医疗、客户支持、招聘、市场营销、销售——任何领域都可以。
即使是在同一个行业里，也存在大量不同的细分领域。所有这些东西，对于你正在构建的产品来说，都是独特而特殊的。
你可能已经听到很多关于强化学习（RL，Reinforcement Learning）的讨论。强化学习就是帮助你朝着专业化能力构建模型的一种工具。这个演进过程，其实与我们人类随着时间不断学习知识的过程非常相似。
比如，我们实际上会通过阅读大量文献来学习知识。在这些文献中，会告诉我们什么是正确的，什么是不正确的。这与监督微调非常相似。
随着我们成长，我们会逐渐形成自己的品味和判断，形成自己处理事情的方式，以及面对具体问题时希望采用的解决方式。
这就是偏好学习（Preference Learning）或者 DPO（Direct Preference Optimization，直接偏好优化）。
随着时间推移，我们会逐渐学会在某些特定领域把事情做得非常好。
比如，我想成为一名会计师，于是我真正掌握了如何处理财务数据；或者我想成为一名牙医，于是我学习牙科领域具体应该如何操作。
这些过程，都与我们人类获取知识的方式非常相似。
另外一个非常有意思的地方是：不同的技术，实际上是用来解决不同类型的问题的。
例如，如果模型不知道某个事实，而这个事实本身又处于动态变化之中——比如你的产品中的事实和数据就是不断变化的——那么通常可以使用 RAG 来解决这个问题。
但是，如果模型的输出、行为或者结构存在偏差，那么你就可以使用经过筛选和整理的高质量数据（curated data），再通过监督微调来纠正它。
如果模型回答的质量已经不错，但你希望它更加符合你的个人偏好，或者更加符合产品本身的品味，那么就使用偏好调优（Preference Tuning）。
如果模型在你试图解决的某个特殊问题上能力比较弱，那么就使用RL，也就是强化学习。
而如果模型最终的运行速度太慢，或者部署到生产环境的成本太高，那么就使用知识蒸馏（Distillation）。
让一个教师模型（teacher model）去教一个规模小得多的学生模型（student model），这样学生模型就能够拥有更好的性能，同时也更加经济。
当然，对于 LLM、VLM 或者图像生成模型来说，蒸馏所代表的具体含义也有所不同。
后训练最容易踩的四个核心陷阱
团队开始尝试这些技术的方式有很多。但他们可能并不会对结果感到满意，因为你可能花掉大量的钱和时间，却依然没有得到理想的结果。
所以，这里有几个可能让你感到挫败的地方。
比如数据。数据是调优的核心。但数据的数量并不是最重要的，真正重要的是数据质量。
有时候，只是把海量数据一股脑地塞进训练流程，并不会带来一个好的结果。所以，你必须真正控制数据质量。
而通常来说，谁是判断数据质量的最佳人选？
其实是你的产品团队。
这正是我们看到的一个变化：过去，产品团队和研究团队、机器学习团队通常是彼此独立的组织。它们是不同的团队，但会紧密合作，把事情做成。
而如今，当人们开始对生成式模型进行后训练时，我们越来越看到这两个团队发生融合。
产品团队需要对数据质量做出判断，而且开始深度参与整个过程，从而确保最终得到最好的结果。
第二个问题是，你需要建立评测体系（Evals，Evaluations）。
我知道大家都非常忙，都希望尽快把产品推向市场。现在很多评测其实都是所谓的“凭感觉评测（vibe evals）”。
创始人直接看模型的结果，然后说：“这个结果到底对不对？”实际上，这本身就是一种判断。
你把自己的判断放到最终结果上，决定它到底好不好。然后，再把这种判断转化成系统化的评测。
这和传统软件开发其实没有什么不同。
传统软件开发中，你会有单元测试（unit tests）和集成测试（integration tests）来确保软件质量。
同样，如果你要做后训练，那么建立一套评测体系，并把你的判断融入一个可重复执行的流程中，是极其重要的。
另外，当你进行 RL 时，还可能遇到一个问题：一个不够严谨的强化学习环境（RL environment）。
你可能构建了一个模拟环境，但这个模拟环境并不能真正反映现实。
于是，模型就可能在一个糟糕的模拟环境中不断优化自己。
与此同时，它还可能出现奖励投机（reward hacking），以及各种奇怪的行为。
关于 Reward Hacking，有一个非常有意思的故事。
我们曾经让一个模型生成代码。具体来说，我们让它创建代码，并尽可能降低编译错误。那么，你猜这个模型最后怎么做的？
它生成了0行代码。
这样当然就不会产生任何编译错误。但这显然完全不是我们想要的结果。这就是一个典型的例子。
这种“钻奖励函数空子”的情况其实非常常见，因为模型非常聪明。它会尝试各种不同的方法来实现你设定的目标，但它最终采用的方法，未必是你真正想要的。
所以，你必须非常关注这些细节，并尽量不要让模型反过来“聪明过头”，钻进你设计的规则里。
当然，在整个实验过程中，你需要把自己的开发流程看成一个完整的实验过程。
从训练模型，一直到把模型部署并提供服务，你实际上都在不断做实验。
训练模型并不是实验的终点。最终的裁判只有一个：你的产品指标到底有没有发生变化。
所以，你必须把最终模型带到服务层（serving tier），然后进行A/B测试。
这个从训练到部署的转换非常重要。
因为如果你从一个训练技术栈切换到一个服务技术栈，却没有让两者做好对齐，那么模型质量可能会下降。
想想看，一个模型背后存在海量计算、数学运算和矩阵乘法。
而你执行矩阵乘法和各种计算的方式，如果使用了不同的库、不同的数值计算方式（numerics）以及不同的优化方法，就可能得到不同的结果。
因此，训练阶段得到的最终效果，在服务阶段可能无法完全复现。
甚至，你可能会在 Serving 阶段损失精度。所以，这种对齐非常重要。
后训练领域的先行者
我们已经与很多Post-Training领域的先行者合作过。Cursor是较早进入这条路线的公司之一。
他们从去年年初就开始逐步进入这个领域。原因有很多，其中一个原因是，他们真的希望掌控自己的模型供应。
当然，他们拥有大量用户交互，因此非常了解客户偏好，也拥有大量数据。
这成为他们整个旅程的起点。他们进行了相当深入的中期训练（Mid-Training）和后训练（Post-Training）。
你们也听到过，他们几乎每隔几个月就会持续发布新的模型。
结果非常好。他们的目标，是在模型质量上与前沿模型（frontier models）竞争。
这是一个非常大胆的目标，而他们正在逐渐做到这一点。Composer 2、Composer 2.5 都取得了非常令人印象深刻的结果。他们一直在努力做到与前沿实验室的模型持平，甚至超越它们。
它证明了这件事情完全可以做到，只要你保持专注，并拥有正确的工具。
Cursor就是构建在我们的平台之上的。
医疗领域也有大量不同的案例。比如Doximity。
他们做了Clinic AI，让医生可以提出非常深入的医疗问题，包括将症状与药物、副作用进行匹配，并围绕医疗领域进行全面、深入的研究。
他们同样在Fireworks上进行训练，并在一个非常重要的医疗基准测试中取得了第一名——斯坦福-哈佛临床安全基准（Stanford-Harvard Clinical Safety Benchmark）。
我们对这个结果非常自豪。他们也在持续迭代这个训练闭环。
Factory是另一个SaaS公司。他们构建在Fireworks之上，尤其关注编程中的安全问题。
这是一个非常困难的话题，因为安全问题的容错空间非常小。
你必须做到正确。他们对模型进行了调优，并且在安全相关的基准测试中也取得了领先成绩。
这些案例都说明了一件事情：这些公司都在以独特的方式解决非常独特的问题。
而它们能够利用自己的数据，建立在开源模型之上，最终构建出属于自己的智能。
这就是其中的关键。
显然，正如大家所知道的，2025年是Coding爆发的一年。Fireworks支持了大量构建在我们平台上的Coding公司。
其中很多公司在从中期训练到后训练的过程中都取得了非常好的成绩，也构建出了非常强大的模型。
这些benchmark的结果都非常令人印象深刻。
所有这些Coding公司，都希望在Coding领域做到与前沿实验室持平，甚至超越它们。
但现在，已经不只是Coding了。
今年，我们开始看到各种不同协作型工作（Co-Work）场景出现非常有意思的发展。
从通用型Co-Work，到垂直领域的Co-Work
法律、金融、市场营销、招聘、销售、客户支持等领域，都开始出现Co-Work应用。
这些应用开始进行Post-Training，并拥有自己的智能，用它来驱动自己的产品。
Jensen Spark就是一个通用型Co-Work应用。他们为专业人士提供深度研究以及幻灯片生成能力。正如你们看到的，他们正在与前沿模型竞争。
模型效果甚至略好一些，但成本却低得多。
这里说的是5到10倍的成本下降。
对于一家创业公司来说，一旦达到产品市场匹配（Product-Market Fit），你就可以快速扩大规模，并逐渐把它发展成一个持久的业务。
Hyde是另一个医疗领域的案例。
很多医疗数据或者医疗使用场景，并没有被前沿实验室的模型充分覆盖。
经过调优之后的模型，质量明显优于当前最先进的闭源模型。目前，有很多不同类型的开发者都在Fireworks上进行Post-Training。
那么，这些开发者主要有哪些类型？
我们看到过很多前沿Agent构建者（frontier agent builders）。这些公司通常会自己构建定制化的Agent Harness。
他们不会使用通用的Harness，而是会针对自己的系统以及希望构建的各种工具，对Harness进行联合优化（co-optimize）。
很多时候，这就需要Post-Training。
我们已经看到大量这样的案例，而且取得了可重复的成功。
我们也看到很多大型公司开始进行Post-Training。一个很有意思的原因是，这些传统大企业（incumbents）拥有巨大的流量。
对于它们来说，如果要把AI功能全面部署给所有客户，会带来巨大的成本负担。
这确实是一个巨大的成本负担。
所以，当我们说“要小心，不要在规模化过程中把自己烧到破产”，这并不只是针对创业公司的。
它同样适用于传统大企业。
我们甚至看到，一些公司的CFO会因为成本问题，直接阻止AI功能上线。而Post-Training就是解决这个问题的一种方式。
我们还看到很多专业模型运营者（specialized model operators）。这些可能是新的模型实验室，也可能是大量前沿模型开发者。他们同样在进行大量的Post-Training。
所以，这是我们反复从合作伙伴那里听到的一句话：在达到 Product-Market Fit 之后，Post-Training 会成为很多公司构建专业化智能的主要工具。
我们确实相信，而且我们也正在看到这个趋势：
未来可能会出现数百万个专业化模型。一个应用对应一个模型，一个使用场景对应一个模型。可能最终真的会有数百万个。这就是我对未来的判断。
显然，我们已经看到很多不同的方式，可以把数据转化成模型。
而其中，一个非常重要的部分就是：奖励所提供的信号（reward signal），以及如何设计这些奖励函数（reward functions）。
这会成为整个过程非常重要的一环。
我们的观察是：尽早开始。
尽早开始，并且以更加迭代式的方式进行大量实验。一定要获得亲自动手的经验。我们已经看到很多团队能够非常快地进入这个领域。
实际上，这件事情并没有很多人想象得那么高的门槛。因为整个奖励工程（Reward Engineering）过程，其实与软件工程非常相似。
背后的逻辑推理和思维方式都非常、非常接近。所以，真正动手做起来。
开始测试。
精彩Q&A：什么时候应该开始考虑Post-Training？
提问：Lin，刚才的演讲非常精彩。我是Traversal的Ras。我很好奇，你刚才提到了过早开始Post-Training可能存在一些问题。
但根据你观察到的Cursor、Cognition以及其他公司的情况，他们到底是在什么时候开始认真考虑Post-Training的？
是在他们觉得自己准备好的时候吗？还是在成本已经变得难以承受的时候？
因为，当他们在benchmark上击败前沿模型时，这显然是一个非常好的信号——说明他们确实有能力超过前沿模型。
但这是不是主要驱动力？为了提升2%，是否值得投入这么多成本和资源去搭建整个框架？
他们又是如何考虑ROI的？闭源模型的成本更高，但Post-Training本身也需要投入资金，而且未来还需要持续维护。
所以我很好奇：他们通常是在成本开始成为问题的时候进入这条路线？还是因为使用量开始快速增长，他们必须提前一两年开始规划？
Lin：是的，这是一个非常好的问题。通常来说，我们现在会把AI产品的Product-Market Fit和业务规模化看成两个不同的阶段。
过去，这基本上是一个连续的概念：你找到Product-Market Fit，然后就直接开始规模化。只要是不会后悔的规模化，就尽可能扩大。
但现在，我们看到的是一种分化。Product-Market Fit并不意味着你已经拥有了一个真正持久、能够规模化的业务。
通常，我们看到企业会采用这样的策略：首先，把Product-Market Fit放在第一位。
在这个阶段，直接构建在前沿实验室的模型之上。因为这样你几乎不需要担心其他事情。你只需要花钱，尽快找到Product-Market Fit。
另一个非常重要的原因是：只有在你真正达到Product-Market Fit之后，从产品中收集的数据才会真正变得有意义。
同时，你也会开始从产品环境中积累大量高质量数据。而这些数据最终会成为你开始拥有自己智能的燃料。
所以，我们认为，这是一个非常强的信号。
因为一旦你达到Product-Market Fit，真正开始考虑业务规模化，你就会思考两件事。
第一，如何持续保持自己的竞争优势。第二，如何建立一个持久的业务，让收入和成本处于一个健康的状态。
这时候，Post-Training就会变得非常有吸引力。
因为Post-Training可以把你的独特品味真正编码和固化进一个模型里。而这个模型中的东西，是别人无法直接从你这里偷走的。因为正如大家都知道的，直接复制一个应用本身已经非常容易。尤其是在Coding Agent领域。
你甚至只需要一张截图，就可以“砰”的一下，生成一个一模一样、甚至更好的应用。
所以，这是非常令人担忧的。应用本身作为护城河的价值正在不断下降。而把你的数据、产品交互过程中积累的经验，以及所有深层次的知识，真正融入你的模型，是保护这层护城河的一种方式。
第二，你可以通过Post-Training把模型成本降低5到10倍。这意味着，在同样的预算下，你可以支撑原来5到10倍的流量。
同时，你在规模化过程中的单位经济模型会好得多。这样，你就可以避免在规模化过程中把自己烧到破产。
所以，我们认为，这两个因素构成了企业为什么以及什么时候开始做Post-Training的两个非常有说服力的理由。
精彩评论