社区

深夜，老人从睡梦中惊醒，突然觉得不舒服，手臂抬不起来了。医院太远，夜太深，那一刻能问的几乎只有一个App。

蚂蚁阿福给出的答案，让他松了一口气：可能是刚才的睡姿把手压住了，换个躺法，深呼吸十分钟试试。

然后，真的好了。

这个故事，让阿福模型技术负责人进捷记忆犹新。

9月9日下午，外滩大会期间，蚂蚁基础智能技术部负责人、百灵大模型负责人西亭，阿福模型技术负责人进捷，百灵金融模型负责人月引，百灵语言基座负责人零幺凑在了一起，与光子星球等进行了一场对话。

四个人，几乎都有一个共同的判断，即模型该走进真实世界了。

自去年发布万亿参数模型后，百灵没有继续把模型“做大”，而是把“智效比”作为主线。

另一个判断更反常识——全行业都在卷Coding，百灵却把最硬的兵力投给了金融和医疗。理由很简单，Coding放到人类历史里，只是很短的一瞬。而金融、医疗、法律这些任务，已经进化了三四千年。

基于此，除了Ling-3.0本身，百灵亦在此基础上，打造了金融增强模型Ling-3.0-flash-Fin，面向真实投研任务流，覆盖信息检索、研究推理、估值建模等能力；医疗方向则主要通过健康AI应用阿福落地。

目前，阿福用户已突破1.5亿，日咨询量达2000万，过半用户来自三四线城市，16%的咨询发生在零点之后。而开头提到的老人，或许就是其中的一位。

除此之外，选择金融和医疗还有一层考量——这两个行业要求最严、约束最多。那些约束看似模糊，但模型一进去就会发现它们天然存在。而这，恰恰是长出能力的地方。

西亭把接下来的投入概括成三个方向：向上，继续提升对通用和复杂场景的Agent能力；向下，进一步降低门槛，靠更好的智效比让模型离用户更近、离资源受限的环境更近；向外，深化专业性，跟行业伙伴一起把模型放进复杂的工作环境里持续打磨。

用他自己的话说，就是让Ling-3.0从“模型的能力”走向“任务的价值”。

以下为对话的主要内容（在不改变原意的前提下，略作删改）：

从“更大”到“更省”，回答智效比这道题

Q：去年发完1T模型，你们开始怀疑“模型要一直变大”这件事。今天如果让你们定义一个好模型，会怎么说？

西亭：很难说清楚。Claude最早跟OpenAI竞争的时候，被发现的好可能不是Chat，而是Coding。今天也有人说Coding是不是饱和了，但人类世界里还有很多task没被解决。

我倾向于两个维度。一个是模型要走向真实世界，Scaling可以从Coding扩展到更广的维度，尤其是那些高经济价值、高难度的领域，帮人解决更多更难的task，这才是AGI该有的走向。

另一个维度是能力、响应速度、成本。人之所以为人，就是在各种约束条件下做出更合理的决策，模型也一样。有没有一种方式，能以合理的成本、更快的响应，端到端地把问题解决掉，而不是只看生成效率。

月引：我的标准简单一些，它能不能帮我把活干完。我今天的PPT，它昨晚帮我踩了半天的车轮子，我还不是很满意。

在金融里，它能不能帮二级分析师把工作做完，能不能把原来研究一个标的的时间，用来看十个标的。这就是我希望它演进的方向。

零幺：技术上我们一直在追一件事，用更低的FLOPs撬动更大的智能。至于大尺寸好还是小尺寸好，我认为没有绝对答案。

Scaling到现在没有失效，大尺度和小尺度某种意义上是交替往前走的：小尺度上能压缩足够高的智能，而按现在的发现，大尺度能压缩更高的智能。最终大家追求的是，用足够小的FLOPs撬动足够大的智能。

Q：Scaling的路线越来越多，预训练、后训练、强化学习、推理时计算，哪一条的边际收益最高？扩基座和加强后训练，资源上怎么取舍？

零幺：边际收益的度量，取决于你的坐标系。如果以Benchmark为纵轴，其实没那么科学。Benchmark是条Sigmoid曲线，低的时候低，中间突然涌现涨上去，到八十多分就饱和了，可能只是里面有二十道题怎么测都不对。所以很多维度看着收敛了，其实是Benchmark收敛了。

以我们做过的实验看，目前唯一没有观察到边际收益递减的，是Pre-train Scaling。把模型尺度和数据大小乘在一起，Loss还能以对数线性的方式往下降，至少在能看到的尺度内没有拐点。其他维度，比如靠更多推理时Token去换效果，一般能观察到明显的收敛。

那为什么不全去训最大的模型？因为算力稀缺。预训练很吃资源，必须架构、数据、数据消费策略上都有可观的收益，我们才会投。后训练迭代快、数据量不大，但并行的组数多，可以高频试。所以我们是用更长的轴看预训练，用更短的轴看后训练迭代，基本基于实验做决定。

西亭：我们还在探索另一组Scaling。现实中一个非常聪明的医生，可能股票也炒得很好；一个金融很厉害的人，是不是也可能成为顶尖的医疗专家？人类历史上这样的人一闪而过。

但有了大模型，我们希望通用能力和专业能力能一起往上走，看看会不会出现一个新的物种。另外，大小模型的协同和路由也是一种Scaling，这比较符合人的认知——人思考的时候，也不会把大脑每个部分都调动起来。

Q：智效比听起来更像一个理念。它能不能被量化？

西亭：我们已经有一些量化的目标，总结起来就是端到端的任务成功率。生成成功率不等于端到端成功率，一个任务可能要执行几十轮。定了完成率，再看同样的完成率下花了多少钱；或者固定成本，看能完成多少任务。

这会非常难，因为它不是模型自己能搞定的，是模型乘以Harness，再乘以评估，乘以行业的安全规则，联合起来才能解决。今天模型还只是个产品，不是严格意义上的商品，但从产品到商品，这条路必须走。

零幺：标品有个特点，它要有确定性。今天的智能在很多维度上是不确定的，Token相对好量化，任务完成率没那么确定。但我相信随着能力提高，不同任务上的确定性会变高，高到一定程度，它就能变成标品，也就能更好地被量化。

不卷Coding，去啃金融和医疗

Q：为什么是金融和医疗这两个行业？

零幺：什么样的问题最适合引导智能往前走？三个特点：量要足够大，要足够难，还要容易被验证。世界上有两件事肯定非常难，一个是人怎么能活得更久，一个是怎么能赚到更多的钱。这就是医疗和金融。

西亭：还有一个原因是约束。人为什么能长出能力，因为有限制。金融和医疗里有很多约束，教科书上不一定百分百写，但模型一进去就发现它们天然存在，而且随着行业对模型的要求越来越高，约束只会越来越多。

机会往往就藏在这些困难里。我们自己公司选的这几个赛道，某种意义上都不是好做的赛道，但恰恰是这种难，对提升模型的智商、对真正实现AGI有大帮助。

Q：金融这么大，第一个切口为什么是投研？

月引：其他厂商营收的大头在银行，主要是客服和信贷审批。客服偏问答，RAG就能解决；信贷审批偏决策逻辑，都不需要那么长、那么难的链路。我们要做的是领域智能上限，所以要选足够难的。

行研天生高难度、强专业，而且有一点很关键，它可校验。当然行研并不是整体可校验，估值建模这部分是可校验的，最后的推断有很强的主观性。我们是从可校验的那部分入手，现在做的还是相对短的行研，未来要走向更长的决策链路。

Q：行业里攒下来的这些积累，怎么反哺到基座上？

月引：两个角度。一是把专业端的知识和推理能力沉淀回来，再带给C端每一个真实的用户。

二是工作流的能力。如果金融里“操作数千张表、覆盖数千家公司”这样的task我能做好，这份能力会泛化到基模上，孵化出所有需要办公和信息处理的行业能力。只要行业的task和knowledge足够难，最终都会反哺到基座上。

西亭：真实场景是考场，也是训练场。里面能转化成三类东西：失败的case复盘之后，变成专业的数据闭环；更贴近专业场景的评测，不只是看结论对不对，还要看证据、流程、权限是不是被满足；还有在这些环境里留下来的训练环境，可以沉淀成强化学习，让模型学会做一个动作之后怎么观察结果。

Q：市面上做金融的厂商很多，蚂蚁的差异化在哪？

月引：第一，在获取高难度专业数据这件事上，别人并不比我们有优势。我们跟海外最头部的数商有密切交流，他们给我们的samples，三条里错了两条。我们凭什么能做？是因为我们真有在一级、二级市场浸淫了十年二十年的专家，跟我们一起做数据，把专业的know-how带进来。

第二，我们不只是做后训练。每一家公司的财年计算口径都不一样，如果模型连这个都没见过，后训练做什么呢？所以专家是沉到预训练环节里去的，从数据知识输入的环节就开始参与。

第三，这事儿除了模型，还要结合Harness、结合产品、结合私域数据，它本质上是个生态。

“宁愿说一句我不知道”

Q：一个好的Agent，更重要的是知道哪一步不能做。这个在模型层面是怎么设计的？

零幺：现在的模型有个特点，会迎合人，因为听话能拿到更好的reward。更根本的原因在Benchmark。绝大部分Benchmark是“你只要输出了就可能得分，你说不会大概率没分”，跟考试一样，蒙个ABC还有概率对。于是全世界都在围绕模型做大规模RL，鼓励它去试。

现在已经有Benchmark开始衡量模型会不会拒绝，但准确率和拒答率是个trade-off，拒得越多，准确率可能越低。我们要改的不只是模型，还有评估方式：不单看它说得有多对，还要看它是否知道自己不知道。

月引：这在实际行业里非常要紧。金融有个有名的Benchmark叫FAB，你会看到一些很会考试的模型，为了拿分，把自己提出的85条口径全答出来。但真实的研究员能用吗？你给我85条决策，等于没给，我最多只能接受两三条，剩下的由我来判断。

所以在训练中，除了看最后的结果，我们还要对行为设reward和惩罚。在这些严肃场景里，对幻觉的拒绝要给得更重。我宁可你说我不知道，也不要给我一堆口径让我猜。

Q：可专业化和可信的执行，具体指什么？

西亭：可专业化，不是简单给模型补行业知识就完成了。我们希望它理解专业的语境，能调专业的工具，按专业的流程工作。好比看医生，医生上来问一两个问题，你就能判断他专不专业；很多模型上来就开始作答，但专业医生不是这样工作的。最重要的是，模型要知道哪些事需要授权才能干，哪些需要复核。

可信的执行，不是让模型完全不犯错。人在环境中交互也会犯错，我们希望模型系统更有能力发现问题、限制问题的影响，解决不了时能请人复核。所以我们在Ling-3.0上有过一个判断：好的Agent不只是帮用户知道下一步怎么做，更重要的是知道哪一步不能做。

医疗上这一点更明显。那个模型叫Sante，专业医生在看病时会意识到，除了这些信息，患者是不是还有信息没告诉我们，是不是需要做进一步确认。很多时候，多问一句比着急给答案重要得多。所以我们希望模型能审慎地表达不确定性，不确定的地方，在当下这个阶段交给专业人员更合适。

把模型装进“盒子”里

Q：阿福日咨询量已到千万级。这样的量级对技术架构意味着什么？是质变的挑战吗？

进捷：阿福已经遇到这个问题，用户量到一定规模，推理成本非常高。原来我们都用最大最好的模型，后来发现，如果阿福需要的是一条水位线，那么有些问题用小的模型也能超过这条线。C端还有一个很现实的问题，用户问完你让他等五秒，他就去看别的AI了。所以速度和成本都非常关键。

第二个命题是隐私。海外已经有人不太愿意把Claude接进自己的工作流，因为数据会不断被卷进去。反过来我们要想的是，模型能不能更好地被揉进场景、被定制化，同时还能保障数据安全。

还有一个趋势是AI工作站。有些数据是工作中产生的，带不回家；有些场景对数据敏感。那就让模型进到那个设备里去，离用户更近一点，离那个问题更近一点。

月引：补一句，效率不只是省钱的事。如果效率达不到，你根本没法完成一个领域里的长程任务。当日短盘里等它两个小时出结果，这事儿就不要干了。

Q：模型的技术路线和应用需求，谁优先？

进捷：这个时代最大的变量是技术，所以我们还是沿着技术发展的延长线，去找应用的落脚点。同时我们会看，在AGI这个核心命题里，我们的切口和禀赋在哪儿。

比如今年AGI很多能力落在Work上，金融里有大量理财师的工作场景没被满足；医疗里，中国所有的医生都在被临床工作困扰。我今天可以用Codex，但医生用不了，因为他回家之后，病历都在医院里。

Q：普惠医疗要做长期，最关键的是什么？

西亭：我们接触了很多用户，今年过完年没做特别大规模的宣传，一直在想这些问题的下一步怎么走。三四线城市的用户，很难找到头部的医疗资源，买药也不方便；一线城市的用户有资源，但生活不健康、压力大，凌晨之后问得最多的是失眠和情绪。

我们选皮肤科做在线医生确认，是因为皮肤问诊量大、又适合线上。但真做起来才发现，很难让医生一直在线等在那里。所以现在沿着两个方向：一边帮患者连接医生、连接机构；一边帮医生，用AI给他搭一个团队。

原来一个医生下班能接诊十个人，加了AI能不能接一百个；原来一个人管两百人的随访群，能不能管两千人。这样才能真的帮到患者。

Q：如果一个模型要真正进入真实世界，只选三个指标，你们会选什么？

西亭：第一个还是智效比。

第二个是专业性。你去医院，医生上来问一两个问题，你就大概知道他专不专业；模型也一样，不能你问一句“我生病了”，它就开始作答，至少要先问你多大年纪、做什么行业、昨晚睡得怎么样。

第三个是开放性。一个连思维链都不让人看的模型，有多少人敢在重大决策上信它？医生跟你说你得了个大病却不给理由，没人会信。

如果再加一个，是反馈闭环。模型得在真实环境里收到反馈，收不到反馈是很痛苦的一件事。所以我们做了原生的多模态，因为模型不能是个瞎子，它得看得见自己生成的年报换行有没有搞对。