专题：2026陆家嘴论坛：央行、金融监管总局、证监会领导演讲
6月18日金融一线消息，中国农业银行董事长、执行董事谷澍出席2026陆家嘴论坛，并参加主题为“科技创新赋能金融高质量发展”的主题演讲。
谷澍主要探讨了控制AI大模型应用风险的措施与实践。他认为，大模型当前面临的主要风险有以下几个：模型黑箱、模型的幻觉、模型自主思考和决策带来的不确定性，可细分为三大类。
第一，参数海量带来模型可解释性的难题。现在主流大模型的参数规模已经有千亿甚至万亿级别，海量参数的矩阵运算和生成非线性叠加，导致模型的决策机制和输出结果不透明，也很难解释。
第二，概率生成带来准确性的考验。如果对大模型有了解，大家会知道大模型决策的过程不像人类进行决策时有线性思维的过程，大模型是根据海量训练数据统计词源token的概率性规律，它本质上是概率统计，不是逻辑性的事实推导。当数据和事实依据不足时，容易产生自洽的幻觉。
第三，模型现在已经能自主思考和决策了。随着大模型的进化和智能体的深度应用，它已经突破传统软件输入输出相对固化的范式，能够自主思考，这在一定程度上放大了过程不可控、结果不可知的风险。
“我们能做的不是消除风险，而是一方面我们认识到大模型有很大作用，我们能够把它的作用发挥好，同时也要认识到大模型的局限性，想办法尽量控制风险。”谷澍结合银行实践介绍了把控AI大模型应用风险的几点做法：
第一，分类施策推进场景适配，金融应用大模型的时候是应用在不同的场景里面，对于不同的场景，可以建立模型的黑箱的分级管控，不同场景匹配差异化的技术路线和可解释性的要求。比如对于信贷决策，属于强监管的场景，我们就使用模型的蒸馏技术让大模型在数据合成、归因分析等方面提供助力，把大模型的能力迁移到更具可解释性的针对不同场景的不同的小模型上；比如投研分析属于高认知的场景，强化思维链的设计；对于产品营销的场景，更灵活一些，充分发挥模型的创造力。
第二，设置一定的标尺约束的控制，大模型有时候会产生幻觉，有时候会自由发挥，针对不同的场景进行应用的时候是需要建立参数、建立标尺控制它的应用路径。同时再把它和人机结合起来，大模型过程里人的作用是最终做决策，比如应用AI赋能信贷调查报告的智能生成时，就建立业务标尺，通过模型的互检、模型的反思、业务数据校准对生成内容进行自动校验，输出关键和审核要由业务人员进行审核，确保结构可控。
第三，用AI手段应对AI应用风险，以AI对抗AI，建立纵深防御体系，增强AI对抗能力。找到大模型的AI应用里的漏洞问题，用AI手段寻找AI漏洞。
第四，强化银行内部的AI治理体系，健全全生命周期风险管理。确保AI既用得好又管得好，既留住创新空间又尽量压缩模型的黑箱、幻觉的局限性。对大模型的应用，特别是现在随着智能体范式的推广，对工具接口的调用，大模型的应用风险是在扩大的，从我们来讲，既要把大模型用好，也要把大模型应用过程中的风险防好。
责任编辑：曹睿潼
精彩评论