推理正确率下降65.5%！斯坦福、MIT等用“不等式”拷问AI逻辑极限

市场资讯2025-06-23

炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！新智元报道编辑：LRST【新智元导读】大语言模型在数学证明中常出现推理漏洞，如跳步或依赖特殊值。斯坦福等高校团队提出IneqMath基准，将不等式证明拆解为可验证的子任务。结果显示，模型的推理正确率远低于答案正确率，暴露出其在数学推理上的缺陷。在大模型频频给出“看似完美”答案的今天，我们是否已经迎来了真正“会推理”的AI？...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2545464312?lang=zh_CN&edition=full","thumbnail":"","is_english":false,"pubTime":"2025-06-23 13:17","share_image_url":"https://static.laohu8.com/b0d1b7e8843deea78cc308b15114de44","id":"2545464312","market":"sh","top_or_hot":-1,"title":"推理正确率下降65.5%！斯坦福、MIT等用“不等式”拷问AI逻辑极限","media":"市场资讯","content":"<div>\n<p>炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！ 新智元报道编辑：LRST【新智元导读】大语言模型在数学证明中常出现推理漏洞，如跳步或依赖特殊值。斯坦福等高校团队提出IneqMath基准，将不等式证明拆解为可验证的子任务。结果显示，模型的推理正确率远低于答案正确率，暴露出其在数学推理上的缺陷。在大模型频频给出“看似完美”答案的今天，我们是否已经迎来了真正“会推理”的AI？...</p>\n\n<a href=\"https://finance.sina.com.cn/stock/t/2025-06-23/doc-infazvxh0620629.shtml\">网页链接</a>\n\n</div>\n","source":"sina","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>推理正确率下降65.5%！斯坦福、MIT等用“不等式”拷问AI逻辑极限</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n推理正确率下降65.5%！斯坦福、MIT等用“不等式”拷问AI逻辑极限\n</h2>\n\n<h4 class=\"meta\">\n\n\n2025-06-23 13:17 北京时间&nbsp;&nbsp;&nbsp;<a href=https://finance.sina.com.cn/stock/t/2025-06-23/doc-infazvxh0620629.shtml><strong>市场资讯</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！ 新智元报道编辑：LRST【新智元导读】大语言模型在数学证明中常出现推理漏洞，如跳步或依赖特殊值。斯坦福等高校团队提出IneqMath基准，将不等式证明拆解为可验证的子任务。结果显示，模型的推理正确率远低于答案正确率，暴露出其在数学推理上的缺陷。在大模型频频给出“看似完美”答案的今天，我们是否已经迎来了真正“会推理”的AI？...</p>\n\n<a href=\"https://finance.sina.com.cn/stock/t/2025-06-23/doc-infazvxh0620629.shtml\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"BK6515","symbol_name":"技术设备股","start_time":0,"source_url":"https://finance.sina.com.cn/stock/t/2025-06-23/doc-infazvxh0620629.shtml","article_id":"2545464312","we_media_id":null,"thumbnails":[],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=2545464312","pubTimestamp":1750655820,"columns":[],"sourceInfo":{"source_id":"sina","name":"sina"},"weMediaInfo":null,"summary":"斯坦福等高校团队提出IneqMath基准，将不等式证明拆解为可验证的子任务。结果显示，模型的推理正确率远低于答案正确率，暴露出其在数学推理上的缺陷。近日，来自斯坦福大学、麻省理工学院与加州大学伯克利分校的研究团队联合提出了一个创新性数学不等式基准IneqMath，专门用于评估语言模型在复杂数学推理中的严谨性与合理性。","collect":0,"end_time":0,"defaultTopTitle":"sina.com.cn","property":[],"viewcount":null,"language":"zh","relate_stocks":{"BK6515":"技术设备股","BK6062":"电子制造服务","MIT":"Mason Industrial Technology Inc","M11.SI":"综合制造科技"},"translate_title":"The reasoning accuracy rate dropped by 65.5%! Stanford, MIT, etc. use \"inequality\" to torture the logical limits of AI","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"M11.SI":1,"MIT":1},"content_text":"炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！ 新智元报道编辑：LRST【新智元导读】大语言模型在数学证明中常出现推理漏洞，如跳步或依赖特殊值。斯坦福等高校团队提出IneqMath基准，将不等式证明拆解为可验证的子任务。结果显示，模型的推理正确率远低于答案正确率，暴露出其在数学推理上的缺陷。在大模型频频给出“看似完美”答案的今天，我们是否已经迎来了真正“会推理”的AI？多位网友分享了自己的经历，“我试过用LLMs做正割和正切的定理的证明，但是结果错误的太多了！”“大语言模型在解题的时候可能只是从训练数据集中概括了推理模式，但是并没有具体问题用具体的方法分析。”“大语言模型的幻觉始终是诸多人工智能应用（包括数学证明）的主要障碍！”这些大模型在面对数学证明题目时，自信满满地输出了“解题思路”和“证明过程”，一切看上去井井有条。但你是否注意到，很多推理其实没有解释关键步骤，甚至直接用一个“看起来合理的句子”替代了逻辑推导？这不是个别现象，而是结构性问题。近日，来自斯坦福大学、麻省理工学院（MIT）与加州大学伯克利分校的研究团队联合提出了一个创新性数学不等式基准IneqMath，专门用于评估语言模型在复杂数学推理中的严谨性与合理性。论文链接：https://arxiv.org/abs/2506.07927官方网站：ineqmath.github.io数据集链接：https://huggingface.co/datasets/AI4Math/IneqMath代码链接：https://github.com/lupantech/ineqmath在线排行榜：https://huggingface.co/spaces/AI4Math/IneqMath-Leaderboard题目可视化展示：https://ineqmath.github.io/#visualizationAI会答题，但它真的会“证明”吗？过去几年，像GPT-4、Claude、Gemini等大模型不断刷新我们对AI能力的认知。它们已经能写论文、解题，甚至“解释”自己的推理过程。但研究者发现一个惊人的现象：很多模型确实能给出正确答案，但它们的推理过程却漏洞百出，比如：这意味着，当前大模型并不具备稳定、可靠的逻辑结构。它们可以“合理地猜对”，但无法“严格地推理对”。让AI暴露推理盲点为了解决这一问题，研究团队构建了全新的数学评测体系IneqMath，核心思路是：这种“非形式化但可验证”的方法，比单纯要求形式逻辑更贴近人类实际思维，也能同时定量衡量大语言模型的答案和过程的推理准确性。其中Bound Estimation（界限估计）和Relation Prediction（关系预测）的题目示例如下Bound Estimation（界限估计）测试集题目示例Relation Estimation（关系判断）测试集题目示例从多维角度审查AI推理过程为了深入评估大模型的推理严谨性，研究团队设计了一个名为LLM-as-Judge的自动审查框架，内部由五个独立的“评审器”组成，专门从多个维度对模型的解题过程进行细致分析。这些“评委”分别是Final Answer Judge用来衡量最终的答案是否正确、和4个Step-wise Judge用来从不同的维度衡量推理的步骤是否是正确的。借助这一系统，研究者不再仅仅关注模型“猜得准”与否，而是能逐步拆解每一步逻辑链，判断模型是否真正具备严密推理的能力，而非只是“蒙对了结论”。这4个Step-wise Judge分别是Toy Case Judge、Logical Gap Judge、Numerical Approximation Judge、Numerical Computation JudgeToy Case Judge它的职责是识别模型是否通过代入个别特殊数值（如a=1, b=2）来推导出对所有情况都成立的结论。可以看到，该模型在求解过程中借助特定数值的带入，并依赖代入后表达式的大小关系来推断其最小上界，这实际上是一种以有限实例推及普遍结论的推理方式。Toy Case Judge针对模型结果中这种通过特殊取值进行推断的现象进行了深入剖析，精准地定位了问题，并最终判定为False，说明该结论因基于特例而不具备普遍性，应视为不正确。Logical Gap Judge它主要负责判断模型的推理链条中是否存在关键步骤的跳过、推导中缺乏解释的等价变换，或者直接从条件跃迁到结论而没有交代中间过程。可以看到，该语句声称“数值检验确认最小值发生在 x = 1”，却完全未展示任何实际数值结果、评估过程或可视／分析证据来支撑这一说法，这实际上是一种无充足依据的断言式推理。Logical Gap Judge针对这类缺乏实证数据与分析佐证的论断进行了深入评估，精准定位了其中的逻辑空缺，并最终判定为False，指出该结论因证据不足而不具备说服力，应被视为错误。Numerical Approximation Judge它会检查模型是否使用了模糊不清的数值估算替代了精确计算，进而破坏了数学证明所要求的严谨性。可以看到，上述计算依赖于三角函数的近似十进制值。仅通过将S的近似值与114做比较来推断二者关系，并不具备严格的数学依据。这正是Numerical Approximation Judge所关注的问题：针对这种因过度依赖粗糙近似而产生的误导性结论，Judge进行了详尽审查，精确识别了其中的数值近似漏洞，最终判定为False，表明该结论因数值近似失当而不够严谨，应被视为错误。Numerical Computation Judge它专注于捕捉模型在基础运算中出现的错误，比如简单的乘法加法算错，或者代入过程中产生了错误的数值推导。可以看到，Numerical Computation Judge会首先从响应文本中自动识别出所有的数值计算的表达式然后基于这些等式生成对应的验证代码（这里使用了Sympy的Rational类型）执行后却发现出现了数值计算上的错误。Numerical Computation Judge正是通过这种提取–编码–执行的数值检验流程，精准地定位到计算环节的遗漏或错误，并最终判定该推断为False，指出原步骤因数值计算不正确而错误。令人震惊的“Soundness Gap”研究团队使用LLM-as-Judge在GPT-4、Claude、Grok、Gemini、Llama等29款主流模型上进行了系统评估，结果显示：这意味着目前大语言模型推理链条中存在严重结构性缺陷，即使答对了，也无法保证中间过程有逻辑闭环。IneqMath打榜为了推动大语言模型在严谨数学论证上的突破，科研团队搭建了一个持续更新的IneqMath排行榜，向全球开发者开放提交。不论你是在调试轻量化模型，还是在优化顶级推理系统，都能将成果上传平台，自动化评测其答案正确率与推理完整度。排行榜链接：https://huggingface.co/spaces/AI4Math/IneqMath-Leaderboard排行榜提供多种筛选功能，让您轻松挑选感兴趣的模型类别；只需点击表头，即可按照任意字段自定义排序。页面还直观展示了各模型的关键参数，便于快速对比与查看。如需提交自己的模型结果，点击进入网页后即可看到提交界面。上传模型的结果，并填写对应的模型参数后，您的模型结果就会自动的在后台进行评估。提交后，点击页面上方的“Process Query”按钮，输入“提交时填写的邮箱地址”，即可查看评估结果。在此界面，你可以将成绩一键发布至公共排行榜，向大家展示你的出色表现；如对当前排名不满意，也可随时在此将其移除。参考资料：https://ineqmath.github.io/\n\n\n\n海量资讯、精准解读，尽在新浪财经APP","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"isVideo":false,"video":null,"symbols":[],"gpt_button":1,"need_auth":false,"need_login_tip":false,"code":"91000000","status":"200"},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"tenantId":"TBCN","deviceId":"web-server-community-laohu8-v3","version":"4.42.0","shortVersion":"4.42.0","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2545464312","isCrawlerRequest":true}