国产最强多模态宝座又易主？671B参数练就“火眼金睛”，基于DeepSeek打造

智东西2025-11-28

作者 | 陈骏达编辑 | 李水青智东西11月28日报道，刚刚，快手开源其新一代旗舰多模态大模型Keye-VL-671B-A37B。该模型基于DeepSeek-V3-Terminus打造，拥有6710亿个参数，在保持基础模型通用能力的前提下，对视觉感知、跨模态对齐与复杂推理链路进行了升级，实现了较强的多模态理解和复杂推理能力。Keye-VL-671B-A37B有多强？我们先用几个案例来感受下。下面的...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2586781841?lang=zh_CN&edition=full","thumbnail":"","is_english":false,"pubTime":"2025-11-28 18:41","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2586781841","market":"us","top_or_hot":-1,"title":"国产最强多模态宝座又易主？671B参数练就“火眼金睛”，基于DeepSeek打造","media":"智东西","content":"<div>\n<p>作者 | 陈骏达编辑 | 李水青智东西11月28日报道，刚刚，快手开源其新一代旗舰多模态大模型Keye-VL-671B-A37B。该模型基于DeepSeek-V3-Terminus打造，拥有6710亿个参数，在保持基础模型通用能力的前提下，对视觉感知、跨模态对齐与复杂推理链路进行了升级，实现了较强的多模态理解和复杂推理能力。Keye-VL-671B-A37B有多强？我们先用几个案例来感受下。下面的...</p>\n\n<a href=\"https://tech.ifeng.com/c/8oecXFyVuVl\">网页链接</a>\n\n</div>\n","source":"ifeng_tech","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>国产最强多模态宝座又易主？671B参数练就“火眼金睛”，基于DeepSeek打造</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n国产最强多模态宝座又易主？671B参数练就“火眼金睛”，基于DeepSeek打造\n</h2>\n\n<h4 class=\"meta\">\n\n\n2025-11-28 18:41 北京时间&nbsp;&nbsp;&nbsp;<a href=https://tech.ifeng.com/c/8oecXFyVuVl><strong>智东西</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>作者 | 陈骏达编辑 | 李水青智东西11月28日报道，刚刚，快手开源其新一代旗舰多模态大模型Keye-VL-671B-A37B。该模型基于DeepSeek-V3-Terminus打造，拥有6710亿个参数，在保持基础模型通用能力的前提下，对视觉感知、跨模态对齐与复杂推理链路进行了升级，实现了较强的多模态理解和复杂推理能力。Keye-VL-671B-A37B有多强？我们先用几个案例来感受下。下面的...</p>\n\n<a href=\"https://tech.ifeng.com/c/8oecXFyVuVl\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"LU0051755006.USD","symbol_name":"摩根大通中国A (dist)","start_time":0,"source_url":"https://tech.ifeng.com/c/8oecXFyVuVl","article_id":"2586781841","we_media_id":null,"thumbnails":[],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=2586781841","pubTimestamp":1764326495,"columns":[],"sourceInfo":{"source_id":"ifeng_tech","name":"凤凰网财经"},"weMediaInfo":null,"summary":"基于Keye-VL-preview的预实验显示，Keye-Verifier提供的奖励信号，相对于基于规则匹配的奖励信号，","collect":0,"end_time":0,"defaultTopTitle":"ifeng.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"81024":"快手-WR","LU0051755006.USD":"摩根大通中国A (dist)","LU0359201612.USD":"贝莱德中国基金A2","LU0244354667.USD":"SCHRODER ISF CHINA OPPORTUNITIES \"A\" ACC","LU0359202008.SGD":"Blackrock China Fund A2 SGD-H","LU1251922891.USD":"NINETY ONE GSF ALL CHINA EQUITY \"A\" (USD) ACC","LU0326950275.SGD":"Schroder ISF China Opportunities A Acc SGD-H","LU1720050803.USD":"安联全方位中国股票基金","LU1023057109.AUD":"BGF CHINA \"A2\" (AUDHDG) ACC","BK1610":"ETF&股票定投概念","LU0210526637.USD":"JPM CHINA \"A\" (USD) ACC","LU0456827905.SGD":"JPMorgan Funds - China A (acc) SGD","LU0572944931.SGD":"Janus Henderson Horizon China Opportunities A2 SGD","BK1095":"互动媒体与服务","BK1615":"港股-互联网","BK1608":"元宇宙概念","LU1303224171.USD":"NINETY ONE GSF ALL CHINA EQUITY \"A\" (USD) INC","BK1575":"同股不同权","LU1719994722.HKD":"NINETY ONE GSF ALL CHINA EQUITY \"A\" (HKD) ACC","LU2097828557.USD":"AZ EQUITY CHINA \"A\" (USD) ACC","SFT":"Shift Technologies, Inc.","LU2097828631.EUR":"AZ EQUITY CHINA \"A\" (EUR) ACC","LU1794554557.SGD":"Allianz All China Equity AT Acc H2-SGD","BK1591":"就地过年概念","LU1770034418.SGD":"ALL CHINA EQUITY \"A\" (SGDHDG) ACC","LU0588546209.SGD":"Eastspring Investments - China Equity Fund AS SGD","LU2097828714.EUR":"AZ EQUITY CHINA \"BAZ\" (EUR) ACC","BK1590":"短视频概念股","LU0463099449.HKD":"SCHRODER ISF CHINA OPPORTUNITIES \"A\" (HKD) ACC","LU0327786744.USD":"Janus Henderson Horizon China Opportunities A2 USD","LU2097828805.USD":"AZ EQUITY CHINA \"A-AZ\" (USD) ACC","LU0359201885.HKD":"BGF CHINA \"A2\" (HKD) ACC","LU0348766576.USD":"ALLIANZ LITTLE DRAGONS \"A\" (USD) INC","LU0348767384.USD":"ALLIANZLITTLE DRAGONS \"A\" (USD) ACC","LU0140636845.USD":"施罗德大中华区股票A Acc","LU0307460666.USD":"EASTSPRING INVESTMENTS CHINA EQUITY \"A\" ACC","LU2097828474.EUR":"AZ EQUITY CHINA \"A\" (EUR) ACC A","01024":"快手-W","LU0593848301.USD":"未来资产亚洲卓越消费股票基金A","LU0211977185.USD":"EASTSPRING INVESTMENTS GREATER CHINA EQUITY \"A\" ACC","BK4214":"汽车零售","LU1188198961.HKD":"SCHRODER ISF CHINA OPPORTUNITIES \"A\" (HKD) INC QV"},"translate_title":"The strongest multi-modal throne in China has changed hands? 671B parameters develop \"sharp eyes\", built based on DeepSeek","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"81024":0.6,"KSTmain":0.6,"SFT":1,"01024":0.9},"content_text":"作者 | 陈骏达编辑 | 李水青智东西11月28日报道，刚刚，快手开源其新一代旗舰多模态大模型Keye-VL-671B-A37B。该模型基于DeepSeek-V3-Terminus打造，拥有6710亿个参数，在保持基础模型通用能力的前提下，对视觉感知、跨模态对齐与复杂推理链路进行了升级，实现了较强的多模态理解和复杂推理能力。Keye-VL-671B-A37B有多强？我们先用几个案例来感受下。下面的图中有几张电影票？多数人看完第一眼可能会脱口而出：“三张。”不过，Keye-VL-671B-A37B的观察更为仔细，结合票据上的文字，它能判断出其实图中仅有两张电影票，最上面那一张是爆米花小吃券。查看思考过程后，可发现它不仅准确识别画面中每张票据的文字、标识和版式差异，更能进一步推理：左边和中间的票据符合电影票的核心特征，右侧票据无座位信息、无影片场次标注，实为叠放的食品兑换券，并非电影票。除了图像理解能力以外，Keye-VL-671B-A37B同样拥有强大的视频理解和推理能力。当被问及下方视频的镜头是怎样变化时，它能识别出“蓝色双层电车”、“Louis Vuitton”、“Tiffany & Co”等核心元素，并输出镜头变化的细节。快手公布了Keye-VL-671B-A37B与其他VL模型的性能对比。在通用视觉理解和视频理解两大核心领域，Keye-VL-671B-A37B的整体表现超过了字节的Seed1.5-VL think、阿里的Qwen3-VL 235B-A22B等前沿VL模型。在涵盖STEM、推理、通用问答、视频理解、OCR和纯文本等能力的26项主流基准测试上，Keye-VL-671B-A37B斩获18项最高得分。目前，Keye-VL-671B-A37B已经正式开源，可在Hugging Face和GitHub下载体验。一、三阶段完成预训练，仅使用300B高质量数据Keye-VL-671B-A37B采用DeepSeek-V3-Terminus作为大语言模型基座初始化，具备更强的文本推理能力，视觉模型采Keye-ViT初始化，这一组件来自Keye-VL-1.5，二者通过MLP层进行桥接。Keye-VL-1.5是快手今年9月初开源的一款多模态大模型，拥有80亿个参数，支持128k tokens扩展上下文。Keye-VL-671B-A37B的预训练涵盖三个阶段，以系统化构建模型的多模态理解与推理能力。模型复用Keye-VL-1.5的视觉编码器，该编码器已经通过8B大小的模型在1T token的多模态预训练数据上对齐，具备较强的基础感知能力。快手筛选了大约300B高质量数据预训练数据，这与其他大模型动辄以“T（万亿）”计算的训练数据差异很大。快手称，希望以有限计算资源高效构建模型的核心感知基础，确保视觉理解能力扎实且计算成本可控。Keye-VL-671B-A37B的预训练分三步走：第一阶段：冻结ViT和LLM，只训练随机初始化的Projector，保证视觉、语言特征能初步做对齐。第二阶段：打开全部参数进行预训练。第三阶段：在更高质量的数据上做退火训练，提升模型的细粒度感知能力。Keye的多模态预训练数据是通过一套自动化的数据管线来构建的。快手对数据做了严格过滤、重采样，并加入VQA数据增强，让数据能覆盖像OCR、图表、表格这些常见且复杂的视觉格式，提升模型的感知质量和泛化能力。在退火阶段，快手加入了DeepSeek-V3-Terminus生成的思维链数据，让模型在继续强化视觉感知的同时，不会丢掉原本强大的推理能力。二、采用多阶段后训练策略，验证混合CoT数据效果更好Keye-VL-671B-A37B的后训练由监督微调（SFT）、冷启动和强化学习三个步骤组成，训练任务涵盖视觉问答、图表理解、富文本OCR、数学、代码、逻辑推理等。在SFT阶段，Keye-VL-671B-A37B技术团队使用了更多的多模态和纯文本长思维链数据，对模型的纯文本能力进行回火并增强多模态能力。在冷启动阶段，采用推理数据增强模型的推理能力，在强化学习阶段，采用复杂推理数据提升模型的think和no_think（思考与非思考）能力，并加入视频数据，增强模型的视频理解能力。Keye-VL-671B-A37B技术团队对数据集中指令（Instruct）数据和长思维链（Long-CoT）数据的配比进行反复实验，以突破此前监督微调范式片面依赖指令数据的局限性。这一过程中，快手验证了混合模式（Instruct + Long-CoT）相对于单一模式（Instruct）的优越性，即在SFT数据集中加入更多长思维链推理数据，有利于提升模型整体性能，以及改善后续训练稳定性。loss曲线显示，在SFT阶段加入更多的CoT数据可以显著降低冷启动阶段的训练loss。在多个benchmark上的性能对比也表明，混合CoT数据训练的模型相比于指令微调的模型取得了明显的性能提升。在冷启动阶段，CoT数据的质量对于提升模型的推理能力至关重要，而纯文本模型的推理过程往往冗长而且存在大量重复，为了缓解过度思考的问题，Keye-VL-671B-A37B技术团队开发了严格的数据筛选流程，过滤掉存在冗余反思行为的思维链。在Keye-VL-1.5-8B上的实验结果显示，过滤冗余数据对于模型的推理能力和感知能力均有增益。三、强化学习采用Qwen3同款算法，并打造专用Verifier模型强化学习阶段，快手没有使用传统的GRPO强化学习算法。GRPO是token-level（token层）的建模，在训练MoE模型时存在不稳定性。在Keye-VL-671B-A37B的训练中，快手采用GSPO（Group Sequence Policy Optimization）作为底层强化学习算法，进行sequence-level（序列层）的建模，提升可验证奖励强化学习（RLVR）训练的稳定性。值得注意的是，该算法是阿里Qwen3系列模型的核心算法之一。对于强化学习而言，奖励信号的质量至关重要。在Keye-VL-671B-A37B的强化学习系统中，快手首先训练了专门的Verifier（验证器），用于验证模型输出思考过程的逻辑性，以及最终答案与标准答案的一致性，Verifier模型采用Keye-VL-1.5 8B作为基座，训练过程包括SFT和RL两个阶段。在SFT阶段，既有简单的二分类任务，即直接判断生成的答案是否与参考答案一致，也有更复杂的分析任务，需要Verifier模型采用think-answer的格式分析模型生成的回复的逻辑性和正确性。在RL阶段，技术团队首先在大规模偏好数据上训练，然后利用人工标注的高质量数据集进行退火，提高Verifier模型的精度。为了考察Verifier模型对于生成结果的检测精度，技术团队抽取了10000条训练数据以及模型生成的答案，对比Verifier模型和Qwen-2.5-VL 72B Instruct模型的检测精度，在人工抽样的150条Keye-Verifier与Qwen判别结果不一致的数据中，Keye正确的数目达到了128条，Qwen占22条。基于Keye-VL-preview的预实验显示，Keye-Verifier提供的奖励信号，相对于基于规则匹配的奖励信号，使Keye-VL-preview在多个开源感知benchmark上的平均准确率提升了1.45%，在三个多模态数学数据集上的平均准确率提升了1.33%。为了筛选高难度样本，快手利用Keye-VL-1.5-8B作为过滤器，在候选数据集上采样并用Verifier模型计算准确率，仅保留正确率在25%~75%之间的数据用于训练。在RL数据集中，快手加入了更多视频数据以提升模型的视频理解能力。结语：多模态模型，迈向会“办事儿”的未来快手称，未来，Keye-VL系列模型将在提升基础模型能力的同时，进一步融合多模态Agent能力，走向更“会用工具、能解复杂问题”的形态。模型的多轮工具调用能力会得到增强，让它能够在真实任务中自主调用外部工具，完成搜索、推理、整合。同时，快手也会推进“think with image”、“think with video”等关键方向，使模型不仅能看懂图像与视频，还能围绕它们进行深度思考与链式推理，在复杂的视觉信号中发掘关键信息。最终，快手希望打造出更通用、更可靠、更强推理的下一代多模态系统。","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"symbols":[],"gpt_button":0,"need_auth":false,"code":"91000000","status":"200"},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"tenantId":"TBCN","deviceId":"web-server-community-laohu8-v3","version":"4.36.2","shortVersion":"4.36.2","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2586781841","isCrawlerRequest":true}