端侧大模型爆发元年，商汤超预期的地方在哪？

第一财经04-26

4月26日，商汤（00020.HK）收盘大涨43.37%，已连续5个交易日上涨，累计涨幅105%。消息面上，4月23日，商汤发布了业内首个“云、端、边”全栈大模型产品矩阵，以满足不同规模场景的应用需求，并全新升级“日日新SenseNova5.0” （下称“日日新5.0”）大模型体系。“日日新5.0”据悉在知识、数学、推理和代码能力方面大幅提升，综合能力全面对标GP T-4 Turbo。银河证券发布...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2430127421?lang=zh_CN&edition=full","thumbnail":"","is_english":false,"pubTime":"2024-04-26 21:06","share_image_url":"https://static.laohu8.com/9a95c1376e76363c1401fee7d3717173","id":"2430127421","market":"hk","top_or_hot":-1,"title":"端侧大模型爆发元年，商汤超预期的地方在哪？","media":"第一财经","content":"<div>\n<p>4月26日，商汤（00020.HK）收盘大涨43.37%，已连续5个交易日上涨，累计涨幅105%。消息面上，4月23日，商汤发布了业内首个“云、端、边”全栈大模型产品矩阵，以满足不同规模场景的应用需求，并全新升级“日日新SenseNova5.0” （下称“日日新5.0”）大模型体系。“日日新5.0”据悉在知识、数学、推理和代码能力方面大幅提升，综合能力全面对标GP T-4 Turbo。银河证券发布...</p>\n\n<a href=\"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN202404262106347a56357a&s=b\">网页链接</a>\n\n</div>\n","source":"tencent","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>端侧大模型爆发元年，商汤超预期的地方在哪？</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n端侧大模型爆发元年，商汤超预期的地方在哪？\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-04-26 21:06 北京时间&nbsp;&nbsp;&nbsp;<a href=http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN202404262106347a56357a&s=b><strong>第一财经</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>4月26日，商汤（00020.HK）收盘大涨43.37%，已连续5个交易日上涨，累计涨幅105%。消息面上，4月23日，商汤发布了业内首个“云、端、边”全栈大模型产品矩阵，以满足不同规模场景的应用需求，并全新升级“日日新SenseNova5.0” （下称“日日新5.0”）大模型体系。“日日新5.0”据悉在知识、数学、推理和代码能力方面大幅提升，综合能力全面对标GP T-4 Turbo。银河证券发布...</p>\n\n<a href=\"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN202404262106347a56357a&s=b\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"80020","symbol_name":"商汤-WR","start_time":0,"source_url":"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN202404262106347a56357a&s=b","article_id":"2430127421","we_media_id":null,"thumbnails":[],"rights":{"source":"tencent","url":"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN202404262106347a56357a&s=b","rn_cache_url":null,"customStyle":"body{padding-top:10px;}#news_title{font-weight:bold;#titleStyle#;}#news_description span{font-size:12px;#descriptionStyle#;}.footer-note{#statement#}","selectors":".mod-LoadTzbdNews, body","filters":".relate-stock, .hot-list, .recom-box, .wx-sou","directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2430127421","pubTimestamp":1714136760,"sourceInfo":{"source_id":"tencent","name":"腾讯"},"weMediaInfo":null,"summary":"银河证券发布研报称，商汤“日日新SenseNova”发布节奏超预期，综合能力大幅提升，有望推动国内通用大模型厂商加速迭代，降低应用端成本和门槛，进一步拓宽应用端场景，推动AI商业化进程提速。端云协同或是未来端侧大模型应用的主流趋势。据悉，目前搭载商汤端侧大模型的设备有部分正在量产，也有部分正处于接洽过程当中。","collect":0,"end_time":0,"defaultTopTitle":"qq.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"80020":"商汤-WR","00020":"商汤-W","BK1109":"应用软件"},"translate_title":"In the first year of the explosion of the end-side large model, where did SenseTime exceed expectations?","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"80020":0.6,"00020":1},"content_text":"4月26日，商汤（00020.HK）收盘大涨43.37%，已连续5个交易日上涨，累计涨幅105%。消息面上，4月23日，商汤发布了业内首个“云、端、边”全栈大模型产品矩阵，以满足不同规模场景的应用需求，并全新升级“日日新SenseNova5.0” （下称“日日新5.0”）大模型体系。“日日新5.0”据悉在知识、数学、推理和代码能力方面大幅提升，综合能力全面对标GP T-4 Turbo。银河证券发布研报称，商汤“日日新SenseNova”发布节奏超预期，综合能力大幅提升，有望推动国内通用大模型厂商加速迭代，降低应用端成本和门槛，进一步拓宽应用端场景，推动AI商业化进程提速。“日日新SenseNova5.0”性能对标GPT-4 Turbo自去年4月首次发布以来，商汤“日日新SenseNova”大模型体系已正式推出五个大版本迭代。基于超过10TB tokens训练、覆盖大量合成数据，全新的“日日新5.0”采用混合专家架构，推理时上下文窗口可以有效到 200K 左右。据悉，本次更新主要聚集增强了知识、数学、推理及代码能力，全面对标 GPT-4 Turbo，主流客观评测上达到或超越 GPT-4 Turbo。（资料来源：商汤）文科能力方面，“日日新5.0”的创意写作能力、推理能力以及总结能力均大幅提升，相同的中文知识注入后，可以获得更好的理解总结及问答，为教育、内容产业等垂直应用场景提供有力辅助。理科能力方面，“日日新5.0”的数理能力、代码能力及推理能力达到业内领先水平，为金融、数据分析等场景落地提供坚实基础。多模态能力是大模型的另一大核心指标。商汤介绍称，商汤多模态大模型的图文感知能力达到全球领先水平，在多模态大模型权威综合基准测试MMBench中综合得分排名首位，具备丰富的多模态交互能力。商汤把大模型能力分为三层：知识层、推理层和执行层。商汤董事长兼CEO徐立介绍，知识层，即过往大模型已经有共识能够把世界的知识融汇到一个模型当中；推理层，也就是世界知识联系背后的道理，是更加高阶的知识，是决定模型是否聪明、是否能够举一反三的核心能力；在推理之上如果能跟世界进行交互就有了执行层。“知识、推理、执行形成完备的集合来构造大模型的三个基本能力，它给了我们构造高质量数据的核心方法论。商汤在尺度定律的指导下，会持续探索大模型能力的KRE三层架构（知识-推理-执行），不断突破大模型能力边界。”徐立表示。率先完成“云端边”全栈布局过去一年，云端大模型在各个行业已开始应用，但智能终端侧，如手机、PC、汽车等AIoT设备，也是通用人工智能应用的广泛载体和场景。时下中心化算力需求正逐渐向端侧扩展，企业在边缘侧的AI需求也在快速增长。商汤此次在业内首次推出“云、端、边”全栈大模型产品矩阵，其中包括应用于终端设备的“商汤端侧大模型”，以及面向金融、代码、医疗、政务等多个领域的边缘产品“商汤企业级大模型一体机”。（资料来源：商汤）商汤表示，日日新·端侧大语言模型的推理速度达到了业内最快，可在中端平台实现18.3字/秒的平均生成速度，旗舰平台更是达到了78.3字/秒；扩散模型同样可在端侧实现业内最快的推理速度，端侧LDM-AI扩图技术在某主流平台上，推理速度小于1.5秒，比友商云端app快10倍，支持输出1200万像素及以上的高清图片，支持在端上快速进行等比扩图、自由扩图、旋转扩图等图像编辑功能。银河证券认为，未来通用大模型领域可能会更加集中在头部厂商，更多厂商需要向行业专业化转型，寻求赋能行业以及终端应用突破，垂类大模型以及端侧大模型将是未来主战场，市场空间广阔。商汤此次还推出端云协同解决方案，可以通过智能化判断协同发挥端云各自优势，需要联网搜索或处理复杂场景时分流至云端处理，部分场景端侧处理占比超过80%，从而显著降低推理成本。端云协同或是未来端侧大模型应用的主流趋势。“有几个重要的问题需要通过端云结合来解决。”商汤联合创始人、首席科学家王晓刚对第一财经表示。王晓刚表示，一是成本问题，比如全国目前有30亿台手机，假如每人每天调用近10次，那么对于云端的算力需求和消耗成本是巨大的；二是数据的传输和延迟，比如在智能汽车场景，行驶过程中针对车内外特别是车外场景提出的各种问题，需要得到非常及时、准确快速的响应，最典型的比如在自动驾驶里，大模型的部署必须是发生在端侧的；三是数据安全、隐私各方面的问题，此外也有些没有网络的地方，用户还是希望仍然能持续拥有大模型的体验，这一切都实际推动了端侧大模型的普及和推广。对于端侧大模型来说，其使用体验、性能与云侧大模型对齐至关重要。“在过去一年里，我们在云端给手机、汽车客户提供服务时，针对手机、智能汽车这些终端用户的需求，对云侧模型做了大量的改进和开发。这样再开发端侧模型，端侧模型的体验就可以和云侧模型对齐。”王晓刚表示。“这也是商汤端云结合的独特优势。”王晓刚称，“端云结合最终是一个大的MOE（Mixture-of-Experts）架构，会有若干个端侧小模型，当用户输入需求时，我们会做出判断，到底应该调用哪一个模型，或者是到云端调用云端模型。所以它是一个稀疏式的模型的激活，可以大大节省运算成本，降低功耗。”据悉，目前搭载商汤端侧大模型的设备有部分正在量产，也有部分正处于接洽过程当中。在个人出行场景，近期火爆市场的小米汽车SU7，小米“小爱同学”为车主提供智能化交互体验，当中也集合应用了商汤的大模型技术能力，有基于商汤端云大模型解决方案。","kind":null,"is_publish_news":null,"is_publish_highlight":null,"is_publish_live":null,"is_publish_wemedia":null,"editions":null,"symbols":[],"gpt_button":1},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"deviceId":"web-server-community-laohu8-v3","version":"4.22.4","shortVersion":"4.22.4","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2430127421"}