百度点亮昆仑芯P800三万卡集群沈抖：推理降本是企业最重要工作

雷递网2025-04-26

雷递网乐天 4月26日4月25日，以“模型的世界，应用的天下”为主题的Create 2025 百度AI开发者大会在湖北武汉召开。会上，百度集团执行副总裁、百度智能云事业群总裁沈抖分享了百度智能云在智能基础设施建设方面的最新成果，并在算力、模型及应用等方面发布一系列新产品。百度称，大模型的高效落地亟需从底层算力到应用的全栈、系统级支撑——既需高性能硬件与集群优化，也需灵活的开发工具链与场景化...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2530119487?lang=zh_CN&edition=full","thumbnail":"https://leidinews-1256465536.cos.ap-chengdu.myqcloud.com/u_News/20250426/6388125940819519327654711.jpeg","is_english":false,"pubTime":"2025-04-26 10:16","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2530119487","market":"hk","top_or_hot":-1,"title":"百度点亮昆仑芯P800三万卡集群 沈抖：推理降本是企业最重要工作","media":"雷递网","content":"<div>\n<p>雷递网 乐天 4月26日4月25日，以“模型的世界，应用的天下”为主题的Create 2025 百度AI开发者大会在湖北武汉召开。会上，百度集团执行副总裁、百度智能云事业群总裁沈抖分享了百度智能云在智能基础设施建设方面的最新成果，并在算力、模型及应用等方面发布一系列新产品。百度称，大模型的高效落地亟需从底层算力到应用的全栈、系统级支撑——既需高性能硬件与集群优化，也需灵活的开发工具链与场景化...</p>\n\n<a href=\"https://www.leinews.com/n29808/detail.html\">网页链接</a>\n\n</div>\n","source":"leinews_highlight","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>百度点亮昆仑芯P800三万卡集群 沈抖：推理降本是企业最重要工作</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n百度点亮昆仑芯P800三万卡集群 沈抖：推理降本是企业最重要工作\n</h2>\n\n<h4 class=\"meta\">\n\n\n2025-04-26 10:16 北京时间&nbsp;&nbsp;&nbsp;<a href=https://www.leinews.com/n29808/detail.html><strong>雷递网</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>雷递网 乐天 4月26日4月25日，以“模型的世界，应用的天下”为主题的Create 2025 百度AI开发者大会在湖北武汉召开。会上，百度集团执行副总裁、百度智能云事业群总裁沈抖分享了百度智能云在智能基础设施建设方面的最新成果，并在算力、模型及应用等方面发布一系列新产品。百度称，大模型的高效落地亟需从底层算力到应用的全栈、系统级支撑——既需高性能硬件与集群优化，也需灵活的开发工具链与场景化...</p>\n\n<a href=\"https://www.leinews.com/n29808/detail.html\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"BK4585","symbol_name":"ETF&股票定投概念","start_time":0,"source_url":"https://www.leinews.com/n29808/detail.html","article_id":"2530119487","we_media_id":null,"thumbnails":["https://leidinews-1256465536.cos.ap-chengdu.myqcloud.com/u_News/20250426/6388125940819519327654711.jpeg"],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=2530119487","pubTimestamp":1745633811,"columns":[],"sourceInfo":{"source_id":"leinews_highlight","name":"雷帝触网"},"weMediaInfo":null,"summary":"4月25日，以“模型的世界，应用的天下”为主题的Create 2025 百度AI开发者大会在湖北武汉召开。会上，百度集团执行副总裁、百度智能云事业群总裁沈抖分享了百度智能云在智能基础设施建设方面的最新成果，并在算力、模型及应用等方面发布一系列新产品。","collect":0,"end_time":0,"defaultTopTitle":"leinews.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"BK4585":"ETF&股票定投概念","BK4514":"搜索引擎","BK4602":"量子计算概念","IE00B0JY6N72.USD":"PINEBRIDGE GLOBAL EMERGING MARKETS FOCUS EQUITY \"A\" (USD) ACC","BK4587":"ChatGPT概念","LU0640798160.USD":"EASTSPRING INVESTMENTS GLOBAL EMERGING MARKET DYNAMIC \"A\" (USD) ACC","BK4535":"淡马锡持仓","BK4612":"AI芯片","LU0287142896.SGD":"Fidelity China Focus A-SGD","BK4504":"桥水持仓","BK4579":"人工智能","BK4614":"Manus概念股","BK4588":"碎股","BK4548":"巴美列捷福持仓","BK4552":"Archegos爆仓风波概念","BIDU":"百度","BK4574":"无人驾驶","LU0173614495.USD":"富达中国焦点A","LU0359201612.USD":"贝莱德中国基金A2","LU0359202008.SGD":"Blackrock China Fund A2 SGD-H","LU1115378108.SGD":"Eastspring Investments - Global Emerging Markets Dynamic AS SGD","BK4543":"AI","BK4077":"互动媒体与服务","BK4531":"中概回港概念","LU1023057109.AUD":"BGF CHINA \"A2\" (AUDHDG) ACC","BK4526":"热门中概股"},"translate_title":"Baidu lights up Kunlun Core P800 30,000-card cluster Shen Dou: Reasoning cost reduction is the most important task of an enterprise","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"BIDU":1},"content_text":"雷递网 乐天 4月26日4月25日，以“模型的世界，应用的天下”为主题的Create 2025 百度AI开发者大会在湖北武汉召开。会上，百度集团执行副总裁、百度智能云事业群总裁沈抖分享了百度智能云在智能基础设施建设方面的最新成果，并在算力、模型及应用等方面发布一系列新产品。百度称，大模型的高效落地亟需从底层算力到应用的全栈、系统级支撑——既需高性能硬件与集群优化，也需灵活的开发工具链与场景化解决方案。基于多年在大模型研发与产业落地的积累，百度智能云构建了新一代系统级智能基础设施，为企业大模型应用落地提供最佳解决方案。沈抖表示，系统的价值，不仅是解决某一个问题，而是让企业拥有创造“创造的能力”。企业可以结合自己的数据、流程、逻辑，利用百度智能云的系统级能力打造企业专属AI基础设施。百舸+昆仑芯超节点：推理性能提升13倍、成本降低95%算力是AI时代的“新电力”。百度智能云称通过自研昆仑芯P800芯片及百舸大规模推理加速能力，实现算力性能与成本的双重突破。本次大会，百度正式点亮了昆仑芯P800的三万卡集群。在金融行业，招商银行与百度智能云基于昆仑芯P800展开算力合作。目前，除了招商银行这类金融机构，昆仑芯P800算力已在国家电网、中国钢研等央企，同济大学、北京大学等高校及一批互联网企业进行规模化部署。为了进一步降低算力使用成本，百度智能云正式发布昆仑芯超节点。昆仑芯超节点支持把64张昆仑芯AI加速卡放到同一个机柜，实现单节点的超强性能，一个机柜就能顶过去100台机器。百度称，与以往的方案相比，昆仑芯超节点用更快的机内通信替代机间通信，可以有效降低带宽成本，最终实现卡间互联带宽提升8倍，单机训练性能提升10倍，单卡推理性能提升13倍。仅仅拥有高性能芯片和大规模集群是远远不够的，如何稳定、高效地释放算力的真正价值才是关键所在。沈抖认为，未来三年，推理降本，一定是企业最重要的工作。百度智能云全面升级百舸推理加速能力。通过大规模分布式推理的PD分离，百舸支持客户根据不同场景的业务特点，自适应地设置PD配比，并做到token级别的PD负载均衡。针对MOE模型，百舸做到了大规模多机专家并行的极致优化，可以大幅降低MOE模型推理的通信开销。最后，百舸对核心链路上的每一个细节做了系统级的工程优化，大幅提升GPU的有效利用率。从百度内部实践来看，百舸推理加速的能力正在作为千帆的算力底座，为40万客户提供服务。上线以来，千帆的推理吞吐提升20倍，推理速度提升50%以上。在外部，百舸不止支持着像招商银行、中国石化、长安汽车等企业的超大规模算力需求，也很好地支撑着创企客户、伙伴的模型训练、推理需求。为企业应用开发提效 千帆发布智能体Pro及MCP服务企业部署大模型，不仅需要高性价比的模型服务，更需要全面的模型工具。在模型服务层面，目前千帆平台上有超过100多个模型，包括文心4.5Turbo、文心X1 Turbo等百度自研模型，还包括DeepSeek、Ilama、Vidu等第三方模型。在模型开发层面，千帆平台可以提供全面的模型开发工具链，支持深度思考模型、多模态模型的定制、精调。以模型蒸馏为例，智联招聘在人岗匹配场景使用了千帆平台的模型蒸馏工具链，用千亿参数的DeepSeek R1作为“教师模型”，用百亿参数的ERNIE Speed作为“学生模型”，经过调优后的小参数模型，不仅可以媲美“教师模型”的效果，成本也降低至3成。在应用开发上，本次大会千帆平台全面升级了企业级Agent开发工具链，发布了全新推理式智能体——智能体Pro，从快问快答升级到深思熟虑，并且支持每个企业定制自己的专属智能体。以污水宝为例，基于千帆Agentic RAG能力，让Agent结合企业自己的私域数据和企业知识库，可以基于对任务的理解去制定检索策略，大幅降低模型幻觉。同时，智能体Pro也支持Deep Research深度研究模式，能让Agent自主完成复杂任务的步骤规划、信息筛选和整理，支持像人一样操控电脑浏览网页（computer use）进行探索式知识收集，也支持像人一样使用多种工具绘制图标、撰写，生成结构清晰、内容丰富的专业报告。基于DeepResearch能力，荣耀正在利用千帆平台，面向高校学生、职场白领等群体，打造一款科研场景深度研究的应用，将很快会在荣耀笔记本上上线。MCP的出现，帮助开发者和企业在开发Agent时，能够更好地利用行业数据和工具。本次大会，百度智能云正式发布国内首个企业级MCP服务，第一批已经有超过1000个MCP Servers 供企业及开发者灵活选择。另外，开发者也可以在千帆上开发自己的MCP Server，并发布到MCP广场，支持免费托管，而且百度搜索也会索引这些MCP Server，让它们被更多的开发者引用。从模型服务到应用开发，企业客户已经在千帆平台上做出了很多行业创新。民生银行与百度智能云合作，探索大模型在商业银行的落地，完成了金融领域第一个端到端涵盖算力、平台、模型、应用四层架构的项目落地。自研AI应用升级：实现营销全旅程服务，视觉AI应用成本大幅下降百度智能云打造的智能基础设施也支撑着百度自己的应用创新。本次大会，百度智能云面向智能营销、视觉AI两大领域，升级了两大自研AI应用产品。金融营销场景需要高精准获客、“高情商”客服及高效的流失预警，百度智能云本次升级发布客悦·ONE，在上述核心场景进行全面优化，为客户提供全生命周期智能营销服务，助力企业实现营销效能全面提升。以理财撤单场景为例，传统模式下，用户需经历复杂的说明阅读和多层级菜单操作，效率低下。客悦通过AI驱动的智能交互，简化了这一流程。AI不仅能识别并安抚用户焦虑，更能在对话中直接引导解决问题，还能自动提炼关键信息并回流数据。客悦已经服务银行、证券、保险等不同细分领域的金融企业50余家，落地金融行业10余个场景。为了解决视觉AI模型训练周期长、门槛高，需要大量人工干预的问题。百度智能云升级发布一见5.0，称在标准化高、规则清晰的任务中，仅需一句自然语言，即可秒级生成专业级视觉AI应用，一线业务人员也能轻松上手，借助云边协同，应用成本大幅降低，加速了视觉智能规模化的落地。目前，百度智能云从算力、平台到应用的系统级能力，已经在多个企业场景中稳定运行。中国钢研与百度智能云联合打造全栈智能基础设施，基于昆仑芯和百舸，搭建了专属的智算平台；在千帆上做模型精调，使用大、小模型结合的方式获得最佳效果；结合一见视觉平台，快速完成了表面缺陷检测、金相分析等核心场景的应用开发。———————————————雷递由媒体人雷建平创办，若转载请写明来源。","kind":"highlight","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"1","news_tag":"","news_rank":0,"symbols":[],"gpt_button":0,"need_auth":false,"code":"91000000","status":"200"},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"tenantId":"TBCN","deviceId":"web-server-community-laohu8-v3","version":"4.36.2","shortVersion":"4.36.2","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2530119487","isCrawlerRequest":true}

百度点亮昆仑芯P800三万卡集群 沈抖：推理降本是企业最重要工作

精彩评论

百度点亮昆仑芯P800三万卡集群沈抖：推理降本是企业最重要工作