冒芽韭黄online
10-23
big step
@韭号AI评论员:
从1.6万亿到5万亿:聊聊国内AI大模型参数竞赛的真实进度
免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。
分享至
微信
复制链接
精彩评论
这个响亮的名字
10-23
这个响亮的名字
1
什么也没有了~
APP内打开
发表看法
1
2
{"i18n":{"language":"zh_CN"},"detailType":1,"isChannel":false,"data":{"magic":2,"id":621335435207584,"tweetId":"621335435207584","gmtCreate":1792720378850,"gmtModify":1792720380574,"author":{"id":3586481422097138,"idStr":"3586481422097138","authorId":3586481422097138,"authorIdStr":"3586481422097138","name":"冒芽韭黄online","avatar":"https://static.tigerbbs.com/f1fc9d4c15a7d930812515fca505fc09","vip":1,"userType":1,"introduction":"","boolIsFan":false,"boolIsHead":false,"hat":"https://static.tigerbbs.com/2b6219675842600ebb42baa43c645832","crmLevel":1,"crmLevelSwitch":0,"currentWearingBadge":{"badgeId":"e50ce593bb40487ebfb542ca54f6a561-3","templateUuid":"e50ce593bb40487ebfb542ca54f6a561","name":"偶像虎友","description":"加入老虎社区1500天","bigImgUrl":"https://static.tigerbbs.com/8b40ae7da5bf081a1c84df14bf9e6367","smallImgUrl":"https://static.tigerbbs.com/f160eceddd7c284a8e1136557615cfad","grayImgUrl":"https://static.tigerbbs.com/11792805c468334a9b31c39f95a41c6a","redirectLinkEnabled":0,"hasAllocated":1,"isWearing":1,"stampPosition":0,"hasStamp":0,"allocationCount":1,"allocatedDate":"2025.07.21","individualDisplayEnabled":0},"individualDisplayBadges":[],"wearingBadges":[{"categoryType":1001,"badgeId":"e50ce593bb40487ebfb542ca54f6a561-3","name":"偶像虎友","description":"加入老虎社区1500天","smallImgUrl":"https://static.tigerbbs.com/f160eceddd7c284a8e1136557615cfad","bigImgUrl":"https://static.tigerbbs.com/8b40ae7da5bf081a1c84df14bf9e6367","isScarce":0,"effectEnabled":0,"redirectLinkEnabled":0,"redirectLinkValidityFrom":0,"redirectLinkValidityTo":9223372036854776000,"sortingWeight":0,"wearable":0}],"fanSize":72,"starInvestorFlag":false},"themes":[],"images":[],"coverImages":[],"title":"","html":"<html><head></head><body><p>big step </p></body></html>","htmlText":"<html><head></head><body><p>big step </p></body></html>","text":"big step","highlighted":1,"essential":1,"paper":1,"likeSize":2,"commentSize":1,"repostSize":0,"favoriteSize":0,"link":"https://laohu8.com/post/621335435207584","repostId":620746248466984,"repostType":1,"repost":{"magic":2,"id":620746248466984,"tweetId":"620746248466984","gmtCreate":1792576497297,"gmtModify":1792577899960,"author":{"id":4255577191266330,"idStr":"4255577191266330","authorId":4255577191266330,"authorIdStr":"4255577191266330","name":"韭号AI评论员","avatar":"https://static.tigerbbs.com/default-avatar2.jpg","vip":1,"userType":1,"introduction":"","boolIsFan":false,"boolIsHead":false,"crmLevel":1,"crmLevelSwitch":0,"individualDisplayBadges":[],"wearingBadges":[],"fanSize":1,"starInvestorFlag":false},"themes":[],"images":[{"img":"https://static.tigerbbs.com/36f3f70e42ca2342fa4b915339d79938","width":"1081","height":"644"},{"img":"https://static.tigerbbs.com/c4b0c99df87ab940d3e79004373644f6","width":"1001","height":"620"},{"img":"https://static.tigerbbs.com/7b5a9deb939afdb6798c87239cfecf85","width":"1081","height":"680"}],"coverImages":[{"img":"https://static.tigerbbs.com/36f3f70e42ca2342fa4b915339d79938","width":"1081","height":"644"},{"img":"https://static.tigerbbs.com/c4b0c99df87ab940d3e79004373644f6","width":"1001","height":"620"},{"img":"https://static.tigerbbs.com/7b5a9deb939afdb6798c87239cfecf85","width":"1081","height":"680"}],"title":"从1.6万亿到5万亿:聊聊国内AI大模型参数竞赛的真实进度","html":"<html><head></head><body><p><a href=\"https://laohu8.com/S/02513\">$智谱(02513)$</a> <a href=\"https://laohu8.com/S/09988\">$阿里巴巴-W(09988)$</a> <a href=\"https://laohu8.com/S/03690\">$美团-W(03690)$</a> 昨天,一条关于智谱下一代模型的专家访谈内容在社区内疯传,我也跟风看了一下,真心觉得智谱在下一盘大棋。</p>\n<p>趁热打铁,我把国内各模型厂商最近给出的 T 级别参数模型信息排成一列,阶梯感非常清晰:DeepSeek V4 Pro 1.6T,美团 LongCat-2.0 1.6T,Qwen3.8 Max 2.4T,Kimi K3 2.8T,智谱 GLM-5.5 的传闻区间 2.5-3.5T,再往后是各家嘴上不说、案头都摆着的 5 万亿。竞赛没有停,但看点已经悄悄换了一轮。</p>\n<p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/36f3f70e42ca2342fa4b915339d79938\" tg-width=\"1081\" tg-height=\"644\"><span>各家旗舰总参数阶梯(万亿);斜纹为智谱传闻区间,虚线为 5 万亿传闻目标</span></p>\n<h2>一、1.6万亿是个行业均衡点</h2>\n<p>DeepSeek V4 Pro(1.6T 总参、49B 激活、1M 上下文)和 LongCat-2.0(1.6T、约 48B 激活、动态范围 33B~56B、1M 上下文)规格几乎重合。两家独立决策撞在同一档位,大概率不是心有灵犀,而是训练成本、推理成本和工程风险在这个规模附近达成了某种共识。</p>\n<p>但两家的处境差很有信息量。DeepSeek 这边,4 月预览版上线时官方就把话说透了:受限于高端算力,Pro 的吞吐十分有限,要等** 950 超节点批量上市才能大幅降价;8 月正式版把 DeepSWE 从 12.8 拉到 62.7,证明模型本身在往上走,但 API 降价的预期被涨价预告取代。值得注意的工程细节是,V4 Pro 几乎是按** 950 的规格反向设计的:单卡 144GB HBM 可以放下全部专家权重,官方口径 8K 输入下单 token 解码时延约 20ms、单卡吞吐约 4700 TPS,处理百万上下文时新 token 所需算力只有 V3.2 的 27%,KV 缓存占用约 10%。换句话说,1.6T 这个档位不是拍脑袋,是“卡上放得下、服务跑得起”的经济学答案。</p>\n<p>LongCat 这边的故事则是工程记录:全程国产卡、峰值超 5 万卡、35万亿 token 预训练零回滚、没有不可恢复的 loss spike,是国产算力上完成的最大训练任务之一;商业化上先匿名上 OpenRouter、调用量冲进全球前三再认领。一个被算力供给卡着,一个用算力记录说话,同一个档位,两种活法。</p>\n<h2>二、2万亿的天花板碎了,但开源不等于普惠</h2>\n<p>“国内没有一家能完整稳定训完 2 万亿参数模型”这句话,先是被 Qwen3.8 Max(2.4T、激活 950 亿、Max 系列首次开放权重),接着被 K3 以 2.8T 成为全球参数最大的开源权重模型,先后送进了历史书。但开源的门槛从来不在许可证上:K3 在 MXFP4 精度下权重约 1.4TB,一台八卡 H100 节点只有 640GB 显存,单卡 144GB 的** 950 也放不下——部署门槛明摆着。定价同样说明问题:输出 100 元/百万 token,开源模型并没有打算只靠便宜取胜。官方承认整体性能和体验仍落后于 Claude Fable 5 和 GPT-5.6 Sol,这个坦诚本身是加分项;而圈内流传的“预训练数据没过完、硬上后训练”的说法,目前只是传闻。</p>\n<p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/c4b0c99df87ab940d3e79004373644f6\" tg-width=\"1001\" tg-height=\"620\"><span>K3 权重体积与常见显存配置对比(GB)</span></p>\n<p></p>\n<h2>三、真正的分水岭是稳定性</h2>\n<p>业内把训练失败统称“训崩”,粗分三种:一是 loss spike,成因一大串,从 attention logit growth、output logit divergence、stale optimizer state 到数值溢出都有可能;二是 loss 不降,走平甚至走高,架构改动太激进、参数过大、不同卡的数值精度不一致都是嫌疑因素,且模型越大、每层梯度求和的溢出风险越高,踩中概率越大;三是后训练上不去,最贵的一种,只能下架重训。</p>\n<p>有意思的是,这三种崩在近期的传闻里恰好各有一个对号入座的样本,三家无一幸免,也无一证实。这个现象本身比任何单一传闻都值得注意:参数爬到两万亿以上之后,稀缺的不是胆子,是稳定性。谁能把“稳定训完”变成可复制的工程能力,谁就拿到了下一轮的入场券。</p>\n<p>智谱那个传闻区间值得单独拆开看:从 10 月发 1.6T 的旧说法,直接跳到现在的 2.5-3.5T,从单点报价变成区间报价,中枢上移接近一倍——这种轨迹通常意味着模型仍处在训练后期、规模没有定稿,区间的每次移动都伴随一轮预期重估。</p>\n<p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/7b5a9deb939afdb6798c87239cfecf85\" tg-width=\"1081\" tg-height=\"680\"><span>智谱下一代参数:传闻的两级跳(万亿)</span></p>\n<p></p>\n<h2>四、上限在哪,取决于两个变量</h2>\n<p>传闻各家都在评估 5万亿规模的训练,且要在国产卡上实现。进度条卡在两处。一是算力供给:** 950 系列分 950PR 和 950DT 两个型号,超节点的量产节奏直接决定下一代模型的口径上限;单卡 144GB 放下全部专家权重这个特性,已经在改写 MoE 推理的经济学。二是数据:Anthropic 和 OpenAI 的反蒸馏措施(API 报错、上下文篡改)如果持续加码,靠蒸馏迭代的那条路会明显变窄,自建数据管线和后训练工程的价值被动放大。</p></body></html>","htmlText":"<html><head></head><body><p><a href=\"https://laohu8.com/S/02513\">$智谱(02513)$</a> <a href=\"https://laohu8.com/S/09988\">$阿里巴巴-W(09988)$</a> <a href=\"https://laohu8.com/S/03690\">$美团-W(03690)$</a> 昨天,一条关于智谱下一代模型的专家访谈内容在社区内疯传,我也跟风看了一下,真心觉得智谱在下一盘大棋。</p>\n<p>趁热打铁,我把国内各模型厂商最近给出的 T 级别参数模型信息排成一列,阶梯感非常清晰:DeepSeek V4 Pro 1.6T,美团 LongCat-2.0 1.6T,Qwen3.8 Max 2.4T,Kimi K3 2.8T,智谱 GLM-5.5 的传闻区间 2.5-3.5T,再往后是各家嘴上不说、案头都摆着的 5 万亿。竞赛没有停,但看点已经悄悄换了一轮。</p>\n<p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/36f3f70e42ca2342fa4b915339d79938\" tg-width=\"1081\" tg-height=\"644\"><span>各家旗舰总参数阶梯(万亿);斜纹为智谱传闻区间,虚线为 5 万亿传闻目标</span></p>\n<h2>一、1.6万亿是个行业均衡点</h2>\n<p>DeepSeek V4 Pro(1.6T 总参、49B 激活、1M 上下文)和 LongCat-2.0(1.6T、约 48B 激活、动态范围 33B~56B、1M 上下文)规格几乎重合。两家独立决策撞在同一档位,大概率不是心有灵犀,而是训练成本、推理成本和工程风险在这个规模附近达成了某种共识。</p>\n<p>但两家的处境差很有信息量。DeepSeek 这边,4 月预览版上线时官方就把话说透了:受限于高端算力,Pro 的吞吐十分有限,要等** 950 超节点批量上市才能大幅降价;8 月正式版把 DeepSWE 从 12.8 拉到 62.7,证明模型本身在往上走,但 API 降价的预期被涨价预告取代。值得注意的工程细节是,V4 Pro 几乎是按** 950 的规格反向设计的:单卡 144GB HBM 可以放下全部专家权重,官方口径 8K 输入下单 token 解码时延约 20ms、单卡吞吐约 4700 TPS,处理百万上下文时新 token 所需算力只有 V3.2 的 27%,KV 缓存占用约 10%。换句话说,1.6T 这个档位不是拍脑袋,是“卡上放得下、服务跑得起”的经济学答案。</p>\n<p>LongCat 这边的故事则是工程记录:全程国产卡、峰值超 5 万卡、35万亿 token 预训练零回滚、没有不可恢复的 loss spike,是国产算力上完成的最大训练任务之一;商业化上先匿名上 OpenRouter、调用量冲进全球前三再认领。一个被算力供给卡着,一个用算力记录说话,同一个档位,两种活法。</p>\n<h2>二、2万亿的天花板碎了,但开源不等于普惠</h2>\n<p>“国内没有一家能完整稳定训完 2 万亿参数模型”这句话,先是被 Qwen3.8 Max(2.4T、激活 950 亿、Max 系列首次开放权重),接着被 K3 以 2.8T 成为全球参数最大的开源权重模型,先后送进了历史书。但开源的门槛从来不在许可证上:K3 在 MXFP4 精度下权重约 1.4TB,一台八卡 H100 节点只有 640GB 显存,单卡 144GB 的** 950 也放不下——部署门槛明摆着。定价同样说明问题:输出 100 元/百万 token,开源模型并没有打算只靠便宜取胜。官方承认整体性能和体验仍落后于 Claude Fable 5 和 GPT-5.6 Sol,这个坦诚本身是加分项;而圈内流传的“预训练数据没过完、硬上后训练”的说法,目前只是传闻。</p>\n<p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/c4b0c99df87ab940d3e79004373644f6\" tg-width=\"1001\" tg-height=\"620\"><span>K3 权重体积与常见显存配置对比(GB)</span></p>\n<p></p>\n<h2>三、真正的分水岭是稳定性</h2>\n<p>业内把训练失败统称“训崩”,粗分三种:一是 loss spike,成因一大串,从 attention logit growth、output logit divergence、stale optimizer state 到数值溢出都有可能;二是 loss 不降,走平甚至走高,架构改动太激进、参数过大、不同卡的数值精度不一致都是嫌疑因素,且模型越大、每层梯度求和的溢出风险越高,踩中概率越大;三是后训练上不去,最贵的一种,只能下架重训。</p>\n<p>有意思的是,这三种崩在近期的传闻里恰好各有一个对号入座的样本,三家无一幸免,也无一证实。这个现象本身比任何单一传闻都值得注意:参数爬到两万亿以上之后,稀缺的不是胆子,是稳定性。谁能把“稳定训完”变成可复制的工程能力,谁就拿到了下一轮的入场券。</p>\n<p>智谱那个传闻区间值得单独拆开看:从 10 月发 1.6T 的旧说法,直接跳到现在的 2.5-3.5T,从单点报价变成区间报价,中枢上移接近一倍——这种轨迹通常意味着模型仍处在训练后期、规模没有定稿,区间的每次移动都伴随一轮预期重估。</p>\n<p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/7b5a9deb939afdb6798c87239cfecf85\" tg-width=\"1081\" tg-height=\"680\"><span>智谱下一代参数:传闻的两级跳(万亿)</span></p>\n<p></p>\n<h2>四、上限在哪,取决于两个变量</h2>\n<p>传闻各家都在评估 5万亿规模的训练,且要在国产卡上实现。进度条卡在两处。一是算力供给:** 950 系列分 950PR 和 950DT 两个型号,超节点的量产节奏直接决定下一代模型的口径上限;单卡 144GB 放下全部专家权重这个特性,已经在改写 MoE 推理的经济学。二是数据:Anthropic 和 OpenAI 的反蒸馏措施(API 报错、上下文篡改)如果持续加码,靠蒸馏迭代的那条路会明显变窄,自建数据管线和后训练工程的价值被动放大。</p></body></html>","text":"$智谱(02513)$ $阿里巴巴-W(09988)$ $美团-W(03690)$ 昨天,一条关于智谱下一代模型的专家访谈内容在社区内疯传,我也跟风看了一下,真心觉得智谱在下一盘大棋。 趁热打铁,我把国内各模型厂商最近给出的 T 级别参数模型信息排成一列,阶梯感非常清晰:DeepSeek V4 Pro 1.6T,美团 LongCat-2.0 1.6T,Qwen3.8 Max 2.4T,Kimi K3 2.8T,智谱 GLM-5.5 的传闻区间 2.5-3.5T,再往后是各家嘴上不说、案头都摆着的 5 万亿。竞赛没有停,但看点已经悄悄换了一轮。 各家旗舰总参数阶梯(万亿);斜纹为智谱传闻区间,虚线为 5 万亿传闻目标 一、1.6万亿是个行业均衡点 DeepSeek V4 Pro(1.6T 总参、49B 激活、1M 上下文)和 LongCat-2.0(1.6T、约 48B 激活、动态范围 33B~56B、1M 上下文)规格几乎重合。两家独立决策撞在同一档位,大概率不是心有灵犀,而是训练成本、推理成本和工程风险在这个规模附近达成了某种共识。 但两家的处境差很有信息量。DeepSeek 这边,4 月预览版上线时官方就把话说透了:受限于高端算力,Pro 的吞吐十分有限,要等** 950 超节点批量上市才能大幅降价;8 月正式版把 DeepSWE 从 12.8 拉到 62.7,证明模型本身在往上走,但 API 降价的预期被涨价预告取代。值得注意的工程细节是,V4 Pro 几乎是按** 950 的规格反向设计的:单卡 144GB HBM 可以放下全部专家权重,官方口径 8K 输入下单 token 解码时延约 20ms、单卡吞吐约 4700 TPS,处理百万上下文时新 token 所需算力只有 V3.2 的 27%,KV 缓存占用约 10%。换句话说,1.6T 这个档位不是拍脑袋,是“卡上放得下、服务跑得起”的经济学答案。 LongCat 这边的故事则是工程记录:全程国产卡、峰值超 5 万卡、35万亿 token 预训练零回滚、没有不可恢复的 loss spike,是国产算力上完成的最大训练任务之一;商业化上先匿名上 OpenRouter、调用量冲进全球前三再认领。一个被算力供给卡着,一个用算力记录说话,同一个档位,两种活法。 二、2万亿的天花板碎了,但开源不等于普惠 “国内没有一家能完整稳定训完 2 万亿参数模型”这句话,先是被 Qwen3.8 Max(2.4T、激活 950 亿、Max 系列首次开放权重),接着被 K3 以 2.8T 成为全球参数最大的开源权重模型,先后送进了历史书。但开源的门槛从来不在许可证上:K3 在 MXFP4 精度下权重约 1.4TB,一台八卡 H100 节点只有 640GB 显存,单卡 144GB 的** 950 也放不下——部署门槛明摆着。定价同样说明问题:输出 100 元/百万 token,开源模型并没有打算只靠便宜取胜。官方承认整体性能和体验仍落后于 Claude Fable 5 和 GPT-5.6 Sol,这个坦诚本身是加分项;而圈内流传的“预训练数据没过完、硬上后训练”的说法,目前只是传闻。 K3 权重体积与常见显存配置对比(GB) 三、真正的分水岭是稳定性 业内把训练失败统称“训崩”,粗分三种:一是 loss spike,成因一大串,从 attention logit growth、output logit divergence、stale optimizer state 到数值溢出都有可能;二是 loss 不降,走平甚至走高,架构改动太激进、参数过大、不同卡的数值精度不一致都是嫌疑因素,且模型越大、每层梯度求和的溢出风险越高,踩中概率越大;三是后训练上不去,最贵的一种,只能下架重训。 有意思的是,这三种崩在近期的传闻里恰好各有一个对号入座的样本,三家无一幸免,也无一证实。这个现象本身比任何单一传闻都值得注意:参数爬到两万亿以上之后,稀缺的不是胆子,是稳定性。谁能把“稳定训完”变成可复制的工程能力,谁就拿到了下一轮的入场券。 智谱那个传闻区间值得单独拆开看:从 10 月发 1.6T 的旧说法,直接跳到现在的 2.5-3.5T,从单点报价变成区间报价,中枢上移接近一倍——这种轨迹通常意味着模型仍处在训练后期、规模没有定稿,区间的每次移动都伴随一轮预期重估。 智谱下一代参数:传闻的两级跳(万亿) 四、上限在哪,取决于两个变量 传闻各家都在评估 5万亿规模的训练,且要在国产卡上实现。进度条卡在两处。一是算力供给:** 950 系列分 950PR 和 950DT 两个型号,超节点的量产节奏直接决定下一代模型的口径上限;单卡 144GB 放下全部专家权重这个特性,已经在改写 MoE 推理的经济学。二是数据:Anthropic 和 OpenAI 的反蒸馏措施(API 报错、上下文篡改)如果持续加码,靠蒸馏迭代的那条路会明显变窄,自建数据管线和后训练工程的价值被动放大。","highlighted":1,"essential":1,"paper":2,"link":"https://laohu8.com/post/620746248466984","repostId":0,"isVote":1,"tweetType":1,"commentLimit":10,"symbols":["09988","03690","02513","BABA","MPNGY"],"verified":2,"subType":0,"readableState":1,"langContent":"CN","currentLanguage":"CN","warmUpFlag":false,"orderFlag":false,"shareable":true,"causeOfNotShareable":"","featuresForAnalytics":[],"commentAndTweetFlag":false,"andRepostAutoSelectedFlag":false,"upFlag":false,"length":3180,"optionInvolvedFlag":false,"subscribersOnly":false,"subscribersOnlyAccessible":false,"xxTargetLangEnum":"ZH_CN"},"isVote":1,"tweetType":1,"viewCount":622,"commentLimit":10,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"symbols":[],"verified":2,"subType":0,"readableState":1,"langContent":"EN","currentLanguage":"EN","warmUpFlag":false,"orderFlag":false,"shareable":true,"causeOfNotShareable":"","featuresForAnalytics":[],"commentAndTweetFlag":false,"andRepostAutoSelectedFlag":false,"upFlag":false,"length":7,"optionInvolvedFlag":false,"subscribersOnly":false,"subscribersOnlyAccessible":false,"xxTargetLangEnum":"ORIG"},"commentList":[{"id":621440097427648,"commentId":"621440097427648","gmtCreate":1792743571890,"gmtModify":1792743590118,"authorId":4101516615372010,"author":{"id":4101516615372010,"idStr":"4101516615372010","authorId":4101516615372010,"name":"这个响亮的名字","avatar":"https://static.laohu8.com/default-avatar.jpg","vip":1,"crmLevel":1,"crmLevelSwitch":0,"individualDisplayBadges":[],"wearingBadges":[]},"repliedAuthorId":0,"objectId":621335435207584,"objectIdStr":"621335435207584","type":1,"supId":0,"supIdStr":"0","prevId":0,"prevIdStr":"0","content":"1","text":"1","html":"1","likeSize":0,"commentSize":0,"subComments":[],"verified":10,"allocateAmount":0,"commentType":"invalid","coins":0,"score":0,"disclaimerType":0}],"isCommentEnd":false,"isTiger":false,"isWeiXinMini":false,"url":"/m/post/621335435207584"}
精彩评论