【美团LongCat-2.0开源,同步开放国产卡推理代码】7月6日,美团将万亿参数大模型LongCat-2.0正式开源。LongCat-2.0总参数1.6T,平均激活约48B,架构上引入LongCat稀疏注意力和N-gram Embedding,提升长上下文处理效率与token级表示能力的同时,结合动态激活进一步强化了代码理解、生成以及执行的表现。本次开源同步提供BF16、FP8以及INT8等多...
网页链接【美团LongCat-2.0开源,同步开放国产卡推理代码】7月6日,美团将万亿参数大模型LongCat-2.0正式开源。LongCat-2.0总参数1.6T,平均激活约48B,架构上引入LongCat稀疏注意力和N-gram Embedding,提升长上下文处理效率与token级表示能力的同时,结合动态激活进一步强化了代码理解、生成以及执行的表现。本次开源同步提供BF16、FP8以及INT8等多...
网页链接
精彩评论