百度:文心5.5 Flash Base正式开源

智通财经11-05 20:38
【百度:文心5.5 Flash Base正式开源】今天,百度正式开源最新基座模型文心5.5 Flash Base。ERNIE 5.5 Flash Base采用MoE架构,总参数量2800亿,每个Token激活140亿参数,使用33.5万亿个Token完成预训练,预训练上下文长度最高达128K,微调与推理阶段支持最长100万Token上下文。
免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法