蚂蚁百灵开源 Ling-3.0-tiny 模型,支持英伟达 DGX Spark、苹果 Mac mini 部署

IT之家08-11

IT之家 8 月 11 日消息,蚂蚁百灵今天在 Hugging Face 平台开源 Ling-3.0-tiny 模型,该模型为轻量级混合推理 MoE 架构,总参数 7.9B,每 Token 激活 1.3B 参数。官方提供 BF16、FP8 和 INT4 权重版本,适配不同平台的部署需求。 据介绍,Ling-3.0-tiny 主打低成本推理,采用高效混合线性架构,将 KDA(Kimi ...

网页链接
免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法