PrismML 完成 270 亿参数通义千问 3.6 轻量化,iPhone 17 Pro 可本地完整运行稠密大模型

智通财经07-09 21:29
【PrismML 完成 270 亿参数通义千问 3.6 轻量化,iPhone 17 Pro 可本地完整运行稠密大模型】据报道,苹果正全力推进高性能 AI 模型轻量化,使其可直接在 iPhone 本地运行。此举既能削减云计算成本,也能更好保护用户隐私。而今年刚结束隐身研发状态的初创公司 PrismML 称,其近期已在 iPhone 上成功部署一款参数量级远超以往所有移动端模型的 AI 大模型。这家初创企业 PrismML 表示,他们完成了对阿里云开源大语言模型通义千问 3.6 的轻量化压缩,使其可在 iPhone 17 Pro 上完整运行。该模型拥有 270 亿参数 —— 参数类比人脑突触,直接决定模型可处理数据的复杂程度。与之对比,绝大多数移动端 AI 模型单次推理仅能激活数十亿参数。参数量达万亿级别的超大型基础模型,现阶段体积仍过于庞大,无法在移动设备本地运行。但 PrismML 表示,这款可在 iPhone 上完整运行的 270 亿参数模型,能够完成复杂对话、深度逻辑推理、全自动智能体、代码编写等高阶任务。该开源模型将于下周二开放下载。
免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法