大模型塞进手机:“华米OV”谁能领先?

懂财帝
2023-11-07

荣耀、华为、小米、OPPO、vivo已在大模型投入了大量资源,并取得进展,后续要在该领域保持竞争优势,它们需要不断花钱买“弹药”。

©️懂财帝出品 · 作者|逸凡

国内“百模大战”的下半场战事正酣,主角由互联网平台大厂变成手机大厂。

经过一波大模型浪潮的洗礼,巨头逐渐冷静,纷纷把变现当作头等大事。在各家大模型公司还在吵到底是to B抑或to C时,智能手机厂商们找到了新卖点。

今年5月,Google推出全新一代大语言模型PaLM2,其参数最小的大模型壁虎(Gecko)可以被部署在智能手机上,打响了把大模型“塞”进手机的第一枪。

随后,荣耀、华为、OPPO、华为、vivo先后以合作或自研的方式推出各款手机大模型,强调体验得到有效升级。

芯片厂商在背后配合,联发科和高通也推出了支持大模型落地手机端侧的芯片。一时间,智能手机上下游产业链集中在这一狂热赛道相遇。

然而,手机大模型远非简单的技术接入,不是把云端的大模型搬到手机端侧即可,而是大模型与底层系统的深度融合。

对于手机厂商而言,单纯发布一个大模型并不算很难,难的是如何在手机有限的空间内最大程度让大模型施展潜能。

1|寻找出路

抢着把大模型直接嵌入手机操作系统,厂商可谓是你方唱罢我登场。

荣耀率先破局。在6月29日的上海2023世界移动通信大会上,荣耀CEO赵明称,将在智能手机端推动部署大模型,赋能智慧助手“YOYO”。不到两周,其大模型手机Magic V2就顺势推出,这也是全球首款实现大模型与操作系统融合的手机。

华为紧跟其后。8月4日,余承东宣布Harmony OS 4的智慧助手“小艺”已接入盘古大模型,实现了大模型能力与手机系统的深度整合,首批支持机型为Mate 60系列。

在雷军演讲的前一天,OPPO官方宣布,基于大模型AndesGPT打造的智能助手“小布”将启动大型体验活动。升级后的“小布”拥有更强的语义理解对话能力,归纳总结等AI能力也有所增强。

“大模型是重大技术革命,小米必将全面拥抱。”8月14日晚,雷军在小米新品发布会上表示,小米手机端侧的13亿参数大模型已初步跑通,部分场景甚至可匹敌60亿参数的云端模型,语音助手“小爱同学”的AI能力将得到强化。

11月1日,vivo推出的OriginOS 4.0操作系统也内置了自研蓝心大模型。在介绍中,“蓝心小V”能被视作有强大AI能力的私人助理,具备更智能和自然的人机交互能力等。

各家大模型手机的功能特点让人眼花缭乱,都把参数大小放在显眼的宣传位置。但实际上,手机里的大模型已大幅缩水。

与运行在云端动辄上千亿级参数的大模型相比,当前手机大模型的参数规模普遍在十亿级。参数与性能呈正比,手机大模型在压缩参数的同时,必然牺牲了部分性能。

尽管如此,手机大模型一定程度依然是“革命性”的存在。

如ChatGPT、文心一言等各类大模型其实早就有手机版APP,这些APP调用云端算力运行,不会给手机配置造成额外负担。

但APP形态的大模型“独自美丽”,无法赋能手机的其他APP。而融入手机系统的大模型,可以打破各应用之间的壁垒,使其他App也自带大模型特性。

大模型甚至可以充当通用接口,整合各类APP的能力,实现更多具有想象力的扩展。

此外,无论是ChatGPT还是其他主流大模型,都是标准化产品。它不了解用户,只是根据用户的输入指令做出回应。

如果经过改造的大模型能跑在手机上,智能化程度将会大幅提升。它们更懂用户个性化习惯,更能成为私人机器人秘书,灵活地帮助用户解决多场景的需求。

由于参数量较为轻量化,其加载运行速度会更快,训练周期也较短,能根据用户需求进行较快的迭代更新。

认定了做手机大模型,厂家还得选择落地路径。

要么做类似ChatGPT的App,把大模型计算的责任交给云端,然后反馈给手机。这样一来,大模型不用依赖手机算力,但需要联网,且信息安全是个问题。

要么本地包揽部署、计算、服务等一切工作,用手机自带的处理器运行大模型。虽然不受网络限制,还不必担心云端服务器宕机,隐私也有保障,但手机算力能否支撑大模型运行是个问题。

上述两种办法各有优缺点,国内业界认为应该折中,普遍共识是手机大模型走向云端+终端的混合架构,在终端本地运行势在必行。

2|等待质变

为实现1+1>2的效果,手机大模型的落地除了本地底层系统的发力,还要硬件端的升级配合。

芯片厂商已敏锐识别到手机厂商的诉求。据了解,参数超过10亿的大模型能够在搭载高通第二代骁龙8芯片的手机上运行,性能和精确度水平达到与云端相似的水平,15秒左右就可以出图。

但高通中国区研发负责人徐晧在接受媒体采访时提过,“大模型在手机上是可行的,但真正大规模地部署仍需要时间”。

也就是说,在现有技术条件下,手机性能接不住厂商的热情。

大模型并不仅是参数数量的简单叠加,其核心价值在于深度学习之深。大量的参数意味着更多的信息、知识和上下文的捕捉。

而把一款千亿参数的模型剪裁到几十亿参数时,必定失去一些原有的学习深度,用户也会感受到体验上的落差。

《创新者的窘境》的作者,哈佛商学院教授克莱顿·克里斯坦森曾说过,“创新最初都是不起眼的东西,是个笑话,但是突然有一天它碰到了消费者的软肋,就会迅猛发展,成为统治者。”

市场对现有大模型的应用褒贬不一,哪怕是千亿级参数的产品,用户依然可以找出很多“瑕疵”。

显然,虽然消费者对新技术满是期望,但手机厂商仍没触碰到消费者的“软肋”,大模型也没有做到与用户同频共振。

整体而言,手机大模型称不上“杀手级”应用,厂商对大模型的具体应用偏重“语音助手”,真正的使用场景尚未明确。这些语音助手确实取得了不错的进步,但未达到质变的程度,尚不足以称之为真正的颠覆。

业内人士也认为,未看到大模型会成为影响手机市场竞争的决定性因素,离落地普及仍有较远距离。

例如,“小爱同学”13亿的参数量跟文心一言2600亿的参数量不在一个级别,它的应用场景就存在较大的局限性。目前内测版本的反馈表明,“小爱同学”不支持文生图功能。

和云端大模型一样,终端上的大模型也要大量的数据、算力和资金去“投喂”,处于烧钱阶段。

vivo透露,vivo 的大模型经过 6 年打磨,累计投入超过 200 亿元、整个团队人数超过 1000 人,每年起码投入20-30亿元用于大模型。

华为高管则表示,大模型开发和训练一次的成本高达1200万美元。

另据报道,百度、腾讯、阿里、字节跳动等互联网巨头正采购英伟达高性能AI芯片,2023年总共采购约10万张A800芯片,订单金额达10亿美元(约73亿元),明年订单价值达40亿美元(约291亿元)。

如此高昂的投入,何时能研发出消费者愿意买单的产品,也是未知数。在榨干资金流前,手机厂商一定要破解众多难题。

落地终端侧对手机硬件提出了更高的要求,大模型越大越好,推理结果相应地会越精确,但手机的内存、核心处理器的计算能力是有限的。 

再例如首页的开辟“核心配置”模块,帮助用户臻选核心资产,聚焦长期投资。

没有长长的名单,让用户的选择更加简单,引导用户建立适合自己的仓位、长期陪伴。

vivo副总裁、OS产品副总裁周围接受采访时算了算,1B参数(10亿个)的大模型占内存1GB,7B占4GB,13B超过7GB,而大部分高端手机的内存则为12GB或 16G。

这意味着,大模型要在终端流畅使用,现阶段的手机难以支撑,转嫁到消费者的成本也会进一步提高。

不止内存,大模型对芯片计算能力也发出更高的挑战。行业内可供采用的芯片不多,只有联发科天玑 9300 和高通骁龙 8gen 3 芯片能承载大模型的端侧落地。

毫无疑问,大模型已然是手机赛道的重要竞争力,但上述种种限定条件印证着,这在短期内注定只是少数高端手机专有。

3 |  重构市场

加码大模型,不仅是手机厂商的博弈,也是全产业链的一次“自救”。

寒气持续在手机行业蔓延。2023年Q3全球智能手机市场出货量为2.96亿部,同比下降0.3%,连续第9个季度出现年度下滑。国际数据公司(IDC)数据显示,2023 年Q3国内智能手机市场仍呈下降趋势,出货量约6705万台,同比下降6.3%。

芯片巨头高通也给出了类似同样的信号。受手机芯片业务疲软拖累,高通2023年第四财季的营收为86.7亿美元,同比下滑24%。净利润为14.89亿美元,同比下降48%。其中,手机芯片的销售额为54.6亿美元,同比下降了27%,引发市场担忧。

要突破手机存量市场的天花板,大模型被寄予厚望,陷入增长焦虑的上下游产业链都跟风参与。

高通产品管理高级副总裁兼AI负责人Ziad Asghar指出,今年将推出支持参数达100亿的生成式AI模型在手机上运行。

讲好大模型故事本身,也是在讲好资本故事。来自资本市场的压力,连苹果都难逃脱。

北京时间11月3日,苹果公司发布了截至9月30日的2023财年第四季度及全年财报,显示其销售额连续四个季度下滑,持续时间创2001年以来最长。美股盘后,苹果一度跌超4%。

与之对比,美东时间7月19日,一则苹果在秘密研发“Apple GPT”的消息不胫而走,当日苹果股价就直线上涨,午盘其股价飙升至198.23美元,创下历史新高,市场对苹果在大模型的动作充满期待。

或许出于安抚投资者,在2023财年第四季度发布会上,CEO库克表示苹果在AI方面“投入了相当多的资金”。

相比国内厂商争相祭出端侧大模型,国外巨头苹果、三星的进展似乎较为缓慢。库克认为,AI的潜力“非常有趣”,但在使用这项技术时“深思熟虑和考虑周到非常重要”。

作为当下科技语境里最有力的武器,各大厂商都希望借助大模型的锋芒,塑造更高端的形象。

现在,厂家完成了让大模型在手机端跑起来的任务,但离终点还有很长距离。底层系统的融合、算法的分配和优化、功耗的控制等因素,均会让厂商在体验上拉开差距。届时,手机市场格局也将随之被重构,更成熟的大模型手机相信会抢占更多的市场份额和利润。

在新技术洪流中,不对大模型投入很有可能被甩到后面,过度投入又可能把企业拖入难以休止的战争。

荣耀、华为、小米、OPPO、vivo已经在大模型投入了大量资源,并取得了进展,后续要在该领域保持竞争优势,它们得不断花钱买“弹药”。

令人感到乐观的是,大模型不再是稀缺资源,用户体验到更优质的AI服务或许指日可待。

说明:数据源于公开披露,不构成任何投资建议,投资有风险,入市需谨慎。

—END—

免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。

精彩评论

  • 守的云开见日月
    2023-11-07
    守的云开见日月

    比如用户打开手机的相机功能时,智能手机可以根据用户的拍照习惯,自动调整相机的参数

  • 风浪越大我越猛
    2023-11-07
    风浪越大我越猛

    利用大模型技术可以为用户提供更智能、个性化的手机体验,商家开始推出具有自主学习能力的智能手机,能够根据用户的使用习惯和喜好,自动调整手机的设置和功能,提供更加个性化的服务。

  • 艾迪尔00
    2023-11-07
    艾迪尔00

    大模型技术逐渐渗透到手机领域,为用户带来更加智能、个性化的手机体验。

  • xinffu_37457
    2023-11-07
    xinffu_37457
    这篇文章不错,转发给大家看看
发表看法
4
1