【AI】Meta开源Llama 3

图片

破釜沉舟

近日,Meta备受期待的大模型Llama 3系列正式开源。

超15T的巨型训练数据集、显著增强的推理和代码能力、4倍于Llama 2的训练效率……多个亮点使Llama 3再次聚焦了全球大模型圈的目光。凭借开源AI从元宇宙的深坑爬出来之后,Meta此次发布的Llama 3更将成为开源社区的分水岭,大大增加整个生态系统的活力。

但与此同时,逐渐推高的AI投入也像曾经的元宇宙一般给Meta的营收蒙上阴影:Meta预测,第二季度的收入可能低于市场预期,并表示对新AI工具可能提升公司业务的期望需要进行现实检验。此话一出,4月25日当天,Meta的股价应声大跌10.56%,市值蒸发超1300亿美元。此后几日有小幅回升,截至5月3日美股收盘,Meta股价为451.96美元,微涨2.33%。

刷新开源模型性能榜 有条件地开放商用

目前,Llama 3开放了80亿(8B)和700亿(70B) 两个小参数版本,上下文窗口为8k。

据Meta介绍,Llama 3已经在多种行业基准测试上展现了最先进的性能,提供了包括改进推理能力在内的新功能,是目前市场上最好的开源大模型。

Llama 3的训练数据量是前代Llama 2的7倍,包含的代码数量是Llama 2的四倍。

测试结果显示,在MMLU、HumanEval、MATH、GPQA和BBH等衡量模型高级知识与推理能力的关键指标上,仍在训练中的Llama 3 400B版本评分超过Gemini 1.0 Ultra,70B版本超越了目前闭源大模型霸主Claude 3的中间版本Sonnet,8B版本超过了开源大模型新秀Gemma 7B和Mistral 7B Instruct。

有AI创业者表示,Llama 3的实测体验介于GPT-3.5和GPT-4之间。其性能也得到了吴恩达等业内大佬的一致认可——其8B小参数版本算力需求低、反应快,甚至可以在手机、电脑上本地运行,如此高可玩性足以使其收获一众拥趸。

值得一提的是,清华大学近日公布的《SuperBench大模型综合能力评测报告》显示,在语义理解能力评测中,Llama 3-8B表现逊于KimiChat网页版、百川3网页版、通义千问2.1、星火3.5等国产大模型,排名第16,Llama 3-70B排名第6,低于文心一言4.0;在智能体能力评测中,Llama 3-70B排名第5,是该模型各项评测排名最高的一次;在代码编写能力、人类对齐能力、安全和价值观三项评测中,Llama 3-70B均排在第七名,超过大部分国内大模型,只落败于GLM-4和文心一言4.0。

Meta宣布将开始在Instagram和WhatsApp等热门应用程序中增加该技术的应用,并有条件地开放商用(月活用户超过7亿需要单独申请)。开发者将可在亚马逊AWS、Databricks、谷歌云等近10个平台上获取Llama 3模型,并获得 AMD、戴尔、英特尔、英伟达和高通等提供的硬件平台支持。

支出激增吓坏投资者

受益于AI更精准的广告投放,Meta交出了一份还算亮眼的一季报:一季度,Meta营收364.55亿美元,同比增长27%,创下2021年以来的最高单季营收增速。

按业务划分,Meta一季度的广告营收为356.35亿美元,较上年同期的281.01亿美元增长27%;包括Facebook、Instagram等服务在内的应用家族收入为360 亿美元,同比增长27.2%;负责元宇宙业务的Reality Labs部门营收4.4亿美元,同比增长30%,营业亏损38.5亿美元,同比少亏1.4亿美元。

一季度,Meta净利润为123.69亿美元,同比增长117%,原因是在收入增长加速的背景下,Meta今年一季度的销售和营销成本同比下降了16%。

而造成股价暴跌源于扎克伯格对未来的两个预测:一是预计今年二季度销售额为365亿美元-390亿美元。该范围的中间值为377.5亿美元,低于分析师平均预期的383亿美元;二是再度上调年度支出预测,Meta预计2024年的资本支出为300亿美元-400亿美元,上限累计上调了50亿美元;总支出预期为940亿美元-990亿美元,下限上调了20亿美元。

此外,扎克伯格还在财报电话会上表示公司需要在智能眼镜和混合现实(MR)等尚未开始盈利的领域进行更多投资,并对投资者强调“耐心”,称Meta对AI的投资还需要较长的时间来获得回报。这使投资者担忧Meta又要在AI方面重蹈元宇宙的覆辙。

算力资源布局则是Meta在AI领域一项重大支出。去年12月,市场研究公司Omdia Research的一份报告显示,Meta和微软两家公司以15万块H100 GPU的购买量并列英伟达芯片客户榜第一。Meta计划在今年年底前获得约35万块来自英伟达的H100 GPU,以3万美元的单价计算,Meta今年仅在服务器方面就将花费105亿美元。

一次成功的大象“转身”

今年2月,Meta迎来了20岁生日。截至今年4月5日,Meta股价年内累计涨幅已超过52%。

而在2022年的11月初,因深陷元宇宙亏损的漩涡,Meta股价创历史低点88.91美元。

决定性的转折发生在当年12月,Meta宣布进军开源AI。此后,伴随着Llama系列大模型的推出、图像分割大模型SAM的发布、AI动画绘图项目的开源、AI联盟的成立、自研AI芯片的升级等一个又一个里程碑式的节点,Meta的股价也节节攀升。

在外界看来,Meta从元宇宙到AI的重心转移稍显突兀。但实际上,Meta在人工智能领域的积淀已有十年之久。

2013年12月,Facebook宣布成立AI实验室FAIR,由AI巨擘Yann Lecun掌舵。过去10年间,通过与开源社区的广泛合作,FAIR以高效的前沿成果发布和持续的代码、数据集、工具开源,成功推动了人工智能的研究发展,并在记忆网络、图像理解、深度学习框架等领域取得了显著突破。

今年1月19日,扎克伯格宣布Meta计划打造自己的通用人工智能,并尽可能开源。对于选择开源路线的原因,扎克伯格的解释是:开源软件的安全性和稳定性更高、容易成为行业标准且更受开发者和研究人员的欢迎。

在马斯克大声喊出对抗闭源AI口号之后,真正在算力储备和模型性能方面匹敌OpenAI、谷歌的是Meta。如今,Meta已与Mistral AI等企业共同成为开源大模型领域的头号玩家。

扎克伯格表示,Meta提供的生成式AI能力已登顶免费大模型产品性能榜。调查数据显示,ChatGPT在美国小型企业中应用率高达70%,其商业模式已经跑通。对于Meta来说,与月活超7亿的应用进行分成或将成为其开源大模型的收入来源之一。

参考资料

《AI“源神”启动!Llama 3发布,开闭源之争战局生变》经济观察网;

《开源大模型分水岭:Meta发布Llama 3 对标GPT-4》中国经营报;

《Llama 3拿下“赛点”?大模型角力场,开源与闭源之争仍在继续》每日经济新闻;

《开源 AI 拯救 Meta 一夜飙升 1960 亿刀,39 岁小扎爬出元宇宙深坑,年分红 7 个亿,靠 Llama 赢麻了》 新智元。

部分图片来源网络若涉及侵权请联系删除

撰稿:昭觉

责编:蒋欣瑶

排版:萝拉

校对:柚子

关于财经光年

财经光年是由中国新锐产业资本聚合强力投关服务团队及资深财经媒体团队打造的财经新媒体和资本市场服务供应商。通过原创的财经资讯、领先的金融科技工具和创新的金融服务理念,财经光年专注于为金融机构、上市公司、投资者等资本市场各方角色提供极具价值的金融信息服务和资本市场服务。

财经光年通过旗下的“路演光年”、“资讯光年”、“光年资本”等业务平台,为资本市场各方提供包括投资者关系管理、财经资讯、投融资、家族信托及家族办公室在内的各项服务。

免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。

举报

评论

  • 推荐
  • 最新
empty
暂无评论