阿里云一键式支持Llama 3训练、部署和推理,并免除算力费用

港股研究社讯,4月22日,阿里云宣布在国内首家推出针对Meta最新开源Llama 3系列的限时免费训练、部署及推理服务。以便企业和开发者能更便捷地在阿里云上基于Llama 3系列打造自己的专属大模型,共同推动中国大模型生态的繁荣。

据悉,4月18日,Meta推出了新一代开源大语言模型Llama 3,升级后的模型提供了80亿和700亿参数版本,其训练数据量是Llama 2的7倍,性能得到了显著提升。而为了解决企业和开发者在该模型下特定语言或垂直领域能力需求上的定制化问题,阿里云魔搭社区第一时间上架了全部4款模型,并为方便国内开发者,阿里云百炼平台进一步推出了针对Llama 3的一键式训练、部署和推理方案,并免除了算力费用。

国内开发者现可通过阿里云百炼模型广场申请使用Llama 3系列模型,经过快速审批后,便能体验其效果,并与其他模型进行比较。对于希望直接应用推理的用户,百炼平台提供了模型调试和prompt模板等功能,以便快速构建AI助手。而寻求深度开发的企业,则可以利用自身的数据集进行SFT全参训练或LoRA高效训练,进而利用百炼平台的RAG检索增强和智能体打造等能力进行应用开发。

阿里云的强大AI基础设施能力为开发者提供了丰富的计算资源和极致弹性,使得在云上完成超大尺寸模型的深度开发、高效部署和高并发推理成为可能。此外,自去年起,阿里云已全面支持包括Llama在内的多个开源模型的开发应用,并已成为中国大模型的公共算力基础,承载了超过一半的主流大模型。

免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。

举报

评论

  • 推荐
  • 最新
empty
暂无评论