范式+瀚博|HAMi支持调度瀚博加速卡 助力国产AI算力落地

范式智能
03-11 09:30

近日,由范式主导并参与开源的异构算力管理项目HAMi迎来最新进展——正式实现对瀚博半导体旗下加速卡的全面支持。这意味着,用户在Kubernetes集群中部署瀚博AI加速卡时,可通过HAMi统一调度与管理算力资源,大幅提升国产异构芯片的使用效率与灵活性。

此次HAMi完成对瀚博加速卡的支持,实现了国产算力芯片与主流云原生开源工具的深度融合。通过在Kubernetes环境中部署HAMi Vastai Device Plugin,用户能够像管理GPU一样,轻松实现瀚博加速卡的资源上报、分配与管理。

关于HAMi vGPU

以前,企业想用国产AI加速卡,需要找专人配置管理。现在有了HAMi vGPU,就像多了一个"智能管家",它能:

  • 自动管理:多少张卡、谁在用,一目了然

  • 随取随用:像租共享单车一样,声明一下就能用

  • 灵活分配:一台机器可以同时跑多个任务,互不干扰

像用GPU一样调度瀚博加速卡:在完成HAMi及相关插件的部署后,用户仅需在Pod中通过简单的资源声明,即可实现对瀚博加速卡的使用,以下是一个简单的使用示例:

 本次更新不仅丰富了HAMi的硬件生态,也为广大开发者和企业用户提供了更多元的国产算力选择。未来,HAMi将持续优化对不同厂商加速卡的支持,推动云原生环境下的异构计算走向标准化与通用化。

详见:https://github.com/Project-HAMi/HAMi/blob/master/docs/vastai-support_cn.md

关于范式

范式集团( $06682(06682)$ )是全球领先的通用人工智能科技公司,以"AI for everyone"为使命。HAMi作为范式主导并参与开源的异构算力管理项目,已成为CNCF沙箱项目,致力于实现GPU/NPU等异构算力的虚拟化、切分与共享。

关于瀚博

瀚博半导体(Vastai Technologies)成立于2018年,总部位于上海浦东,是人工智能核心算力领域的先行者。瀚博专注于高端GPU芯片的自主研发,业务覆盖AI推理加速、图形渲染及AIGC内容生成等前沿领域。其核心产品载天VA1、载天VA10等AI推理加速卡及智能一体机,已在多个行业实现规模化落地。

免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法