近日,上海人工智能实验室推出DeepLink多元算力混合推理加速方案(以下简称“DeepLink混推方案”),首次实现对壁仞科技等四家国产算力厂商多款芯片的混合调度与协同推理。DeepLink混推方案的发布,既为全国智能算力互联互通、高效盘活分散算力资源探索出新路径,也为“人工智能+”行动落地提供稳定、灵活、高效、低成本的算力支撑。在传统大模型推理架构中,在单一芯片集群的PD分离推理策略,已成为...
网页链接近日,上海人工智能实验室推出DeepLink多元算力混合推理加速方案(以下简称“DeepLink混推方案”),首次实现对壁仞科技等四家国产算力厂商多款芯片的混合调度与协同推理。DeepLink混推方案的发布,既为全国智能算力互联互通、高效盘活分散算力资源探索出新路径,也为“人工智能+”行动落地提供稳定、灵活、高效、低成本的算力支撑。在传统大模型推理架构中,在单一芯片集群的PD分离推理策略,已成为...
网页链接
精彩评论