据日经亚洲,由于许多日本AI相关企业发现配备英伟达图形处理器(GPU)的服务器过于昂贵,业界正着手提供更具性价比的替代方案。美国人工智能基础设施公司Penguin Solutions(PENG.US)将于今年第四季度在日本推出MemoryAI KV缓存服务器,为当地AI相关公司提供一套成本更低的替代方案,无需额外采购英伟达GPU服务器。通过将大语言模型短期存储数据放置在GPU外部进行存放,每GB...
网页链接据日经亚洲,由于许多日本AI相关企业发现配备英伟达图形处理器(GPU)的服务器过于昂贵,业界正着手提供更具性价比的替代方案。美国人工智能基础设施公司Penguin Solutions(PENG.US)将于今年第四季度在日本推出MemoryAI KV缓存服务器,为当地AI相关公司提供一套成本更低的替代方案,无需额外采购英伟达GPU服务器。通过将大语言模型短期存储数据放置在GPU外部进行存放,每GB...
网页链接
精彩评论