智通财经APP获悉,广发证券发布研报称,随着模型参数量和上下文长度的增加,HBM的容量已难以满足AI大模型对于内存容量的要求。近期,Sandisk公司宣布与SK Hynix合作开发能够满足AI大模型推理场景的新型存储产品HBF,计划采用BiCS和CBA晶圆键合工艺实现与GPU的高速互联。根据Sandisk官网,Sandisk在研的HBF存储容量有望达到现有HBM的8-16倍,有望将GPU的存储容量...
网页链接智通财经APP获悉,广发证券发布研报称,随着模型参数量和上下文长度的增加,HBM的容量已难以满足AI大模型对于内存容量的要求。近期,Sandisk公司宣布与SK Hynix合作开发能够满足AI大模型推理场景的新型存储产品HBF,计划采用BiCS和CBA晶圆键合工艺实现与GPU的高速互联。根据Sandisk官网,Sandisk在研的HBF存储容量有望达到现有HBM的8-16倍,有望将GPU的存储容量...
网页链接
精彩评论