三星公布LPDDR5X-PIM性能,AI推理速度提升2倍

智通财经08-26
【三星公布LPDDR5X-PIM性能,AI推理速度提升2倍】据报道,三星电子日前公布面向智能手机、AI PC等端侧AI设备的LPDDR5X-PIM架构及详细性能指标。该技术可在内存内部直接完成部分运算处理,无需将数据反复传输至处理器。三星使用Meta的拥有80亿参数模型"Llama 3.1"进行测试,结果显示:处理时间:从传统LPDDR5X的12.3秒缩短至5.4秒,提速约2.3倍;每秒Token处理量:从27个提升至81.3个,是现有产品的3倍。
免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法