24 人团队硬刚英伟达:AMD 前高管梦之队出手,新芯片每秒 17000 个 token

IT之家02-21

感谢IT之家网友 不一样的体验 的线索投递!造芯片的还有高手?刚刚推出的一款最新芯片,直接冲上硅谷热榜。峰值推理速度高达每秒17000 个 token。什么概念呢?当前公认最强的 Cerebras,速度约为 2000 token/s。速度直接快10 倍,同时成本骤减 20 倍、功耗降低 10 倍。这就意味着,LLM 真正来到了亚毫秒级的即时响应速度。但这块一夜之间刷屏硅谷的芯片,并非出自英伟达、...

网页链接
免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法