目前不是只做了8b?并且拼接芯片理论上会极大程度的速度衰减,而且芯片无外接内存的时候上下文差不多就2k-8k?我觉得市场还是有,机器人边缘计算,物联网。但是对传统大语言模型没有什么冲击

不联网的AI,杀疯了...

最近科技圈和资本市场同时被一个叫做chatjimmy.ai的新物种刷屏了,初次彻底震惊了我。在没有英伟达高性能AI芯片的加持,这家硅谷初创公司Taalas就让旗下大模型跑出了每秒1.5万到1.7万个Token。毕竟如果人人的手机、汽车都有这种AI大模型芯片,绝大多数日常问题在本地0.1秒就免费解决了。但拉长来看,技术进步的速度确实是难以估量的,谁又知道哪天这些顶级模型写入芯片之后,每个人的设备终端都拥有了顶级离线AI,世界又会演变成什么夸张的模样。
不联网的AI,杀疯了...

免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。

举报

评论

  • 推荐
  • 最新
empty
暂无评论