联芸科技获得发明专利授权:“键值缓存管理方法、控制器、设备、装置、介质及产品”

证券之星10-29

证券之星消息,根据企查查数据显示联芸科技(688449)新获得一项发明专利授权,专利名为“键值缓存管理方法、控制器、设备、装置、介质及产品”,专利申请号为CN202611142920.6,授权日为2026年10月20日。

专利摘要:本申请公开了一种键值缓存管理方法、控制器、设备、装置、介质及产品,应用于目标设备,包括将目标大语言模型在推理过程中堆叠的各Transformer层生成的键值数据缓存到目标设备显存的第一存储区中,键值数据包括各层对输入各层的目标代符执行前向计算得到的键值数据;如果监控到第一存储区的剩余容量低于第一预设容量阈值,按照预设丢弃策略将第一存储区中缓存的目标Transformer层的键值数据丢弃;如果监控到当前推理过程需要使用目标Transformer层的键值数据,使用显存的计算资源重新执行目标Transformer层的目标代符的前向计算,以恢复目标Transformer层的键值数据并写入第一存储区。

今年以来联芸科技新获得专利授权39个,较去年同期增加了178.57%。结合公司2026年中报财务数据,今年上半年公司在研发方面投入了3.04亿元,同比增21.89%。

通过天眼查大数据分析,联芸科技(杭州)股份有限公司共对外投资了7家企业,参与招投标项目7次;财产线索方面有商标信息21条,专利信息261条,著作权信息36条;此外企业还拥有行政许可42个。

数据来源:企查查

以上内容为证券之星据公开信息整理,不构成投资建议。

免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法