当前位置:首页 >>产品中心 >> 产品详情

华为申请大模型推理系统专利,有效提升大模型推理效率

2026年08月11日 04:40
 

国家知识产权局信息显示,华为技术有限公司申请一项名为“大模型推理系统、推理请求的处理方法及装置”的专利,公开号CN121998071A,申请日期为2024年11月。

专利摘要显示,本申请公开了一种大模型推理系统、推理请求的处理方法及装置,涉及人工智能技术领域,在本申请提供的大模型推理系统中,客户端和推理节点之间可以通过交互来协同实现大模型推理功能,其中,第一客户端在执行推理请求时,将推理请求发送给推理节点,推理节点将推理请求所对应的推理单元中一个或多个第一推理单元的中间数据发送给第一客户端,如此,无需第一客户端耗费本地计算资源来生成第一推理单元的中间数据,实现了在客户端大模型推理过程中复用推理单元的中间数据,从而有效提升了大模型推理效率。

天眼查资料显示,华为技术有限公司,成立于1987年,位于深圳市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本4104113.182万人民币。通过天眼查大数据分析,华为技术有限公司共对外投资了51家企业,参与招投标项目41918次,财产线索方面有商标信息5000条,专利信息5000条,此外企业还拥有行政许可1721个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。