(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211283346.8 (22)申请日 2022.10.20 (71)申请人 腾讯科技 （深圳） 有限公司 地址 518057 广东省深圳市南 山区高新区 科技中一路腾讯大厦3 5层 (72)发明人 陶淳　张文泰　马子扬　 (74)专利代理 机构 华进联合专利商标代理有限 公司 44224 专利代理师 毛丹 (51)Int.Cl. G06N 3/063(2006.01) G06N 3/08(2006.01) (54)发明名称 神经网络处理、 信息处理方法、 装置和计算 机设备 (57)摘要 本申请涉及一种神经网络处理方法、 装置、 计算机设备、 存储介质和计算机程序产品。 该方 法包括： 获取神经网络算子关联图中各个算子节 点的节点深度； 基于各个算子节 点对应的节点深 度、 依赖信息和设备支持信息对 各个算子节点进 行划分， 得到算子关联子图和待划分算子节点； 基于算子关联子图和待划分算子节点得到更新 的神经网络算子关联图并进行循环迭代， 直到各 个算子节 点划分完成时， 得到各个目标算子关联 子图和对应的子图设备支持信息； 将神经网络算 子关联图、 各个目标算子关联子图和子图设备支 持信息关联， 并响应神经网络运算请求按照关联 关系将各个目标算子关联子图发送至对应的目 标设备进行运算。 采用本方法能够提高设备利用 率， 节省运 算资源。 权利要求书4页 说明书25页 附图10页 CN 115358379 A 2022.11.18 CN 115358379 A 1.一种神经网络处 理方法， 其特 征在于， 所述方法包括： 获取神经网络算子关联图中各个算子节点的节点深度， 所述节点深度 是基于各个算子 节点依赖信息确定的； 获取所述各个算子节点的设备支持信息， 基于所述各个算子节点对应的节点深度、 所 述各个算子节点的依赖信息和所述各个算子节点的设备支持信息对所述各个算子节点进 行划分， 得到算子关联子图和待划分算子节点； 将算子关联子图和待划分算子节点分别作为神经网络对应的算子节点， 得到更新的神 经网络算子 关联图， 并返回获取神经网络算子 关联图中各个算子节点的节点深度的步骤迭 代执行， 直到神经网络算子关联图中各个算子节点都划分完成时， 得到各个目标算子关联 子图和对应的子图设备支持信息； 存储所述神经网络算子关联图对应的神经网络标识、 所述各个目标算子关联子图和对 应的子图设备支持信息之间的关联关系， 所述关联关系用于响应于神经网络运算请求， 基 于所述神经网络运算请求按照所述关联关系将各个目标算子关联子图发送至对应的目标 设备中依次进行运 算。 2.根据权利要求1所述的方法， 其特征在于， 所述基于所述各个算子节点对应的节点深 度、 所述各个算子节点的依赖信息和所述各个算子节点的设备支持信息对 所述各个算子节 点进行划分， 得到算子关联子图和待划分算子节点， 包括： 从所述各个算子节点中确定当前算子节点， 并从各个算子节点中获取所述当前算子节 点对应的目标算子节点； 获取所述目标算子节点的目标历史划分信 息， 从所述各个算子节点对应的节点深度中 确定所述目标算子节点对应的目标节点深度， 从所述各个算子节点的设备支持信息中确定 所述目标算子节点对应的目标设备支持信息， 并从所述各个算子节点的依赖信息中确定所 述目标算子节点对应的目标依赖信息； 基于所述目标设备支持信息， 所述目标历史划分信息、 所述目标节点深度和所述目标 依赖信息对所述目标算子节点进行子图算子节点检测； 当所述目标算子节点检测通过时， 将所述当前算子节点和所述目标算子节点作为更新 的当前算子节点， 并返回获取当前算子节点对应的目标算子节点的步骤执行， 直到更新的 当前算子节点未发生变化时， 得到各个 检测通过的目标算子节点； 基于所述当前算子节点和所述各个检测通过的目标算子节点得到算子关联子图， 并基 于所述各个算子节点、 所述当前算子节点和所述各个检测通过的目标算子节点得到待划分 算子节点。 3.根据权利要求2所述的方法， 其特征在于， 所述从所述各个算子节点中确定当前算子 节点， 并从各个算子节点中获取 所述当前算子节点对应的目标算子节点， 包括： 从所述各个算子节点选取候选算子节点， 并获取所述候选算子节点的候选历史划分信 息， 从所述各个算子节点的设备支持信息中确定所述候选算子节点对应的候选 设备支持信 息； 基于所述候选历史划分信息和所述候选设备支持信息对所述候选算子节点进行子图 算子节点检测； 当所述候选算子节点检测通过时， 将所述候选算子节点作为所述当前算子节点， 并从权　利　要　求　书 1/4 页 2 CN 115358379 A 2各个算子节点中获取所述当前算子节点对应的前序算子节点和后继算子节点， 将所述前序 算子节点和所述后继算子节点分别作为目标算子节点； 当所述候选算子节点检测未通过时， 将所述候选算子节点作为算子关联子 图， 并返回 获取神经网络算子 关联图中各个算子节点的节点深度的步骤迭代执行， 直到神经网络算子 关联图中各个算子节点都划分完成。 4.根据权利要求3所述的方法， 其特征在于， 所述基于所述候选历史划分信 息和所述候 选设备支持信息对所述 候选算子节点进行子图算子节点检测， 包括： 基于所述候选历史划分信 息对所述候选算子节点进行历史划分检测， 并基于所述候选 设备支持信息对所述 候选算子节点进行支持设备检测； 当所述候选算子节点的历史划分检测通过且所述候选算子节点的支持设备检测通过 时， 确定所述 候选算子节点检测通过； 当所述候选算子节点的历史划分检测未通过或所述候选算子节点的支持设备检测未 通过时， 确定所述 候选算子节点检测未通过。 5.根据权利要求2所述的方法， 其特征在于， 所述基于所述目标设备支持信息， 所述目 标历史划分信息、 所述目标节点深度和所述目标依赖信息对所述目标算子节点进 行子图算 子节点检测， 包括： 基于所述目标历史划分信 息对所述目标算子节点进行历史划分检测， 基于所述目标设 备支持信息对所述目标算子节点进行支持设备检测， 并基于所述目标节点深度和所述目标 依赖信息对所述目标算子节点进行 连续性检测； 当所述目标算子节点的历史划分检测、 所述目标算子节点的支持设备检测通过和所述 目标算子节点的连续 性检测全部通过时， 确定所述目标算子节点检测通过； 当所述目标算子节点的历史划分检测、 所述目标算子节点的支持设备检测通过和所述 目标算子节点的连续性检测中任意一项检测未通过时， 确定所述目标算子节点检测未通 过。 6.根据权利要求2所述的方法， 其特征在于， 所述基于所述目标设备支持信息， 所述目 标历史划分信息和所述目标节点深度对所述目标算子节点进 行子图算子节点检测之后， 还 包括： 当所述目标算子节点检测未通过时， 基于所述当前算子节点得到算子关联子 图， 并基 于所述各个算子节点和所述当前算子节点得到待划分算子节点。 7.根据权利要求1所述的方法， 其特征在于， 获取神经网络算子关联图中各个算子节点 的节点深度， 所述节点深度是基于各个算子节点依赖信息确定的， 包括： 将所述神经网络算子关联图中各个算子节点进行拓扑排序， 得到算子节点序列； 基于所述各个算子节点的依赖信息和所述算子节点序列计算所述各个算子节点对应 的节点深度。 8.根据权利要求7所述的方法， 其特征在于， 所述基于所述各个算子节点的依赖信 息和 所述算子节点序列计算所述各个算子节点对应的节点深度， 包括： 按照所述算子节点序列的序列顺序从所述各个算子节点中确定待计算节点， 并基于所 述各个算子节点的依赖信息检测所述待计算节点是否存在对应的依赖节点； 当所述待计算节点存在对应的依赖节点时， 获取所述依赖节点对应的节点深度， 基于权　利　要　求　书 2/4 页 3 CN 115358379 A 3