standard download
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210956574.0 (22)申请日 2022.08.10 (71)申请人 广州文远知行 科技有限公司 地址 510000 广东省广州市黄埔区广州国 际生物岛螺旋大道68号合景科盛广场 A栋地上第16层01、 02、 0 3、 04单元 (72)发明人 孙子文 韩旭  (74)专利代理 机构 深圳市深佳知识产权代理事 务所(普通 合伙) 44285 专利代理师 孙超 (51)Int.Cl. G06F 21/62(2013.01) G06F 9/48(2006.01) (54)发明名称 一种数据调度的方法、 装置、 设备及可读存 储介质 (57)摘要 本申请公开了一种数据调度的方法、 装置、 设备及可读存储介质, 方法包括: 在接收到数据 待调度信号时, 获取当前批量数据进行脱敏处理 的第一单位时长, 并与预先存储的所述当前批量 数据的上一批量数据进行脱敏处理的第二单位 时长, 确定预先建立的批量数据规划调度记录中 的, 当前批量数据的下一批量数据的数据量调度 比例, 对下一批量数据进行调整, 得到待调度批 量数据, 并对待调度批量数据进行调度。 由此可 见, 根据当前处理批量数据的结果, 并将其与最 邻近一次处理批量数据的结果进行比较, 控制下 一批量数据的数据量, 以避免数据脱敏系统的负 载过高, 最后将待调度批量数据调度给数据脱 敏 处理器, 能够高效地对 海量图像数据进行脱敏。 权利要求书2页 说明书11页 附图2页 CN 115310129 A 2022.11.08 CN 115310129 A 1.一种调度数据的方法, 其特 征在于, 包括: 在接收到数据待调度信号时, 获取当前批量数据进行脱敏处 理的第一单位时长; 比较所述第 一单位时长, 与预先存储的所述当前批量数据的上一批量数据进行脱敏处 理的第二单位时长, 确定预先建立的批量数据规划调度记录中的, 所述当前批量数据的下 一批量数据的数据量调度比例; 按照所述下一批量数据对应的数据量调度比例, 对所述下一批量数据进行调整, 得到 待调度批量数据, 并对所述待调度批量数据进行调度。 2.根据权利要求1所述的方法, 其特征在于, 所述批量数据规划调度记录的建立过程, 包括: 根据本地的每一待分配数据的所属目录地址, 将各待分配数据进行划分, 得到若干批 量数据, 并确定每一批量数据的数据量; 确定所述若干 批量数据中, 每一批量数据的数据调度顺序; 根据若干批量数据中, 每一批量数据的数据量以及每一批量数据的数据调度顺序, 建 立批量数据规划调度记录 。 3.根据权利要求1所述的方法, 其特征在于, 比较所述第一单位时长, 与预先存储的所 述当前批量数据的上一批量数据进行脱敏 处理的第二单位时长, 确定预先建立的批量数据 规划调度记录中的, 所述当前批量数据的下一批量数据的数据量调度比例, 包括: 若所述第一单位 时长, 大于预先存储的所述当前批量数据的上一批量数据进行脱敏处 理的第二单位时长, 则确定已有的批量数据规划调度记录中的, 所述当前批量数据的下一 批量数据的数据量调度比例为第一比例; 若所述第一单位 时长, 不大于预先存储的所述当前批量数据的上一批量数据进行脱敏 处理的第二单位时长, 则确定已有的批量数据规划调度记录中的, 所述当前批量数据的下 一批量数据的数据量调度比例为第二比例。 4.根据权利要求3所述的方法, 其特征在于, 按照所述下一批量数据对应的数据量调度 比例, 对所述下一批量数据进行调整, 得到待调度批量数据, 包括: 当所述下一批量数据对应的数据量调度比例为第 一比例时, 选取所述下一批量数据中 的第一部分数据作为待调度批量数据, 所述第一部 分数据的数据量为所述下一批量数据的 数据量与所述第一比例 相乘的结果。 5.根据权利要求4所述的方法, 其特征在于, 在选取所述下一批量数据中的第 一部分数 据作为待调度批量数据之后, 还 包括: 将所述下一批量数据中除所述第 一部分数据外的数据确定为负载暂缓执行数据, 所述 负载暂缓执 行数据为调度顺序在所述第一部分数据后的数据。 6.根据权利要求3所述的方法, 其特征在于, 按照所述下一批量数据对应的数据量调度 比例, 对所述下一批量数据进行调整, 得到待调度批量数据, 包括: 当所述下一批量数据对应的数据量调度比例为第 二比例时, 选取所述下一批量数据中 的第二部分数据作为待调度批量数据, 所述第二部 分数据的数据量为所述下一批量数据的 数据量与所述第二比例 相乘的结果。 7.根据权利要求1所述的方法, 其特 征在于, 对所述待调度批量数据进行调度, 包括: 向已有的任务队列 添加所述待调度批量数据, 以供用于数据脱敏的数据脱敏处理器从权 利 要 求 书 1/2 页 2 CN 115310129 A 2所述任务队列中获取 所述待调度批量数据。 8.根据权利要求1所述的方法, 其特征在于, 获取当前批量数据进行脱敏处理 的第一单 位处理时长, 包括: 获取当前批量数据进行脱敏处 理的数据量以及处 理总时间; 将所述处理总时间与 所述数据量的比值, 作为所述当前批量数据进行脱敏处理 的第一 单位时长 。 9.根据权利要求8所述的方法, 其特征在于, 将所述处理总时间与所述数据量的比值, 作为所述当前批量数据进行脱敏处 理的第一单位时长, 包括: 确定所述处 理总时间与所述数据量的比值; 对所述比值的千分位四舍五入, 保留得到在所述比值的千分位之前的估计数值, 并将 所述估计数值对应的时长作为所述当前批量数据进行脱敏处 理的第一单位时长 。 10.一种数据调度的装置, 其特 征在于, 包括: 单位时长获取单元, 用于在接收到数据待调度信号时, 获取当前批量数据进行脱敏处 理的第一单位时长; 调度比例确定单元, 用于比较所述第一单位时长, 与预先存储的所述当前批量数据的 上一批量数据进行脱敏处理的第二单位时长, 确定预先建立的批量数据规划调度记录中 的, 所述当前批量数据的下一批量数据的数据量调度比例; 待调度数据确定单元, 用于按照所述下一批量数据对应的数据量调度比例, 对所述下 一批量数据进行调整, 得到待调度批量数据; 待调度数据调度单 元, 用于对所述待调度批量数据进行调度。 11.一种数据调度的设备, 其特 征在于, 包括存 储器和处 理器; 所述存储器, 用于存 储程序; 所述处理器, 用于执行所述程序, 实现如权利要求1 ‑9任一项的数据调度的方法的各个 步骤。 12.一种可读存储介质, 其上存储有计算机程序, 其特征在于, 所述计算机程序被处理 器执行时, 实现如权利要求1 ‑9任一项的数据调度的方法的各个步骤。权 利 要 求 书 2/2 页 3 CN 115310129 A 3

PDF文档 专利 一种数据调度的方法、装置、设备及可读存储介质

文档预览
中文文档 16 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共16页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种数据调度的方法、装置、设备及可读存储介质 第 1 页 专利 一种数据调度的方法、装置、设备及可读存储介质 第 2 页 专利 一种数据调度的方法、装置、设备及可读存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-18 22:34:38上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。