standard download
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210790536.2 (22)申请日 2022.07.05 (71)申请人 上海淇毓信息科技有限公司 地址 201500 上海市崇明区横沙乡富民支 路58号A1-5962室 (上海横泰经济开发 区) (72)发明人 付彪 宋荣鑫 黄建庭 黄龙  (74)专利代理 机构 北京清诚知识产权代理有限 公司 11691 专利代理师 宋红艳 (51)Int.Cl. G06K 9/62(2022.01) G06F 21/62(2013.01) (54)发明名称 海量数据中识别 目标类型数据的方法及装 置 (57)摘要 本发明公开了一种海量数据中识别 目标类 型数据的方法、 装置及电子设备, 所述方法包括: 根据数据仓库中数据表类型对应的抽样规则从 数据表n个字段中分别抽取n个样本数据; 将第i 样本数据输入至字段识别模型的M个接口, 得到 第i样本数据在M个预设字段类型上的识别结果; 根据第i样本数据在M个预设字段类型上的识别 结果确定第i个字段判定为M个预设字段类型的 概率; 根据所述概率识别目标类型字段。 本发明 根据第i个字段判定为M个预设字段类型的概率 从整体上识别目标类型字段, 使识别结果更能反 映字段抽样值整体的概率, 而不仅仅是字段抽样 值, 使目标类型字段识别结果更为准确, 加强了 对敏感数据安全的保护, 有效地避免敏感数据泄 漏。 权利要求书3页 说明书12页 附图3页 CN 115310514 A 2022.11.08 CN 115310514 A 1.一种海量数据中识别目标类型 数据的方法, 其特 征在于, 所述方法包括: 根据数据仓库中数据表类型对应的抽样规则从数据表n个字段中分别抽取n个样本数 据; 将第i样本数据输入至字段识别 模型的M个接口, 得到第i样本数据在M个预设字段类型 上的识别结果; 其中: 字段识别模型的每 个接口对应识别一个预设字段类型; 根据第i样本数据在M个预设字段类型上的识别结果确定第i个字段判定为M个预设字 段类型的概 率; 根据所述 概率识别目标类型字段; 其中: M、 n、 i均为大于零的自然数, 且i小于等于n。 2.根据权利 要求1所述的方法, 其特征在于, 样本数据为json格 式; 所述将第i样本数据 输入至字段识别模型的M个接口, 得到第i样本数据在M个预设字段类型 上的识别结果包括: 将第i样本数据根据jso n结构进行拆解, 得到第i样本数据的多个主键值; 将每个主键值输入至字段识别模型的M个接口, 得到每个主键值在M个预设字段类型上 的识别结果; 根据每个主键值在M个预设字段类型上的识别结果确定第 i样本数据在M个预设字段类 型上的识别结果。 3.根据权利要求1或2所述的方法, 其特征在于, 第i个字段判定为第j个预设字段类型 的概率qij通过如下公式获取: 其中: N1ij为第i个样本数据在第j个预设字段类型上的识别结果为第一识别结果的样 本个数, N 为第i个样本数据的总个数, j为大于零且小于等于 M的自然数。 4.根据权利要求3所述的方法, 其特 征在于, 所述方法还 包括: 配置每个预设字段类型的概 率阈值; 判断目标类型字段判定为第j个预设字段类型的概率是否大于第j个预设字段类型的 概率阈值; 若大于, 根据所述第j个预设字段类型 标记目标类型字段的类型; 根据所述类型对所述目标类型字段进行脱敏处 理。 5.根据权利要求1所述的方法, 其特征在于, 所述数据表包括: 分区表和非分区表; 对非 分区表采用第一抽样规则从数据 表n个字段中分别抽取n个样本数据; 对分区表按照分区顺 序依次从各个分区的n个字段分别中抽取n个样本数据。 6.根据权利要求1所述的方法, 其特 征在于, 所述方法还 包括: 根据目标类型字段提取目标类型数据表, 并对所述目标类型数据表配置多层级的审批 机制; 和/或: 对目标类型字段进行脱敏处 理。 7.一种海量数据中识别目标类型 数据的装置, 其特 征在于, 所述装置包括: 抽样模块, 用于根据数据仓库中数据表类型对应的抽样规则从数据表n个字段中分别 抽取n个样本数据;权 利 要 求 书 1/3 页 2 CN 115310514 A 2第一识别模块, 用于将第i样本数据输入至字段识别 模型的M个接口, 得到第i样本数据 在M个预设字段类型上的识别结果; 其中: 字段识别模型的每个接口对应识别一个预设字段 类型; 确定模块, 用于根据第i样本数据在M个预设字段类型上的识别结果确定第i个字段判 定为M个预设字段类型的概 率; 第二识别模块, 用于根据所述 概率识别目标类型字段; 其中: M、 n、 i均为大于零的自然数, 且i小于等于n。 8.根据权利要求7所述的装置, 其特征在于, 样本数据为json格式; 所述第一识别模块 包括: 拆解模块, 用于将第i样本数据根据json结构进行拆解, 得到第i样本数据的多个主键 值; 输入模块, 用于将每个主键值输入至字段识别模型的M个接口, 得到每个主键值在M个 预设字段类型 上的识别结果; 子确定模块, 用于根据每个主键值在M个预设字段类型上的识别结果确定第 i样本数据 在M个预设字段类型 上的识别结果。 9.根据权利要求7或8所述的装置, 其特征在于, 所述确定模块通过如下公式获取第i个 字段判定为第j个预设字段类型的概 率qij: 其中: N1ij为第i个样本数据在第j个预设字段类型上的识别结果为第一识别结果的样 本个数, N 为第i个样本数据的总个数, j为大于零且小于等于 M的自然数。 10.根据权利要求9所述的装置, 其特 征在于, 所述装置还 包括: 配置模块, 用于配置每 个预设字段类型的概 率阈值; 判断模块, 用于判断目标类型字段判定为第j个预设字段类型的概率是否大于第j个预 设字段类型的概 率阈值; 标记模块, 用于若大于, 根据所述第j个预设字段类型 标记目标类型字段的类型; 脱敏模块, 用于根据所述类型对所述目标类型字段进行脱敏处 理。 11.根据权利要求7所述的装置, 其特征在于, 所述数据表包括: 分区表和非分区表; 所 述抽样模块, 对非分区表采用第一抽样规则从数据表n个字段中分别抽取n个样本数据; 对 分区表按照分区顺序依次从各个分区的n个字段分别中抽取n个样本数据。 12.根据权利要求7 所述的装置, 其特 征在于, 所述装置还 包括: 提取模块, 用于根据目标类型字段提取目标类型数据表, 并对所述目标类型数据表配 置多层级的审批 机制; 和/或: 处理模块, 用于对目标类型字段进行脱敏处 理。 13.一种电子设备, 包括: 处理器; 以及 存储计算机可执行指令的存储器, 所述计算机可执行指令在被执行时使所述处理器执 行根据权利要求1 ‑6中任一项所述的方法。权 利 要 求 书 2/3 页 3 CN 115310514 A 3

PDF文档 专利 海量数据中识别目标类型数据的方法及装置

文档预览
中文文档 19 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共19页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 海量数据中识别目标类型数据的方法及装置 第 1 页 专利 海量数据中识别目标类型数据的方法及装置 第 2 页 专利 海量数据中识别目标类型数据的方法及装置 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-18 22:35:04上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。