standard download
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210790536.2 (22)申请日 2022.07.05 (71)申请人 上海淇毓信息科技有限公司 地址 201500 上海市崇明区横沙乡富民支 路58号A1-5962室 (上海横泰经济开发 区) (72)发明人 付彪 宋荣鑫 黄建庭 黄龙 (74)专利代理 机构 北京清诚知识产权代理有限 公司 11691 专利代理师 宋红艳 (51)Int.Cl. G06K 9/62(2022.01) G06F 21/62(2013.01) (54)发明名称 海量数据中识别 目标类型数据的方法及装 置 (57)摘要 本发明公开了一种海量数据中识别 目标类 型数据的方法、 装置及电子设备, 所述方法包括: 根据数据仓库中数据表类型对应的抽样规则从 数据表n个字段中分别抽取n个样本数据; 将第i 样本数据输入至字段识别模型的M个接口, 得到 第i样本数据在M个预设字段类型上的识别结果; 根据第i样本数据在M个预设字段类型上的识别 结果确定第i个字段判定为M个预设字段类型的 概率; 根据所述概率识别目标类型字段。 本发明 根据第i个字段判定为M个预设字段类型的概率 从整体上识别目标类型字段, 使识别结果更能反 映字段抽样值整体的概率, 而不仅仅是字段抽样 值, 使目标类型字段识别结果更为准确, 加强了 对敏感数据安全的保护, 有效地避免敏感数据泄 漏。 权利要求书3页 说明书12页 附图3页 CN 115310514 A 2022.11.08 CN 115310514 A 1.一种海量数据中识别目标类型 数据的方法, 其特 征在于, 所述方法包括: 根据数据仓库中数据表类型对应的抽样规则从数据表n个字段中分别抽取n个样本数 据; 将第i样本数据输入至字段识别 模型的M个接口, 得到第i样本数据在M个预设字段类型 上的识别结果; 其中: 字段识别模型的每 个接口对应识别一个预设字段类型; 根据第i样本数据在M个预设字段类型上的识别结果确定第i个字段判定为M个预设字 段类型的概 率; 根据所述 概率识别目标类型字段; 其中: M、 n、 i均为大于零的自然数, 且i小于等于n。 2.根据权利 要求1所述的方法, 其特征在于, 样本数据为json格 式; 所述将第i样本数据 输入至字段识别模型的M个接口, 得到第i样本数据在M个预设字段类型 上的识别结果包括: 将第i样本数据根据jso n结构进行拆解, 得到第i样本数据的多个主键值; 将每个主键值输入至字段识别模型的M个接口, 得到每个主键值在M个预设字段类型上 的识别结果; 根据每个主键值在M个预设字段类型上的识别结果确定第 i样本数据在M个预设字段类 型上的识别结果。 3.根据权利要求1或2所述的方法, 其特征在于, 第i个字段判定为第j个预设字段类型 的概率qij通过如下公式获取: 其中: N1ij为第i个样本数据在第j个预设字段类型上的识别结果为第一识别结果的样 本个数, N 为第i个样本数据的总个数, j为大于零且小于等于 M的自然数。 4.根据权利要求3所述的方法, 其特 征在于, 所述方法还 包括: 配置每个预设字段类型的概 率阈值; 判断目标类型字段判定为第j个预设字段类型的概率是否大于第j个预设字段类型的 概率阈值; 若大于, 根据所述第j个预设字段类型 标记目标类型字段的类型; 根据所述类型对所述目标类型字段进行脱敏处 理。 5.根据权利要求1所述的方法, 其特征在于, 所述数据表包括: 分区表和非分区表; 对非 分区表采用第一抽样规则从数据 表n个字段中分别抽取n个样本数据; 对分区表按照分区顺 序依次从各个分区的n个字段分别中抽取n个样本数据。 6.根据权利要求1所述的方法, 其特 征在于, 所述方法还 包括: 根据目标类型字段提取目标类型数据表, 并对所述目标类型数据表配置多层级的审批 机制; 和/或: 对目标类型字段进行脱敏处 理。 7.一种海量数据中识别目标类型 数据的装置, 其特 征在于, 所述装置包括: 抽样模块, 用于根据数据仓库中数据表类型对应的抽样规则从数据表n个字段中分别 抽取n个样本数据;权 利 要 求 书 1/3 页 2 CN 115310514 A 2第一识别模块, 用于将第i样本数据输入至字段识别 模型的M个接口, 得到第i样本数据 在M个预设字段类型上的识别结果; 其中: 字段识别模型的每个接口对应识别一个预设字段 类型; 确定模块, 用于根据第i样本数据在M个预设字段类型上的识别结果确定第i个字段判 定为M个预设字段类型的概 率; 第二识别模块, 用于根据所述 概率识别目标类型字段; 其中: M、 n、 i均为大于零的自然数, 且i小于等于n。 8.根据权利要求7所述的装置, 其特征在于, 样本数据为json格式; 所述第一识别模块 包括: 拆解模块, 用于将第i样本数据根据json结构进行拆解, 得到第i样本数据的多个主键 值; 输入模块, 用于将每个主键值输入至字段识别模型的M个接口, 得到每个主键值在M个 预设字段类型 上的识别结果; 子确定模块, 用于根据每个主键值在M个预设字段类型上的识别结果确定第 i样本数据 在M个预设字段类型 上的识别结果。 9.根据权利要求7或8所述的装置, 其特征在于, 所述确定模块通过如下公式获取第i个 字段判定为第j个预设字段类型的概 率qij: 其中: N1ij为第i个样本数据在第j个预设字段类型上的识别结果为第一识别结果的样 本个数, N 为第i个样本数据的总个数, j为大于零且小于等于 M的自然数。 10.根据权利要求9所述的装置, 其特 征在于, 所述装置还 包括: 配置模块, 用于配置每 个预设字段类型的概 率阈值; 判断模块, 用于判断目标类型字段判定为第j个预设字段类型的概率是否大于第j个预 设字段类型的概 率阈值; 标记模块, 用于若大于, 根据所述第j个预设字段类型 标记目标类型字段的类型; 脱敏模块, 用于根据所述类型对所述目标类型字段进行脱敏处 理。 11.根据权利要求7所述的装置, 其特征在于, 所述数据表包括: 分区表和非分区表; 所 述抽样模块, 对非分区表采用第一抽样规则从数据表n个字段中分别抽取n个样本数据; 对 分区表按照分区顺序依次从各个分区的n个字段分别中抽取n个样本数据。 12.根据权利要求7 所述的装置, 其特 征在于, 所述装置还 包括: 提取模块, 用于根据目标类型字段提取目标类型数据表, 并对所述目标类型数据表配 置多层级的审批 机制; 和/或: 处理模块, 用于对目标类型字段进行脱敏处 理。 13.一种电子设备, 包括: 处理器; 以及 存储计算机可执行指令的存储器, 所述计算机可执行指令在被执行时使所述处理器执 行根据权利要求1 ‑6中任一项所述的方法。权 利 要 求 书 2/3 页 3 CN 115310514 A 3
专利 海量数据中识别目标类型数据的方法及装置
文档预览
中文文档
19 页
50 下载
1000 浏览
0 评论
0 收藏
3.0分
赞助2.5元下载(无需注册)
温馨提示:本文档共19页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2.5元下载
本文档由 SC 于
2024-02-18 22:35:04
上传分享
举报
下载
原文档
(631.5 KB)
分享
友情链接
GB-T 41554-2022 地理空间观测平台及传感器资源元数据.pdf
GB 6222-2005 工业企业煤气安全规程.pdf
DB3302-T 165-2018 杨梅矮化早果丰产栽培技术规程 宁波市.pdf
GB-T 34545-2017 祖母绿分级.pdf
DB34-T 4367-2023 民政领域政府购买服务操作指南 安徽省.pdf
GB-T 25063-2010 信息安全技术 服务器安全测评要求.pdf
GB-T 37096-2018 信息安全技术 办公信息系统安全测试规范.pdf
DB22-T 5040-2020 建设工程见证取样检测标准 吉林省.pdf
DB34-T 3433.1-2019 计量检测数据信息 第 1 部分:数据项 安徽省.pdf
JR-T 0231—2021 银行业第三方软件开发工具包(SDK)安全接入指南.pdf
T-CAEPI 65—2023 固定污染源烟气自动监控监测系统 运行维护技术指南.pdf
DB65-T 4458-2021 南疆盐碱地土壤调理剂施用技术规程 新疆维吾尔自治区.pdf
DB13-T 3035-2023 建筑消防设施维护保养技术规范 河北省.pdf
2023-01-09 汽车信息安全法律法规及标准全景图V3.0.pdf
GB-T 34245-2017 黄磷尾气制甲酸安全技术规程.pdf
DB50-T 1474.2-2023 化粪池监控系统 第2部分:安装与调试 重庆市.pdf
GB-T 2428-1998 成年人头面部尺寸.pdf
GB-T 11017.3-2014 额定电压110kV Um=126kV 交联聚乙烯绝缘电力电缆及其附件 第3部分:电缆附件.pdf
DB42-T 1417-2018 生态浮岛(浮床)植物种植技术规程 湖北省.pdf
GB-T 33585-2017 复合磺酸钙基润滑脂.pdf
1
/
19
评价文档
赞助2.5元 点击下载(631.5 KB)
回到顶部
×
微信扫码支付
2.5
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。