standard download
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210042292.X (22)申请日 2022.01.14 (71)申请人 平安科技 (深圳) 有限公司 地址 518033 广东省深圳市福田区福田街 道福安社区益田路5033号平 安金融中 心23楼 (72)发明人 金晓辉 阮晓雯 (74)专利代理 机构 北京鸿元知识产权代理有限 公司 11327 代理人 王守梅 袁文婷 (51)Int.Cl. G06F 40/295(2020.01) G06K 9/62(2022.01) G06F 40/30(2020.01) (54)发明名称 实体样本的抽取方法、 系统及存 储介质 (57)摘要 本发明涉及人工智能, 提供一种实体抽取样 本的数据增强方法, 通过聚类的方法对现有的大 批量人工标注进行有效性判断, 对置信度与簇中 心相差较大的样本进行剔除, 保证用于模型训练 数据的高质量。 同时被剔除的样 本通过与存量样 本进行相似度比对判定, 进而对相似度高的样本 进行召回, 生成了有限的标注标签集合, 完成了 硬性匹配过滤, 保证标注数据质检的有序进行; 实现了大量减少人力投入, 适用于大量数据集的 NER实体识别场景的技 术效果。 权利要求书2页 说明书11页 附图2页 CN 114372469 A 2022.04.19 CN 114372469 A 1.一种实体样本的抽取 方法, 其特 征在于, 方法包括: 对实体样本的标签数据进行分类, 按照所分的标签类别获取实体样本标注的全量标签 数据; 将所获取的全量标签数据按照标签类别分别进行分词、 编码预处理, 以获取各标签类 别的标签矩阵; 对各标签类别的所述标签矩阵进行主成分分析, 以获取所述各类标签类别对应的主要 特征; 利用各类标签类别对应的主要特征分别对各标签类别的标签数据进行筛选, 以筛选符 合预设标准的标签数据作为高置信度标注; 将所述各标签类别的高置信度标注集合生成高置信度标签池, 利用所述高置信度 标签 池进行样本抽取。 2.如权利要求1所述的实体样本的抽取方法, 其特征在于, 利用各类标签类别对应的主 要特征分别对各标签类别的标签数据进行筛选, 筛选符合预设标准的标签数据作为高置信 度标注的方法, 包括: 将所述标签 类别的一个主 要特征作为一个簇类; 获取每一个簇类中的标签数据与所对应的主要特征间的距离并形成距离集合; 并, 利 用所述距离集 合确定距离异常阈值; 筛选与对应的主要特征间的距离小于所述距离异常阈值的标签数据作为高置信度标 注。 3.如权利要求2所述的实体样本的抽取方法, 其特征在于, 筛选与对应的主要特征间的 距离大于距离异常阈值的标签数据作为低置信度标注。 4.如权利要求3所述的实体样本的抽取方法, 其特征在于, 对各标签类别的所述低置信 度标注集合中的标签数据进行筛选, 筛选相似度大于预设相似度阈值的标签数据归入高置 信度标签池; 将筛 选后的低置信度标注集 合中的标签数据生成异常标签池。 5.如权利要求2所述的实体抽取样本的数据增强方法, 其特征在于, 获取每一个簇类中 的标签数据与所对应的主要特征间的距离的方法, 包括: 通过计算每一个实体标签的向量 在主成分上的投影距离, 获得每一个簇类中的标签数据与所对应的主 要特征间的距离 。 6.如权利要求4所述的实体样本的抽取方法, 其特征在于, 筛选相似度 大于预设相似度 阈值的标签数据归 入高置信度标签池的方法包括: 对各标签类别的所述低置信度标注集合中的标签数据分别进行基于cosine值的语义 相似度计算和字符相似度计算; 其中, 利用基于cosine值的语义相似度计算获得cosine向 量值, 利用字符相似度计算获得字符相似度值; 针对语义相似度及字符相似度分别设置50%的权重, 利用cosine向量值和字符相似度 值加权得到整体的相似度; 筛选整体相似度值大于相似度阈值的标签数据; 则, 将所述标签数据归 入高置信度标签池。 7.如权利要求1所述的实体样本的抽取方法, 其特征在于, 将所获取的全量标签数据按 照标签类别分别进行分词、 编码预处 理, 以获取 各标签类别的标签矩阵的方法, 包括: 将所获取的全量标签数据按照标签 类别分别进行分词;权 利 要 求 书 1/2 页 2 CN 114372469 A 2获取所述分词后的全量数据标签中包 含的字符, 并将所述字符构成文字集 合; 对所述文字集合在词句段篇等维度分别 进行独热编码, 并进行padding操作, 以在词句 段篇四个级别上分别构造对应的矩阵, 获得词矩阵、 句矩阵、 段矩阵以及篇矩阵。 8.一种实体样本的抽取系统, 其特 征在于, 所述系统包括: 全量数据标签获取单元, 用于对实体样本的标签数据进行分类, 按照所分的标签类别 获取实体样本标注的全量标签数据; 标签矩阵获取单元, 用于将所获取的全量标签数据按照标签类别分别进行分词、 编码 预处理, 以获取 各标签类别的标签矩阵; 主要特征获取单元, 用于对各标签类别的所述标签矩阵进行主成分分析, 以获取所述 各类标签 类别对应的主 要特征; 高置信度标签池获取单元, 用于利用各类标签类别对应的主要特征分别对各标签类别 的标签数据进行筛选, 以筛选符合预设标准的标签数据作为高置信度标注; 将所述各标签 类别的高置信度标注集 合生成高置信度标签池, 利用所述高置信度标签池进行样本抽取。 9.一种电子设备, 其特 征在于, 所述电子设备包括: 至少一个处 理器; 以及, 与所述至少一个处 理器通信连接的存 储器; 其中, 所述存储器存储有可被所述至少一个处理器执行的指令, 所述指令被所述至少一个处 理器执行, 以使所述至少一个处理器能够执行如权利要求 1至7中任一所述的实体样本的抽 取方法中的步骤。 10.一种计算机可读存储介质, 存储有计算机程序, 其特征在于, 所述计算机程序被处 理器执行时实现如权利要求1至7中任一所述的实体样本的抽取 方法。权 利 要 求 书 2/2 页 3 CN 114372469 A 3
专利 实体样本的抽取方法、系统及存储介质
文档预览
中文文档
16 页
50 下载
1000 浏览
0 评论
0 收藏
3.0分
赞助2.5元下载(无需注册)
温馨提示:本文档共16页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2.5元下载
本文档由 SC 于
2024-02-18 22:33:54
上传分享
举报
下载
原文档
(508.9 KB)
分享
友情链接
天空卫生 数据防泄露 DLP 技术指南完整电子版.pdf
GB-T 22551-2023 旅居车辆 居住要求.pdf
GB-T 32851-2016 国际货运代理包舱、包航空集装器 集装箱、集装板 运输服务质量要求.pdf
JR-T0223-2021 金融数据安全 数据生命周期安全规范.pdf
GB-T 44014-2024 应急避难场所 标志.pdf
GB 29743.1-2022 机动车冷却液 第1部分:燃油汽车发动机冷却液.pdf
DB50-T 1375-2023 食品集中配送服务规范 重庆市.pdf
DB65-T 4536.2—2022 电子政务外网建设规范第2部分:IPv4地址规划 新疆维吾尔自治区.pdf
T-DZJN 80—2022 数据中心用锂离子电池设备产品技术标准.pdf
GB-T 29828-2013 信息安全技术 可信计算规范 可信连接架构.pdf
T-GDSCEE 111—2023 舞台灯具跌落试验规范.pdf
火绒安全 2021终端安全情报年鉴.pdf
DB5301-T 99-2023 改性磷石膏综合利用 矿山生态修复 过程环境监管规范 昆明市.pdf
青藤 鹊桥SOAR解决方案.pdf
GB-T 33667-2017 高校毕业生就业指导服务规范.pdf
GB-T 13861-2022 生产过程危险和有害因素分类与代码.pdf
易观分析 AIGC产业研究报告2023——语言生成篇pdf.pdf
T-CCASC 1006—2023 氯乙烯生产企业安全风险隐患排查指南.pdf
DB13-T 5022-2019 冶金企业气体防护站安全管理规范 河北省.pdf
GB-T 36273-2018 智能变电站继电保护和安全自动装置数字化接口技术规范.pdf
1
/
16
评价文档
赞助2.5元 点击下载(508.9 KB)
回到顶部
×
微信扫码支付
2.5
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。