(19)中华 人民共和国 国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202210051704.6 (22)申请日 2022.01.18 (65)同一申请的已公布的文献号 申请公布号 CN 114091108 A (43)申请公布日 2022.02.25 (73)专利权人 南京大学 地址 210000 江苏省南京市栖霞区仙林大 道163号 (72)发明人 许封元　吴昊　 (74)专利代理 机构 南京苏创专利代理事务所 (普通合伙) 32273 代理人 石嘉蓉 (51)Int.Cl. G06F 21/62(2013.01) G06F 16/35(2019.01)G06F 16/953(2019.01) G06F 16/9535(2019.01) G06F 40/30(2020.01) G06V 10/762(2022.01) G06K 9/62(2022.01) 审查员 朱江岩 (54)发明名称 一种智能系统隐私性评估方法及系统 (57)摘要 本发明公开了一种智能系统隐私性评估方 法及系统， 该评估方法包括： 首先根据待评估系 统的应用场景进行数据按需准备， 并根据待评估 系统的工作要求进行动态数据采样； 而后通过智 能语义编辑算法对评估数据中的隐私信息进行 修改， 通过评估 所修改数据对模 型推断精度的影 响来分析数据隐私信息与系统推断精度的关联 关系， 进而对待评估系统的隐私性进行量化评 估。 本发明以数据驱动的方式， 通过建立用户隐 私信息与模 型推断精度之间的关系， 实现了智能 系统的隐私性评估， 从而建立了一套通用、 高效、 自动化的智能系统隐私性评估系统， 有效提高了 智能系统对用户隐私信息使用的透明度， 保证用 户对个人隐私信息使用风险的知情权 。 权利要求书2页 说明书8页 附图5页 CN 114091108 B 2022.04.26 CN 114091108 B 1.一种智能系统隐私性评估方法， 其特 征在于， 包括以下步骤： S1、 数据准备： 根据待评估系统 的应用场景进行数据检索， 完成候选评估数据集的准备 工作； S2、 数据采样： 根据待评估系统 的工作要求对候选评估数据集进行筛选， 并从符合要求 的评估样本中选出 具有代表性的评估样例M； S3、 语义编辑： 确定评估样例M中的隐私信息， 并对评估样例M中的隐私信息进行语义提 取与编辑， 得到变化后的评估样例M’； S4、 隐私评估： 通过评估待评估系统对评估样例M和M’的推断结果之间的差异性来分析 所编辑隐私信息与待评估系统推断精度的关联性， 进而对待评估系统的 隐私性进 行量化评 估； 所述步骤S2具体包括： 2.1、 数据分布推断： 根据数据分布类型对候选评估数据进行划分， 并通过待评估系统 对每种数据分布中的随机样本进 行推断， 而后根据推断结果确定符合待评估系统工作要求 的数据分布类型； 2.2、 代表样例选择： 对符合要求的评估样本进行语义表示， 并根据评估样本之间的语 义相似度进行分类， 从各类评估样本中随机 选取具有代表性的评估样例M； 所述步骤S3具体包括： 3.1、 隐私信息图谱构建： 构建通用的隐私信息图谱， 并提取评估样例M中的语义特征， 而后在抽取出的语义特征与隐私信息图谱上的信息之 间求交集， 求解所得的交集即为评估 样例M上的隐私信息； 3.2、 语义提取与再编辑： 采用智能编辑算法对评估样例M上的隐私信息进行语义编辑 以及数据重建。 2.根据权利要求1所述的一种智能系统隐私性评估方法， 其特征在于， 所述步骤S1具体 包括： 1.1、 智能场景理解： 通过智能分析技术挖掘提取待评估系统的应用场景和具体功能， 并建立模型功能数据库； 1.2、 数据按需收集： 根据智能场景理解中提取的关键词进行在线数据检索， 并根据检 索数据与检索关键词之间的相关性对检索数据进行筛 选， 得到候选 评估数据集。 3.根据权利要求1所述的一种智能系统隐私性评估方法， 其特征在于， 所述步骤S4中利 用信息量度量 函数来对待评估系统的隐私性进行量 化评估。 4.根据权利要求3所述的一种智能系统隐私性评估方法， 其特征在于， 还包括： 根据待 评估系统的隐私性评估结果， 进一步对语义编辑、 数据采样和数据准备过程进行动态优化 和调整， 由此进行迭代评估， 直到 评估结果收敛。 5.根据权利要求4所述的一种智能系统隐私性评估方法， 其特征在于， 所述迭代评估过 程中， 采用启发式搜索策略动态、 分层次地优化指导语义编辑、 数据采样和数据准备过程， 具体包括隐私信息的语义再编辑、 评估样例M的重新选择、 数据检索内容的调整， 同时持续 动态更新隐私性评估结果。 6.一种智能系统隐私性评估系统， 其特 征在于， 包括以下模块： 数据准备模块： 用于根据待评估系统的应用场景进行数据检索， 完成候选评估数据集权　利　要　求　书 1/2 页 2 CN 114091108 B 2的准备工作； 数据采样模块： 用于根据待评估系统的工作要求对候选评估数据集进行筛选， 并从符 合要求的评估样本中选出 具有代表性的评估样例M； 语义编辑模块： 用于确定评估样例M中的隐私信息， 并对评估样例M中的隐私信息进行 语义提取与编辑， 得到变化后的评估样例M’； 隐私评估模块： 通过评估待评估系统对评估样例M和M’的推断结果之间的差异性来分析 所编辑隐私信息与待评估系统推断精度的关联性， 进而对待评估系统的 隐私性进 行量化评 估； 所述数据采样模块的操作过程具体包括： a、 数据分布推断： 根据数据分布类型对候选评估数据进行划分， 并通过待评估系统对 每种数据分布中的随机样本进 行推断， 而后根据推断结果确定符合待评估系统工作要求的 数据分布类型； b、 代表样例选择： 对符合要求的评估样本进行语义表示， 并根据评估样本之间的语义 相似度进行分类， 从各类评估样本中随机 选取具有代表性的评估样例M； 所述语义编辑模块的操作过程具体包括： A、 隐私信息图谱构建： 构建通用的隐私信息图谱， 并提取评估样例M中的语义特征， 而 后在抽取出的语义特征与隐私信息图谱上的信息之 间求交集， 求解所得的交集即为评估样 例M上的隐私信息； B、 语义提取与再编辑： 采用智能编辑算法对评估样例M上的隐私信息进行语义编辑以 及数据重建。 7.根据权利要求6所述的一种智能系统隐私性评估系统， 其特征在于， 所述隐私评估模 块进一步根据待评估系统的隐私性评估结果对语义编辑模块、 数据采样模块、 数据准备模 块进行动态优化和调整， 由此进行迭代评估， 直到 评估结果收敛。 8.根据权利要求7所述的一种智能系统隐私性评估系统， 其特征在于， 所述迭代评估过 程中， 采用启发式搜索策略动态、 分层次地优化指导语义编辑模块、 数据采样模块、 数据准 备模块， 具体包括隐私信息的语义再编辑、 评估样例M的重新选择、 数据检索内容的调整， 同 时隐私评估 模块持续动态更新隐私性评估结果。权　利　要　求　书 2/2 页 3 CN 114091108 B 3