standard download
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210884125.X (22)申请日 2022.07.26 (71)申请人 中国科学院信息 工程研究所 地址 100093 北京市海淀区闵庄路甲89号 (72)发明人 艾正阳 吴广君 丁煜 王勇  (74)专利代理 机构 北京君尚知识产权代理有限 公司 11200 专利代理师 司立彬 (51)Int.Cl. G06N 20/20(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06F 16/9536(2019.01) G06F 16/958(2019.01) G06F 21/62(2013.01) (54)发明名称 一种基于快速傅里叶变换和可学习滤波器 的联邦推荐方法 (57)摘要 本发明公开了一种基于快速傅里叶变换和 可学习滤波器的联邦推荐方法。 本方法为: 服务 器选取多个客户端, 并将全局模 型发送至每一所 选客户端; 各客户端分别利用本地数据集对全局 模型进行训练更新; 服务器收集各客户端计算的 模型参数并进行平均, 获取本轮更新后的全局模 型, 并进行下一轮次的训练。 客户端的本地模型 训练: 1)根据用户的交互项目序列生成嵌入矩 阵; 2)将嵌入矩阵进行快速傅里叶变换至频域; 3)将上述结果乘以一个滤波器来调制频域, 再快 速傅里叶逆变换将其变回时域后输入前馈神经 网络, 得到用户兴趣表示; 4)基于用户兴趣表示 与嵌入矩阵计算用户对各项目的偏好分数; 5)根 据所述偏好 分数对各项目进行排序, 得到项目推 荐结果。 权利要求书2页 说明书6页 附图2页 CN 115409204 A 2022.11.29 CN 115409204 A 1.一种基于快速傅里叶变换和可 学习滤波器的联邦推荐方法, 其 步骤包括: 1)中央服务器选取多个客户端, 并将全局模型发送至每一所选客户端; 所述全局模型 包括嵌入层、 多个堆叠的多层感知机块; 每一所述多层感知机块包括一傅里叶子层和一个 前馈子层; 2)各所述客户端分别利用本地数据集对收到的所述全局模型进行训练更新, 其中客户 端m训练所述全局模型的方法为: 21)客户端m将本地保存的用户m 的交互序列 转化为固定长度的序列, 然后将所述序 列中的每个项目转化为独热编码向量后与项目嵌入矩阵MI相乘, 获取嵌入矩阵I; 将可学习 的位置矩阵P与嵌入矩阵I结合得到嵌入层的输出E=I+P; 其中, 表示用户m在时间步 交互的项目, 代表用户m的交 互序列的长度; 22)将矩阵E输入到N个堆叠的多层感知机块中, 以获得用户m的兴趣表示FN; 其中第n个 多层感知机块的输入矩阵为Fn‑1、 输出矩阵为Fn, 当n=1时, F0=E; 第n个多层感知机块的所 述傅里叶子层对输入的矩阵Fn‑1进行快速傅里叶变换, 得到频域数据Xn; 然后所述傅里叶子 层将输出的Xn乘以一个可学习的滤波器, 得到频谱 然后所述傅里叶子层对频谱 进行 快速傅里叶逆变换, 得到时域数据 然后所述傅里叶子层对 依次进行层归一化、 残差连 接和dropout处理, 得到 并输入第n个多层感知机块的前馈子层, 得到输出矩阵Fn并将其 输入下一多层感知机块; n =1~N, N 为大于1的自然数; 23)根据兴趣表示FN计算用户m对每一项目i的偏好得分P(v)=IiFN; 其中, Ii为所述序列 中项目i的嵌入向量; 24)根据所得偏好得分对各项目进行排序, 并将分数最高的若干项目作为项目推荐结 果; 根据推荐结果与对应的真实结果计算损失值更新收到的所述全局模型; 3)中央服务器收集各所述客户端更新后的全局模型参数并进行平均, 得到更新后的全 局模型; 如果所述全局模型收敛或达到 设定的训练轮次, 则停止训练; 否则将当前更新后的 全局模型发送给 各所述客户端, 重复步骤2)~3); 4)所述客户端m从所述中央服务器获取训练完成的所述全局模型作为推荐模型; 将用 户m的一交 互序列输入所述推荐模型获取对应的推荐结果。 2.根据权利要求1所述的方法, 其特征在于, 所述前馈子层为两层串联的前馈神经网 络。 3.根据权利要求2所述的方法, 其特征在于, 第n个多层感知机块的前馈子层对输入的 进行处理得到 其中, W(1)为第一层前馈神经网 络的权重矩阵, W(2)为第二层前馈神经网络的权重矩阵, b(1)为第一层前馈神经网络的偏置 向量, b(2)为第二层前馈神经网络的偏置向量, ReLU()为激活函数。 4.根据权利要求1或2或3所述的方法, 其特征在于, 其中WF为可学习的 滤波器。 5.根据权利要求1或2或3所述的方法, 其特征在于, 步骤1)中, 所述中央服务器从客户 端集合 中选取一个子集 然后将所述全局模型的模型参数 发送至子集 中的每一客权 利 要 求 书 1/2 页 2 CN 115409204 A 2户端; 其中, 客户端m的本地模型参数 6.一种电子装置, 其特征在于, 包括存储器和 处理器, 所述存储器存储计算机程序, 所 述计算机程序被配置为由所述处理器执行, 所述计算机程序包括用于执行权利要求 1至5任 一所述方法中各步骤的指令 。 7.一种计算机可读存储介质, 其上存储有计算机程序, 其特征在于, 所述计算机程序被 处理器执行时实现权利要求1至 5任一所述方法的步骤。权 利 要 求 书 2/2 页 3 CN 115409204 A 3

PDF文档 专利 一种基于快速傅里叶变换和可学习滤波器的联邦推荐方法

文档预览
中文文档 11 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共11页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种基于快速傅里叶变换和可学习滤波器的联邦推荐方法 第 1 页 专利 一种基于快速傅里叶变换和可学习滤波器的联邦推荐方法 第 2 页 专利 一种基于快速傅里叶变换和可学习滤波器的联邦推荐方法 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-18 22:34:49上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。