(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111289272.4 (22)申请日 2021.11.02 (71)申请人 支付宝 （杭州） 信息技 术有限公司 地址 310007 浙江省杭州市西湖区西溪路 556号8层B段801-1 1 (72)发明人 姚兴　刘焱　刘威歆　张安蒙　 郭飞　邹钢　李丰廷　 (74)专利代理 机构 北京汇思诚业知识产权代理 有限公司 1 1444 代理人 焦志刚 (51)Int.Cl. G06N 20/00(2019.01) G06K 9/62(2022.01) G06F 16/901(2019.01) G06F 16/903(2019.01) (54)发明名称 用户数据的删除方法、 装置和电子设备 (57)摘要 本说明书实施例提出了一种用户数据的删 除方法、 装置和电子设备， 其中， 上述用户数据的 删除方法中， 服务器获取删除用户数据的请求之 后， 在第一训练数据中查找上述请求中携带的用 户标识所对应的用户数据， 如果查找到上述用户 标识对应的用户数据， 则从上述第一训练数据中 删除查找到的用户数据， 并利用删除上述用户数 据之后的第二训练数据， 重新训练机器学习模 型， 从而可以实现从训练数据和生成的机器学习 模型中删除指定用户的数据， 满足合规要求， 还 可以重新训练并发布新的机 器学习模型。 权利要求书2页 说明书8页 附图5页 CN 113988313 A 2022.01.28 CN 113988313 A 1.一种用户数据的删除方法， 包括： 获取删除用户数据的请求， 所述请求中包括请求删除的用户数据所对应的用户标识； 在第一训练数据中查找所述用户标识对应的用户数据； 其中， 所述第一训练数据包括 训练机器学习模型 所使用的数据， 所述第一训练数据中包括至少两个用户的用户数据； 如果查找到所述用户标识对应的用户数据， 则从所述第 一训练数据中删除查找到的用 户数据； 利用删除所述用户数据之后的第二训练数据， 重新训练机器学习模型。 2.根据权利要求1所述的方法， 其中， 还 包括： 在所述重新训练机器学习模型的过程中， 接收到所述机器学习模型的输入数据之后， 在所述第一训练数据中查找所述输入数据； 如果查找到所述输入数据， 则修改所述机器学习模型返回的置信度值。 3.根据权利要求2所述的方法， 其中， 所述修改所述机器学习模型返回的置信度值包 括： 将所述机器学习 模型返回的置信度值修改为预定区间中的任意值， 所述预定区间中的 最小值大于 0， 最大值小于1。 4.根据权利要求2所述的方法， 其中， 所述第一训练数据的哈希值保存在哈希 表中； 所述在所述第一训练数据中查找所述输入数据包括： 对所述输入数据进行哈希计算， 获得 所述输入数据对应的哈希值； 在所述哈希 表中查找所述输入数据对应的哈希值。 5.根据权利要求4所述的方法， 其中， 所述在所述哈希表中查找所述输入数据对应的哈 希值之前， 还 包括： 在所述第一训练数据中叠加预定的噪音， 生成攻击数据； 对所述攻击数据进行哈希计算， 获得 所述攻击数据对应的哈希值； 将所述攻击数据对应的哈希值添加到所述哈希 表中。 6.一种用户数据的删除装置， 包括： 获取模块， 用于获取删除用户数据的请求， 所述请求中包括请求删除的用户数据所对 应的用户标识； 查找模块， 用于在第一训练数据中查找所述用户标识对应的用户数据； 其中， 所述第一 训练数据包括训练机器学习模型所使用的数据， 所述第一训练数据中包括至少两个用户的 用户数据； 删除模块， 用于当所述查找模块查找到所述用户标识对应的用户数据时， 从所述第一 训练数据中删除查找到的用户数据； 训练模块， 用于利用删除所述用户数据之后的第二训练数据， 重新训练机器学习模型。 7.根据权利要求6所述的装置， 其中， 还 包括： 修改模块； 所述查找模块， 还用于在所述重新训练机器学习模型的过程中， 接收到所述机器学习 模型的输入数据之后， 在所述第一训练数据中查找所述输入数据； 所述修改模块， 用于当所述查找模块查找到所述输入数据时， 修改所述机器学习模型 返回的置信度值。 8.根据权利要求7 所述的装置， 其中，权　利　要　求　书 1/2 页 2 CN 113988313 A 2所述修改模块， 具体用于将所述机器学习 模型返回的置信度值修改为预定区间中的任 意值， 所述预定区间中的最小值大于 0， 最大值小于1。 9.根据权利要求7所述的装置， 其中， 所述第一训练数据的哈希值保存在哈希表中； 所 述装置还 包括： 哈希模块； 所述哈希模块， 用于对所述输入数据进行哈希计算， 获得 所述输入数据对应的哈希值； 所述查找模块， 具体用于在所述哈希 表中查找所述输入数据对应的哈希值。 10.根据权利要求9所述的装置， 其中， 还 包括： 生成模块和添加模块； 所述生成模块， 用于在所述查找模块在所述哈希表中查找所述输入数据对应的哈希值 之前， 在所述第一训练数据中叠加预定的噪音， 生成攻击数据； 所述哈希模块， 还用于对所述攻击数据进行哈希计算， 获得所述攻击数据对应的哈希 值； 所述添加模块， 用于将所述 攻击数据对应的哈希值添加到所述哈希 表中。 11.一种电子设备， 包括： 至少一个处 理器； 以及 与所述处 理器通信连接的至少一个存 储器， 其中： 所述存储器存储有可被所述处理器执行的程序指令， 所述处理器调用所述程序指令能 够执行如权利要求1至 5任一所述的方法。 12.一种非暂态计算机可读存储介质， 所述非暂态计算机可读存储介质存储计算机指 令， 所述计算机指令使所述计算机执 行如权利要求1至 5任一所述的方法。权　利　要　求　书 2/2 页 3 CN 113988313 A 3