(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111107990.5 (22)申请日 2021.09.2 2 (71)申请人 山东师范大学 地址 250014 山东省济南市历下区文化 东 路88号 (72)发明人 孙杰　吴泓辰　敬静　张化祥　 (74)专利代理 机构 济南圣达知识产权代理有限 公司 372 21 代理人 张勇 (51)Int.Cl. G06Q 30/06(2012.01) G06Q 30/02(2012.01) G06F 16/9535(2019.01) G06F 16/958(2019.01) G06F 30/27(2020.01)G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于用户表示的深度模型序列推荐方 法及系统 (57)摘要 本公开提供了一种基于用户表示的深度模 型序列推荐方法及系统， 所述方法包括以下步 骤： 分别获取用户总体偏好的长期序列和用户当 前动态偏好的短期序列； 通过深度序列推荐模型 MLUR得到推荐结果； 其中， 所述深度序列推荐模 型包括短期建模表示学习模块、 长期建模表示学 习模块和门控融合模块， 利用门控融合模块结合 短期建模表示学习模块、 长期建模表示学习模 块。 通过基于多层感知器MLP的门控模块， 通过考 虑热销项目， 最近交互项目和长期偏好之间的关 系来决定长期和短期表示的贡献比率。 该模块通 过考虑到热销项目的信息来平衡长期和短期表 示， 从而可以同时处 理用户的意图动态性。 权利要求书2页 说明书8页 附图1页 CN 113902518 A 2022.01.07 CN 113902518 A 1.一种基于用户表示的深度模型序列推荐方法， 其特 征在于， 包括以下步骤： 分别获取用户总体偏好的长期序列和用户当前动态偏好的短期序列； 通过深度 序列推荐模型MLUR得到推荐结果； 其中， 所述深度序列推荐模型包括短期建模表示学习模块、 长期建模表示学习模块和 门控融合模块， 利用门控融合模块结合短期建模表示学习模块、 长期建模表示学习模块。 2.如权利要求1所述的一种基于用户表示的深度模型序列推荐方法， 其特征在于， 所述 短期建模表示学习模块中， 通过自注意序列推荐模型并使用分层自注意网络来捕捉短期序 列中用户的项目转变。 3.如权利要求1所述的一种基于用户表示的深度模型序列推荐方法， 其特征在于， 所述 长期建模表示学习模块中， 利用循环神经网络RN Ns具有捕捉序列模式的功能进行建模。 4.如权利要求3所述的一种基于用户表示的深度模型序列推荐方法， 其特征在于， 所述 循环神经网络更新序列过程 为： ht＝g(xtW+ht‑1A)； 其中， g为激活函数， xt为长期序列中用户当前交 互项目， ht‑1为上一个隐层状态。 5.如权利要求3所述的一种基于用户表示的深度模型序列推荐方法， 其特征在于， 所述 长期建模表示学习模块中， 利用门控循环单 元GRU作为序列推荐的循环单 元。 6.如权利要求5所述的一种基于用户表示的深度模型序列推荐方法， 其特征在于， 所述 GRU具体为： ht＝zt⊙ht‑1+(1‑zt)⊙h′t； 其中 ht‑1， ht， h′t， zt， Wz， Wr， Wh， Az， Ar， zt和rt分别表示更 新门和重置门， h ′t为候选状态， ht是输出隐藏状态， σ 和tanh为激活函数， +和 ⊙分别表示元 素加法和元 素乘法操作。 7.如权利要求5所述的一种基于用户表示的深度模型序列推荐方法， 其特征在于， 所述 长期建模表 示学习模块中， 引入时间间隔上下文来编码处理长期序列， 通过GRU网络 建模时 间间隔上下文 的演变。 8.如权利要求1所述的一种基于用户表示的深度模型序列推荐方法， 其特征在于， 所述 门控融合模块中， 利用项目相似性门控融合模型来计算短期和长期表示的权重以平衡长短 期序列的贡献 9.如权利要求8所述的一种基于用户表示的深度模型序列推荐方法， 其特征在于， 所述 门控融合模块中， 使用Adam优化器使二进制交叉熵损失最小化 来训练MLUR， 损失函数为： 10.一种基于用户表示的深度模型序列推荐系统， 基于如权利要求1 ‑9任意一项所述的 一种基于用户表示的深度模型序列推荐方法， 其特 征在于， 包括：权　利　要　求　书 1/2 页 2 CN 113902518 A 2序列获取模块， 被配置为， 分别获取用户总体偏好的长期序列和用户当前动态偏好的 短期序列； 深度序列推荐模块， 被 配置为， 通过深度 序列推荐模型MLUR得到推荐结果； 其中， 所述深度序列推荐模型包括短期建模表示学习模块、 长期建模表示学习模块和 门控融合模块， 利用门控融合模块结合短期建模表示学习模块、 长期建模表示学习模块。权　利　要　求　书 2/2 页 3 CN 113902518 A 3