(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210568362.5 (22)申请日 2022.05.23 (71)申请人 上海交通大 学 地址 200240 上海市闵行区东川路80 0号 (72)发明人 朱燕民　臧天梓　张若涵　俞嘉地　 唐飞龙　 (74)专利代理 机构 上海交达专利事务所 31201 专利代理师 王毓理　王锡麟 (51)Int.Cl. G06F 16/9535(2019.01) G06F 16/36(2019.01) G06N 3/04(2006.01) (54)发明名称 面向跨域场景的双重细粒度知识迁移系统 (57)摘要 一种面向跨域场景的双重细粒度知识迁移 系统， 包括： 依次相连的输入层、 嵌入层、 双重细 粒度知识迁移层和预测层， 输入层根据用户和物 品的唯一标识， 采用独热编码方式， 生成用户和 物品的独热编码表示； 嵌入层基于用户和物品的 独热编码表示， 采用查表法， 将稀疏的、 高纬度的 独热编码表 示映射到连续的低维空间， 得到初始 嵌入向量； 双重细粒度知识 迁移层将任一交互的 用户‑物品对的初始嵌入向量拼接得到域内知识 表示， 通过细粒度知识提取和迁移得到跨域知识 表示， 并将域内知识表示和跨域知识表示进行自 适应融合， 得到最终的知识表示； 预测层根据最 终的知识表 示生成交互的预测分数， 并进一步得 到推荐结果。 本发明有效地对用户在跨域场景下 的行为进行建模， 实现域间知识的迁移、 互补与 融合， 从而对用户在未来与物品的交互进行预 估， 生成有效的推荐结果， 提高用户的体验感和 对系统的满意 程度。 权利要求书2页 说明书5页 附图1页 CN 115033783 A 2022.09.09 CN 115033783 A 1.一种面向跨域场景的双重细粒度知识迁移系统， 其特征在于， 包括： 依次相连的输入 层、 嵌入层、 双重细粒度知识迁移层和预测层， 其中： 输入层根据用户和物品的唯一标识， 采 用独热编码方式， 生成用户和物品的独热编码表示； 嵌入层基于用户和物品的独热编码表 示， 采用查表法， 将稀疏的、 高纬度的独热编码表示映射到连续的低维空间， 得到初始嵌入 向量； 双重细粒度知识迁移层将任一交互的用户 ‑物品对的初始嵌入向量拼接得到域内知 识表示， 通过细粒度知识提取和迁移得到跨域知识表示， 并将域内知识表示和跨域知识表 示进行自适应融合， 得到最终的知识表示； 预测层根据最终的知识表示生成交互的预测分 数， 并进一 步得到推荐结果； 所述的双重细粒度知识迁移层由若干细粒度知识迁移块组成， 每个细粒度知识迁移块 包括： 细粒度知识提取模块、 细粒度知识迁移模块以及自适应知识融合模块， 其中： 细粒度 知识提取模块将域内知识表示投影到多个潜在的语义空间， 以提取用户和物品交互背后的 细粒度知识； 细粒度知识迁移模块考虑域共享因素和 域特定因素 的存在， 基于注意力机制 实现域间的知识迁移， 并生成跨域知识表示； 自适应知识融合模块融合域内知识表示和跨 域知识表示， 得到最终的知识 表示； 所述的预测分数， 表示模型判断输入的用户 ‑物品对是正样本的概率， 其中概率最高的 用户‑物品对即为推荐结果。 2.根据权利要求1所述的面向跨域场景的双重细粒度知识迁移系统， 其特征是， 所述的 输入层考虑到在所公开的跨域推荐系统中， 两个 域DA和DB有共同的用户集合， 这两个 域的输 入分别为同一个用户u及其在两个域内分别交互 的一个物品iA和iB， 即输入分别是用户 ‑物 品对(u,iA)和(u,iB)。 将用户和物品分别以独热编码的方式表示， 即 其中只有对应用户或物品下 标的元素是1， 其他的元素都为0。 3.根据权利要求1所述的面向跨域场景的双重细粒度知识迁移系统， 其特征是， 所述的 嵌入层， 利用三个嵌入矩阵EU, 将用户和物品的独热编码表示映射到连续的低维表 示空间， 生成用户和物品的初始嵌入向量 其中： d为生成的初始嵌入向量的维度。 4.根据权利要求1所述的面向跨域场景的双重细粒度知识迁移系统， 其特征是， 所述的 双重细粒度知识迁移层实现了域间双重的细粒度知识迁移， 该层通过叠加 L个细粒度知识 迁移块实现深度双重知识迁移， 具体为： 其 中： 和 分别表示第l ‑1个FGKT中域DA和DB的域内知识， 表示从域DB迁移到DA的跨 域知识， 表示从域DA迁移到DB的跨域知识； 对于第一个FGKT， 也就是当l＝1时， 域内知识 表示为由用户 ‑物品对的交互表示， 该 交互表示由用户和物品的初始嵌入向量拼接生成， 即 5.根据权利要求1所述的面向跨域场景的双重细粒度知识迁移系统， 其特征是， 所述的 预测层根据最后一个FGKT的输出， 即 利用一个sigmoi d函数来输出原始 输入的用户 ‑物品对(u,i)是一个正交 互的概率： 权　利　要　求　书 1/2 页 2 CN 115033783 A 26.根据权利要求1所述的面向跨域场景的双重细粒度知识迁移系统， 其特征是， 所述的 细粒度知识 提取模块基于嵌入层得到用户和物品的初始嵌入向量， 对于每个相互交互过的 用户物品对(u,i)， 将其对应的嵌入向量拼接作为该交互的表示， 即eui＝[eu,ei]， 通过将eui 投射到多个潜在的语义空间来识别和提取观测到的用户物品交互背后的多个潜在因素； 当 用户物品交互背后存在K中潜在因素， 通过将eui投射到第 k个潜在空间， 得到该用户物品对 的第k个细粒度的知识表示 其中： 表示被所有用户物 品对共享的投射矩阵， 是得到的细粒度知识 表示， d′为 的维度； 所述的细粒度知识迁移模块对于每个用户物品对(u,i)， 得到K个细粒度知识表示， 即 当在域DA中存在用户物品对(u,iA)， 在域DB中存在用户物品对(u,iB)， 则其对 应的细粒度知识 表示分别为 和 7.根据权利要求6所述的面向跨域场景的双重细粒度知识迁移系统， 其特征是， 从域DB 向域DA迁移知识时， 以域DA中的表示 为指引， 计算域DB中每个潜在空间中细粒度知识表 示的重要性分数： 其中： WM为变化权重 矩阵， bM为偏移项， ReLU为激活函数， 表面了第k个潜在语义空间中的细粒度知识表示的 权重分数。 基于所得的权重分数， 通过加权求和得到从域DB向域DA迁移的跨域知识表示 rA←B： 同样地得到从域DA向域DB迁移的跨 域知识表示rB←A。 8.根据权利要求7所述的面向跨域场景的双重细粒度知识迁移系统， 其特征是， 经过域 间双重知识迁移过程后， 对于域DA中每个用户物品对(u,iA)， 存在域内知识表 示rA和跨域知 识表示rA←B， 由于对于不同的用户物品对， 域内和跨域知识的影响力不同， 所述的自适应知 识融合模块通过自适应的平衡这两种不同的知识表示的重要性， 融合生成统一的表示； 该 自适应知识融合通过门控机制来实现： δ＝σ(WGrA+WCrA←B+bG)， sA＝(1‑δ )⊙rA+δ⊙rA←B， 其 中： WG,WC,bG为该自适应知识融合机制中的可学习的参数， σ 表示sigmoid激活函数， ⊙为元 素级乘法， sA为融合后的知识 表示， 将作为下一个FGKT的域内知识输入。权　利　要　求　书 2/2 页 3 CN 115033783 A 3