(19)国家知识产权局
(12)发明 专利
(10)授权公告 号
(45)授权公告日
(21)申请 号 202210541192.1
(22)申请日 2022.05.19
(65)同一申请的已公布的文献号
申请公布号 CN 114637923 A
(43)申请公布日 2022.06.17
(73)专利权人 之江实验室
地址 311100 浙江省杭州市余杭区中泰街
道之江实验室南湖总部
(72)发明人 李超 张钊 李其明
(74)专利代理 机构 杭州浙科专利事务所(普通
合伙) 33213
专利代理师 孙孟辉
(51)Int.Cl.
G06F 16/9535(2019.01)
G06F 16/36(2019.01)G06N 3/04(2006.01)
G06N 3/08(2006.01)
(56)对比文件
CN 111813756 A,2020.10.23
CN 113987200 A,2022.01.28
CN 110020910 A,2019.07.16
CN 109272381 A,2019.01.25
审查员 凡保磊
(54)发明名称
基于层次注意力图神经网络的数据信息推
荐方法和装置
(57)摘要
本发明公开一种基于层次注意力图神经网
络的数据信息推荐方法和装置, 该方法包括: 步
骤一, 构建用户项目交互图和知识图谱; 步骤二,
合并用户项目交互图与知识图谱构成用户项目
知识图; 步骤三, 将用户项目知识图输入到图神
经网络中, 采用层次注意力机制计算用户项目知
识图的每个节点邻居的重要程度; 步骤四, 根据
每个节点邻居的重要程度, 对邻居进行聚合来更
新节点表示; 步骤五, 设定输入图神经网络的用
户项目知识图经过的网络层数, 如果未到达设定
的网络层, 则执行步骤三, 反之则根据节点的表
示, 计算图神经网络的损失函数值, 经过迭代训
练, 得到训练好的图神经网络, 为用户生成推荐
的项目。 本发明缓解了数据的稀疏性, 提升了推
荐的准确性。
权利要求书3页 说明书8页 附图3页
CN 114637923 B
2022.09.02
CN 114637923 B
1.一种基于层次注意力图神经网络的数据信息推荐方法, 其特 征在于, 包括以下步骤:
步骤一, 构建用户项目交 互图和知识图谱;
步骤二, 合并用户项目交互图与知识图谱构成用户项目知识图: 将用户项目交互图中
的项目与知识图谱中的实体进 行匹配, 然后将与匹配的实体直接相关的全部三元组与用户
项目交互图进行合并, 构成用户项目知识图;
步骤三, 将用户项目知识图输入到 图神经网络中, 采用 层次注意力机制计算用户项目
知识图的每 个节点邻居的重要程度;
步骤四, 根据每 个节点邻居的重要程度, 对邻居 进行聚合 来更新节点表示;
步骤五, 设定输入图神经网络的用户项目知识图经过的网络层数, 如果未到达设定的
网络层, 则执行步骤三, 反之则根据节点的表示, 计算图神经网络的损失函数值, 经过迭代
训练, 得到训练好的图神经网络, 为用户生成推荐的项目。
2.如权利要求1所述的一种基于层次注意力图神经网络的数据信息推荐方法, 其特征
在 于 , 所 述 用 户项目 交 互图 是 交 互 数 据 被 表 示 为 用 户 ‑项目 的 二 部图
=
,
和
分别表示用户集和项目集, 链接
表示观察到用户
和项目
之间存在交 互, 否则
;
所述知识图谱由辅助信 息组织成, 所述辅助信 息由真实世界的实体及其之间的关系组
成 , 以分析项目 , 则知识图谱是由主体 ‑属性‑客体三元组组成的有向图
=
表示有一个关系
从头实体
到尾实体 t,
和
分别表示实体集
和关系集。
3. 如权利要求2所述的一种基于层次注意力图神经网络的数据信 息推荐方法, 其特征
在于, 所述步骤二具体为: 将每个用户的行为表示为一个三元组(
,
,
), 其中
表示为用户
和项目
之间的一个额外的交互关系; 然后通过用户项目交互图中的
项目与知识图谱中的实体进行匹配得到的项目 ‑实体对齐集, 并根据项目 ‑实体对齐集, 将
用户项目交互图与知识图谱集成为用户项目知识图
=
, 其中
,
。
4.如权利要求3所述的一种基于层次注意力图神经网络的数据信息推荐方法, 其特征
在于, 所述步骤三具体为: 将用户项目知识图输入到图神经网络中, 采用层次注意力机制,
该机制包括: 关系级别注意力和节点级别注意力, 计算出用户项目知识图的关系级别注意
力权重和节点级别注 意力权重, 后 将关系级别注 意力权重和节点级别注意力权重合并得到
层次注意力权 重, 即得到每 个节点邻居的重要程度。
5.如权利要求4所述的一种基于层次注意力图神经网络的数据信息推荐方法, 其特征
在于, 所述计算关系级别注意力, 关系即为节点间的连接边, 关系级别注意力计算公式如
下:
,权 利 要 求 书 1/3 页
2
CN 114637923 B
2,
其中,
代表拼接操作,
代表中心节点的向量表示,
,
代表可
训练的参数;
代表可训练的参数,
代表所有与相连关系的种类,
代表激活函数,
计算关系级别注意力被表示 为
, 代表了对于计算中心 节点
表示时关系
的影响程度。
6.如权利要求5所述的一种基于层次注意力图神经网络的数据信息推荐方法, 其特征
在于, 所述计算节点级别注意力, 公式如下:
,
,
其中,
代表邻居节点的向量表示,
代表可训练的参数;
代表可
训练的参数,
代表关系类型
下的全部邻居节点,
可以被看作是三元组 (
,
,
) 的
表示,
代表实体级别的注意力权 重, 代表了关系
下不同邻居的影响程度;
所述合并得到层次注意力权 重, 公式如下:
。
7.如权利要求6所述的一种基于层次注意力图神经网络的数据信息推荐方法, 其特征
在于, 所述步骤四具体为: 首先根据层次注意力权重, 通过聚合器将本地邻域的信息聚合到
中心节点, 得到节点h的基于邻域的表示, 表达式为:
,
其次进一 步聚合节点本身h和节点h的基于邻域的表示
得到更新的节点
。
8.如权利要求7所述的一种基于层次注意力图神经网络的数据信息推荐方法, 其特征
在于, 所述聚合节点本身h和节点h的基于邻域的表示
得到更新的节点
, 采用包括如下
三种聚合方式:
加法聚合方式, 表达式为:
,
其中,
代表可训练的参数, 将
和
的组合投影到输出空间,
是输出空间
的维度;权 利 要 求 书 2/3 页
3
CN 114637923 B
3
专利 基于层次注意力图神经网络的数据信息推荐方法和装置
文档预览
中文文档
15 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共15页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-18 10:58:19上传分享