(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221047573 0.1 (22)申请日 2022.04.29 (71)申请人 武汉科技大 学 地址 430081 湖北省武汉市青山区和平大 道947号 (72)发明人 庞俊　徐浩　任亮　林晓丽　张鸿　 徐新　张晓龙　李波　 (74)专利代理 机构 杭州宇信知识产权代理事务 所(普通合伙) 33231 专利代理师 张宇娟 (51)Int.Cl. G06F 16/36(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 联合注意力机制与卷积神经网络的知识超 图链接预测方法 (57)摘要 本发明公开了一种联合注意力机制与卷积 神经网络的知 识超图链接 预测方法， 包括： S1、 对 待补全的知识超图进行加载， 获得实体和关系； S2、 对加载的实体和关系进行初始化， 得到初始 实体嵌入向量和初始关系嵌入向量； S3、 将初始 实体嵌入向量和初始关系嵌入向量 以元组的形 式输入到ACLP模型中进行训练； S4、 对初始关系 嵌入向量进行处理得到处理后的关系注意力向 量； S5、 对初始实体嵌入向量进行处理得到处理 后的实体投影嵌入向量； S6、 通过预设的评分模 块对处理后的元组打分， 得出预测结果， 并判断 元组的打分结果是否正确， 将正确的元组添加到 知识超图中， 补全知识超图。 本发明使得处理后 的元组包 含更多的信息， 提升链接预测准确率。 权利要求书4页 说明书11页 附图3页 CN 114817568 A 2022.07.29 CN 114817568 A 1.一种联合注意力机制与卷积神经网络的知识超 图链接预测方法， 其特征在于， 用于 对知识超图中的未知元组进行推理预测， 至少包括 步骤： S1、 对待补全的知识超图进行加载， 获得知识超图中的实体和关系； S2、 对步骤S1加载获得的实体和关系进行初始化， 得到初始实体嵌入向量和初始关系 嵌入向量； S3、 将步骤S2得到的初始 实体嵌入向量和初始关系嵌入向量以元组的形式输入到ACLP 模型中进行训练， 其中， ACLP模型至少包括注意力机制模块和卷积神经网络模块； S4、 通过步骤S3中的注意力机制模块对步骤S2得到的初始关系嵌入向量进行处理， 将 元组内实体的信息按其对于 关系的重要程度成比例的添加到关系嵌入向量中， 得到处理后 的关系注意力向量； S5、 通过步骤S3中的卷积神经网络模块对步骤S2得到的初始 实体嵌入向量进行特征提 取， 将元组内的实体相邻数目信息添加到卷积神经神经网络模块中的卷积核中， 得到处理 后的实体投影嵌入向量； S6、 通过预设的评分模块对处理后的元组进行打分， 得出预测结果， 根据评价指标来判 断元组的打分结果是否正确： 若正确， 则将正确的元组添加到知识超图中， 补全知识超图， 若错误， 则将错 误的元组舍弃； 其中， 处理后的元组包括处 理后的关系向量和处 理后的实体向量。 2.根据权利要求1所述的联合注意力机制与卷积神经网络的知识超图链接预测方法， 其特征在于， 设知识超图是由顶点和超边组成的图， 记作： KHG＝{V， E} 上式中， V＝{v1， v2， ...， v|V|}， 表示KH G中实体的集合， |V|表示KH G所含实体的数量； E＝ {e1， e2， ...， e|E|}， 表示实体之间关系的集合， 即超边的集合， |E|表示KHG所含超边的数量； 任意一条超边e都对应一个元组T＝e(v1， v2， ...， v|e|)， T∈τ， |e|表示超边e所含实体的数 量， 即e的元 数， τ表示理想 完整目标知识超图KHG所有元组 组成的集 合。 3.根据权利要求2所述的联合注意力机制与卷积神经网络的知识超图链接预测方法， 其特征在于， 步骤S4具体包括： 注意力机制模 块中输入的是元组 中关系ei的初始关系嵌入向量 和对应的初 始实体嵌 入向量集合 其中， 表示向量 的维度， 1≤i≤|e|， de表示关系e初始化为 向量时的维数， 是关系ei中所有的实体向量组成的矩阵， 表示向 量 的维度， |ei|表示关系ei中包含实体的数量， dv表示实体v初始化 为向量时的维数； 首先， 对初始关系嵌入向量 和初始实体嵌入向量集合 进行串联操作， 然后对串联 后的向量进行线性映射， 再通过LeakyReLU非线性函数进行 处理， 从而 得出同时包含初始实 体嵌入向量 集合 与初始关系嵌入向量 信息的投影向量 计算过程如公式(1)所示： 上式中， 表示投影向量 的维度， 表示映射矩阵， 表示映射矩阵 的维度， co ncat表示串联操作；权　利　要　求　书 1/4 页 2 CN 114817568 A 2通过softmax对投影向量 进行处理， 得到初始关系嵌入向量 与初始实体嵌入向量 集合 之间的权 重 softmax的计算过程如公式(2)所示： 上式中， softmax表示柔性最大传递函数， 表示取e的 次幂， 表示向量 的第j行数据； 通过 与 乘积的累加得到关系注意力向量 表示 的第j行数据， 计算过程 如公式(3)所示： 4.根据权利要求3所述的联合注意力机制与卷积神经网络的知识超图链接预测方法， 其特征在于， 步骤S5具体包括： 首先， 卷积神经网络模块以初始实体嵌入向量 作为输入， 使用包含元组位 置信息的卷积核 提取初始实体嵌入向量 中的特征， 其中， 然后使用参数 nebi向卷积核 中添加相邻实体数目信息， 使得 提取的特征根据相邻实体数量的不同而 改变， 卷积处 理后得到卷积嵌入向量 计算过程如公式(4)所示： 上式中， 表示元组中第i个位置的卷积核中的第j行， Rl表示卷积核 的 维度， l表示卷积核长度； 为了得出完整的映射向量 对获得的卷积嵌入向量 进行串联操作和线性映射： 上式中， 表示线性映射矩阵， 表示映射矩阵 的维度， q表 示特征映射的大小， q＝(d ‑l/s)+1)； 多个向量串联为单个向量之后， 维度增加， 通过线性映 射矩阵 将nq维的向量映射 为dv维的向量； 将初始实体嵌入向量 加上转换后的映射向量 计算得到实体投影嵌入向量 计算过程如公式(6)所示： 5.根据权利要求4所述的联合注意力机制与卷积神经网络的知识超图链接预测方法， 其特征在于， 所述ACLP模型还 包括优化模块， 所述优化模块至少包括残差网络 。 6.根据权利要求5所述的联合注意力机制与卷积神经网络的知识超图链接预测方法， 其特征在于， 在步骤S6之前， 通过残差网络对经过卷积神经网络模块处理后得到的实体投权　利　要　求　书 2/4 页 3 CN 114817568 A 3