说明:收录各省市地方标准 提供单次或批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210610864.X (22)申请日 2022.05.30 (71)申请人 北京邮电大 学 地址 100876 北京市海淀区西土城路10号 (72)发明人 张忠宝 朱国桢 苏森  (74)专利代理 机构 北京风雅颂专利代理有限公 司 11403 专利代理师 金含 (51)Int.Cl. G06K 9/62(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06F 16/36(2019.01) (54)发明名称 基于元学习的知识图谱分类方法及相关设 备 (57)摘要 本申请提供一种基于元学习的知识图谱实 体分类方法及相关设备。 该方法包括: 获取开源 知识图谱数据集; 利用预先构建的图神经网络模 型对所述实体和所述类别进行初始化, 获得每个 所述实体的嵌入表示及每个所述类别的嵌入表 示; 基于所述类别的嵌入表示及与该类别在所述 本体视图中关联的所有子类别的嵌入表示, 采用 注意力机制算法得到该类别的融合嵌入表示; 将 全部所述实体的嵌入表示和全部所述类别的融 合嵌入表 示输入分类模型中, 经由分类模型输出 每个所述实体对应的所述类别。 本申请提供的方 法及相关设备可以在知识 图谱标记实体数量稀 疏的情况下提高知识图谱实体分类的准确度, 解 决知识图谱实体分类任务的长 尾分布问题。 权利要求书2页 说明书12页 附图4页 CN 115169433 A 2022.10.11 CN 115169433 A 1.一种基于元 学习的知识图谱实体分类方法, 其特 征在于, 包括: 获取开源知识图谱数据集, 所述开源知识图谱数据集包括本体视 图和实例视 图, 所述 本体视图包括多个 类别, 所述实例视图包括多个实体; 利用预先构建的图神经网络模型对所述实体和所述类别进行初始化, 获得每个所述实 体的嵌入表示及每 个所述类别的嵌入表示; 基于所述类别的嵌入表示及与该类别在所述本体视 图中关联的所有子类别的嵌入表 示, 采用注意力机制算法得到该类别的融合嵌入表示; 将全部所述实体的嵌入表示和全部所述类别的融合嵌入表示输入分类模型中, 经由分 类模型输出每个所述实体对应的所述类别, 其中, 所述分类模型是采用元学习 方法进行预 训练的。 2.根据权利要求1所述的, 其特征在于, 所述图神经网络模型包括第 一图神经网络模型 和第二图神经网络模型, 所述利用预先构建的图神经网络模型对所述实体和所述类别进 行 初始化, 获得每 个所述实体的嵌入表示及每 个所述类别的嵌入表示, 包括: 将所述实体输入至所述第 一图神经网络模型, 经由所述第 一图神经网络模型输出所述 实体的嵌入表示; 将所述类别输入至所述第 二图神经网络模型, 经由所述第 二图神经网络模型输出所述 类别的嵌入表示, 其中, 所述第一图神经网络模型和所述第二图神经网络模型的膜层结构不同。 3.根据权利要求1所述的方法, 其特征在于, 所述基于所述类别的嵌入表示及与该类别 在所述本体视图中关联的所有子类别的嵌入表示, 采用注意力机制算法得到该类别的融合 嵌入表示, 包括: 采用注意力 机制算法将与 该类别关联的所有子类别的嵌入表示进行融合, 得到初始融 合嵌入表示; 基于所述类别的嵌入表示、 所述初始融合嵌入表示和权重系数得到所述融合嵌入表 示。 4.根据权利要求1所述的方法, 其特征在于, 所述预训练包括元训练阶段和元测试阶 段, 所述分类模型 是采用元 学习方法进行 预训练的, 包括: 获取开源知识图谱数据集中的跨视图链接, 所述 跨视图链接包括多个实体 ‑类别对; 将所述跨视图链接划分为第一类别集 合和第二类别集 合; 通过图卷积神经网络模型分别对所述第一类别集合和所述第二类别集合中的全部实 体和全部类别进行嵌入表示, 得到每 个实体的嵌入表示和每 个类别的嵌入表示; 在所述元训练阶段, 基于经过嵌入表示的所述第一类别集合对所述分类模型进行训 练; 在所述元测试阶段, 基于经过嵌入表示的所述第 二类别集合对经过所述元训练阶段的 所述分类模型进行训练。 5.根据权利要求4所述的方法, 其特征在于, 所述在所述元训练阶段, 基于经过嵌入表 示的所述第一类别集 合对所述分类模型进行训练, 包括: 采用非线性激活函数将经过嵌入表示的所述第一类别集合中的实体的嵌入表示转换 至类别向量空间;权 利 要 求 书 1/2 页 2 CN 115169433 A 2基于经过转换的实体的嵌入表示和所述第一类别集合中的所述类别的嵌入表示通过 计算确定目标函数; 将所述第一类别集合划分为多个训练集, 基于所述目标函数和所述多个训练集对所述 分类模型进行迭代训练。 6.根据权利要求5所述的方法, 其特征在于, 所述基于所述目标函数和所述多个训练集 对所述分类模型进行迭代训练, 包括: 将所述多个训练集中的每 个所述训练集划分为训练 组和测试组; 针对所述迭代训练中的每一次迭代执 行如下操作: 基于所述目标函数计算所述训练组的损 失值, 基于所述训练组的损 失值、 初始化参数 和第一学习率采用梯度下降算法计算得到该训练 组更新后的参数; 基于所述目标函数和全部所述训练组对应的更新后的参数计算所述测试组的损失值, 基于所述测试组的损失值、 初始 化参数和 第二学习率采用梯度下降算法计算得到更新后的 初始化参数。 7.根据权利要求6所述的方法, 其特征在于, 所述在所述元测试阶段, 基于经过嵌入表 示所述第二类别集 合对经过元训练阶段的所述分类模型进行测试, 包括: 将所述第二类别集 合划分为多个测试集, 将每 个测试集划分为支持组和询问组; 针对每个所述测试集中的所述支持组执 行如下操作: 基于所述目标函数计算所述支持组的损 失值, 基于所述支持组的损 失值、 所述初始化 参数和所述第一学习率采用梯度下降算法计算得到该支持组更新后的参数; 基于所述支持组更新后的参数和所述询问组对所述分类模型进行测试。 8.一种装置, 其特 征在于, 包括: 获取模块, 获取开源知识图谱数据集, 所述开源知识图谱数据集包括本体视图, 和实例 视图, 所述本体视图包括多个 类别, 所述实例视图包括多个实体; 初始化模块, 利用预先构建的图神经网络模型对所述实体和所述类别进行初始化, 获 得每个所述实体的嵌入表示及每 个所述类别的嵌入表示; 类别融合模块, 基于所述类别的嵌入表示及与 该类别在所述本体视图中关联的所有子 类别的嵌入表示, 采用注意力机制算法得到该类别的融合嵌入表示; 分类模块, 将全部所述实体的嵌入表示和全部所述类别的融合嵌入表示输入分类模型 中, 经由分类模型输出每 个所述实体对应的所述类别。 9.一种电子设备, 包括存储器、 处理器及存储在存储器上并可在处理器上运行的计算 机程序, 其特征在于, 所述处理器执行所述程序时实现如权利要求1至7任意一项所述的方 法。 10.一种非暂态计算机可读存储介质, 所述非暂态计算机可读存储介质存储计算机指 令, 其特征在于, 所述计算机指令用于使计算机执 行权利要求1至7任一所述方法。权 利 要 求 书 2/2 页 3 CN 115169433 A 3

.PDF文档 专利 基于元学习的知识图谱分类方法及相关设备

文档预览
中文文档 19 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共19页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 基于元学习的知识图谱分类方法及相关设备 第 1 页 专利 基于元学习的知识图谱分类方法及相关设备 第 2 页 专利 基于元学习的知识图谱分类方法及相关设备 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 10:57:46上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。