说明:收录各省市地方标准 提供单次或批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210037312.4 (22)申请日 2022.01.13 (71)申请人 北京元年科技股份有限公司 地址 100191 北京市海淀区知春路68号领 航科技大厦三层 (72)发明人 赵益佩  (74)专利代理 机构 北京汇知杰知识产权代理有 限公司 1 1587 专利代理师 李洁 董江虹 (51)Int.Cl. G06F 16/215(2019.01) G06F 16/23(2019.01) G06F 16/22(2019.01) G06F 16/27(2019.01) G06F 16/25(2019.01) (54)发明名称 数据中台的数据处理方法、 装置、 设备及可 读存储介质 (57)摘要 本申请提供了一种数据中台的数据处理方 法、 装置、 电子设备及计算机 可读存储介质。 该数 据中台的数据处理方法, 包括: 在识别到数据源 的情况下, 采集数据源中的元数据; 对元数据进 行质量校验; 在元数据质量校验通过的情况下, 将元数据同步至数据中台; 对数据中台中同步的 元数据执行数据开发操作。 根据本申请实施例, 能够从海量数据的数据库中筛选出有效的、 全面 的数据库。 权利要求书1页 说明书7页 附图1页 CN 114546998 A 2022.05.27 CN 114546998 A 1.一种数据中 台的数据处 理方法, 其特 征在于, 包括: 在识别到数据源的情况 下, 采集所述数据源中的元 数据; 对所述元 数据进行质量校验; 在所述元 数据质量校验通过的情况 下, 将所述元 数据同步至数据中 台; 对所述数据中 台中同步的元 数据执行数据开发操作。 2.根据权利要求1所述的数据中台的数据处理方法, 其特征在于, 所述采集所述数据源 中的元数据, 包括: 获取预先设置的需要采集的表信息; 其中, 所述表信息是通过 前端编辑组件设置的; 依据所述表信息, 采集所述数据源中与所述表信息对应的元 数据。 3.根据权利要求1所述的数据中 台的数据处 理方法, 其特 征在于, 所述方法还 包括: 定时识别获取 所述元数据的变更信息; 向目标用户发送所述变更信息对应的通知信息 。 4.根据权利要求1所述的数据中台的数据处理方法, 其特征在于, 所述对所述元数据进 行质量校验, 包括: 对所述元 数据的完整性和/或唯一 性进行质量校验。 5.根据权利要求1所述的数据中 台的数据处 理方法, 其特 征在于, 所述方法还 包括: 在所述元 数据质量校验不 通过的情况 下, 对所述元 数据进行自动修 正。 6.根据权利要求5所述的数据中台的数据处理方法, 其特征在于, 所述对所述元数据进 行自动修 正, 包括: 向目标用户发送自动修 正确认请求; 在接收到所述自动修 正确认请求对应的确认信息后, 对所述元 数据进行自动修 正。 7.根据权利要求1所述的数据中台的数据处理方法, 其特征在于, 所述对所述数据中台 中同步的元 数据执行数据开发操作, 包括: 根据预先识别的元 数据规则, 对所述数据中 台中同步的元 数据进行 数据清洗; 将关联数据加工成数据宽表, 并创建应用程序编程接口; 其中, 所述应用程序编 程接口 用于访问所述数据宽表。 8.一种数据中 台的数据处 理装置, 其特 征在于, 包括: 采集模块, 用于在识别到数据源的情况 下, 采集所述数据源中的元 数据; 质量校验 模块, 用于对所述元 数据进行质量校验; 数据同步模块, 用于在所述元数据质量校验通过的情况下, 将所述元数据同步至数据 中台; 数据开发操作执 行模块, 用于对所述数据中 台中同步的元 数据执行数据开发操作。 9.一种电子设备, 其特征在于, 所述电子设备包括: 处理器以及存储有计算机程序指令 的存储器; 所述处理器执行所述计算机程序指令时实现如权利要求1 ‑7任意一项所述的数据中台 的数据处 理方法。 10.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质上存储有计算机 程序指令, 所述计算机程序指令被处理器执行时实现如权利要求1 ‑7任意一项所述的数据 中台的数据处 理方法。权 利 要 求 书 1/1 页 2 CN 114546998 A 2数据中台的数据处理 方法、 装置、 设备及可读存储介质 技术领域 [0001]本申请属于数据处理领域, 尤其涉及一种数据中台的数据处理方法、 装置、 电子设 备及计算机可读存 储介质。 背景技术 [0002]大数据时代, 数据量越来越多, 数据形式日益复杂, 而以数据仓库为代表的、 现有 的数据存储和处理技术无法满足海量、 多样的数据 处理需求的背景下产生的。 “数据湖”是 将复杂的事物具象化, 偏技术一些, 以一个形象的名字, 反应了它在大数据存储和大数据处 理方面的优势和能力。 [0003]数据湖作为一个集中的存储库, 可以在其中存储任何形式(结构化和非结构化)、 任意规模的数据。 在数据湖中, 可以不对存储的数据进行结构化, 只有在使用数据的时候, 再利用数据湖强大 的大数据查询、 处理、 分析等组件对数据进行处理和应用。 因此, 数据湖 具备运行不同类型 数据分析的能力。 [0004]数据中台从技术的层面承接了数据湖的技术, 通过人工智能(Artificial   Intelligence, AI)与数据技术相结合, 对海量、 多源、 多样的数据进行自动采集、 处理、 存 储、 计算, 同时统一标准和口径, 把数据统一之后, 以标准形式存储, 形成大数据资产层, 以 满足前台数据分析和应用的需求。 [0005]但是, 目前的数据中台的技术在发展过程中尚存在一定 的缺陷, 如何从海量数据 的数据库中筛 选出有效的、 全面的数据库非常 关键。 [0006]因此, 如何从海量数据的数据库 中筛选出有效的、 全面的数据库是本领域技术人 员亟需解决的技 术问题。 发明内容 [0007]本申请实施例提供一种数据 中台的数据处理方法、 装置、 电子设备及计算机可读 存储介质, 能够从海量数据的数据库中筛 选出有效的、 全面的数据库。 [0008]第一方面, 本申请实施例提供一种数据中 台的数据处 理方法, 包括: [0009]在识别到数据源的情况 下, 采集数据源中的元 数据; [0010]对元数据进行质量校验; [0011]在元数据质量校验通过的情况 下, 将元数据同步至数据中 台; [0012]对数据中 台中同步的元 数据执行数据开发操作。 [0013]可选的, 采集数据源中的元 数据, 包括: [0014]获取预先设置的需要采集的表信息; 其中, 表信息是通过 前端编辑组件设置的; [0015]依据表信息, 采集数据源中与表信息对应的元 数据。 [0016]可选的, 方法还 包括: [0017]定时识别获取 元数据的变更信息; [0018]向目标用户发送变更信息对应的通知信息 。说 明 书 1/7 页 3 CN 114546998 A 3

.PDF文档 专利 数据中台的数据处理方法、装置、设备及可读存储介质

文档预览
中文文档 10 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共10页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 数据中台的数据处理方法、装置、设备及可读存储介质 第 1 页 专利 数据中台的数据处理方法、装置、设备及可读存储介质 第 2 页 专利 数据中台的数据处理方法、装置、设备及可读存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 11:19:46上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。