说明:收录各省市地方标准 提供单次或批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210177307.3 (22)申请日 2022.02.25 (71)申请人 中国平安人寿保险股份有限公司 地址 518000 广东省深圳市福田区福田街 道益田路5033号平安金融中心14、 15、 16、 37、 41、 4 4、 45、 46、 54、 58、 59层 (72)发明人 洪浩锐  (74)专利代理 机构 深圳市精英专利事务所 44242 专利代理师 丁宇龙 (51)Int.Cl. G06F 16/22(2019.01) G06F 16/21(2019.01) G06F 16/23(2019.01) G06F 9/54(2006.01) (54)发明名称 实时计算结果的离线校正方法、 系统、 设备 及介质 (57)摘要 本发明涉及大数据技术, 提供了实时计算结 果的离线校正方法、 系统、 设备及介质, 方法包括 先将待处理数据基于实时处理层进行运算得到 实时计算结果并存储在HBase数据库服务器中, 若确定当前系统时间与实时计算结果的获取时 间之间的日期间隔等于预设的日期阈值, 且确定 当前系统时间满足批处理层对应预设的计算启 动条件, 获取待处理数据, 通过批处理层对待处 理数据进行对应的运算, 得到离线计算结果, 获 取实时计算结果在HBase数据库服务器中的目标 列数, 将离线计算结果根据目标列数存储在 HBase数据库服务器中对应列。 实现了将由于网 络波动等原因出现异常的历史实时数据被校正, 而又不影 响当前实时数据的写入, 提高了实时数 据的正确性。 权利要求书2页 说明书12页 附图3页 CN 114547039 A 2022.05.27 CN 114547039 A 1.一种实时计算结果的离线校正方法, 其特 征在于, 包括: 第一服务器响应于数据计算指令, 获取与所述数据计算指令对应的待处 理数据; 通过所述第 一服务器中实时处理层对所述待处理数据进行对应的运算, 得到实时计算 结果, 并由所述第一 服务器将待处 理数据发送至第二 服务器的批处 理层中; HBase数据库服务器接收并存储所述实时计算结果; 其中, 所述HBase数据库服务器中 每一列数据均存 储有预设版本个数的计算结果, 且所述预设版本个数 大于或等于2; 若所述第二服务器确定当前系统时间与所述实时计算结果的获取时间之间的日期间 隔等于预设的日期 阈值, 且确定当前系统时间满足批处理层对应预设的计算启动条件, 获 取所述待处 理数据; 通过所述第 二服务器的批处理层对所述待处理数据进行对应的运算, 得到离线计算结 果; 以及 所述HBase数据库服务器获取所述实时计算结果的目标列数, 将所述离线计算结果根 据所述目标列数存 储在HBase 数据库服 务器中对应列数。 2.根据权利要求1所述的实时计算结果的离线校正方法, 其特征在于, 所述HBase数据 库服务器接收并存 储所述实时计算结果, 包括: 所述HBase数据库服务器获取所述实时计算结果的第一获取时间戳, 将所述第一获取 时间戳作为所述 实时计算结果的第一版本号并与所述 实时计算结果存储于HBase数据库服 务器中。 3.根据权利要求2所述的实时计算结果的离线校正方法, 其特征在于, 所述若所述第 二 服务器确定当前系统时间与所述实时计算结果的获取时间之间的日期间隔等于预设的日 期阈值, 且确定当前系统时间满足批处理层对应预设的计算启动条件, 获取所述待处理数 据之前, 还 包括: 所述第二 服务器获取批处 理层中与所述第一获取时间戳对应日期的第一全量数据; 所述第二服务器获取批处理层中与所述第一获取时间戳对应日期前一日的第二全量 数据; 所述第二服务器获取所述第 一全量数据与 所述第二全量数据之间的差异数据, 将所述 差异数据存 储至批处理层中的数据集市层。 4.根据权利要求1所述的实时计算结果的离线校正方法, 其特征在于, 所述通过所述第 二服务器的批处 理层对所述待处 理数据进行对应的运 算, 得到离线计算结果, 包括: 所述第二 服务器获取在所述批处 理层的操作数据层中对应创建的大 数据计算逻辑; 所述第二服务器根据 所述大数据计算逻辑对所述待处理数据进行运算, 得到离线计算 结果。 5.根据权利要求4所述的实时计算结果的离线校正方法, 其特征在于, 所述通过所述第 二服务器的批处 理层对所述待处 理数据进行对应的运 算, 得到离线计算结果之后, 还 包括: 所述第二服务器获取所述离线计算结果的第 二获取时间戳, 将所述第 二获取时间戳根 据预设时间戳调整策略进行调整, 以更新第二获取时间戳。 6.根据权利要求5所述的实时计算结果的离线校正方法, 其特征在于, 所述 时间戳调整 策略用于将待处理获取时间戳对应日期减一且将待处理获取时间戳对应时间置为第一预 设时间。权 利 要 求 书 1/2 页 2 CN 114547039 A 27.根据权利要求1所述的实时计算结果的离线校正方法, 其特征在于, 所述第 一服务器 响应于数据计算指令, 获取与所述数据计算指令对应的待处 理数据之后, 还 包括: 所述第一 服务器将所述待处 理数据发送至消息中间件并保存。 8.一种实时计算结果的离线校正系统, 其特征在于, 包括第一服务器、 第二服务器和 HBase数据库服 务器; 所述第一服务器, 用于响应于数据计算指令, 获取与所述数据计算指令对应的待处理 数据; 所述第一服务器, 还用于通过所述第 一服务器中实时处理层对所述待处理数据进行对 应的运算, 得到实时计算结果, 并由所述第一服务器将待处理数据发送至第二服务器的批 处理层中; 所述HBase数据库服务器, 用于接收并存储所述实时计算结果; 其中, 所述HBase数据库 服务器中每一列数据均存储有 预设版本个数的计算结果, 且所述预设版本个数大于或等于 2; 所述第二服务器, 用于若确定当前系统时间与 所述实时计算结果的获取时间之间的日 期间隔等于预设的日期阈值, 且确定当前系统时间满足批处理层对应预设的计算启动条 件, 获取所述待处 理数据; 所述第二服务器, 还用于通过所述批处理层对所述待处理数据进行对应的运算, 得到 离线计算结果; 以及 所述HBase数据库服务器, 还用于获取所述实时计算结果的目标列数, 将所述离线计算 结果根据所述目标列数存 储在HBase 数据库服 务器中对应列数。 9.一种计算机设备, 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上 运行的计算机程序, 其特征在于, 所述处理器执行所述计算机程序时实现如权利要求1至7 中任一项所述的实时计算结果的离线校正方法。 10.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质存储有计算机程 序, 所述计算机程序当被处理器执行时使 所述处理器执行如权利要求 1至7任一项 所述的实 时计算结果的离线校正方法。权 利 要 求 书 2/2 页 3 CN 114547039 A 3

.PDF文档 专利 实时计算结果的离线校正方法、系统、设备及介质

文档预览
中文文档 18 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 实时计算结果的离线校正方法、系统、设备及介质 第 1 页 专利 实时计算结果的离线校正方法、系统、设备及介质 第 2 页 专利 实时计算结果的离线校正方法、系统、设备及介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 11:19:22上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。