说明:收录各省市地方标准 提供单次或批量下载
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210177307.3 (22)申请日 2022.02.25 (71)申请人 中国平安人寿保险股份有限公司 地址 518000 广东省深圳市福田区福田街 道益田路5033号平安金融中心14、 15、 16、 37、 41、 4 4、 45、 46、 54、 58、 59层 (72)发明人 洪浩锐 (74)专利代理 机构 深圳市精英专利事务所 44242 专利代理师 丁宇龙 (51)Int.Cl. G06F 16/22(2019.01) G06F 16/21(2019.01) G06F 16/23(2019.01) G06F 9/54(2006.01) (54)发明名称 实时计算结果的离线校正方法、 系统、 设备 及介质 (57)摘要 本发明涉及大数据技术, 提供了实时计算结 果的离线校正方法、 系统、 设备及介质, 方法包括 先将待处理数据基于实时处理层进行运算得到 实时计算结果并存储在HBase数据库服务器中, 若确定当前系统时间与实时计算结果的获取时 间之间的日期间隔等于预设的日期阈值, 且确定 当前系统时间满足批处理层对应预设的计算启 动条件, 获取待处理数据, 通过批处理层对待处 理数据进行对应的运算, 得到离线计算结果, 获 取实时计算结果在HBase数据库服务器中的目标 列数, 将离线计算结果根据目标列数存储在 HBase数据库服务器中对应列。 实现了将由于网 络波动等原因出现异常的历史实时数据被校正, 而又不影 响当前实时数据的写入, 提高了实时数 据的正确性。 权利要求书2页 说明书12页 附图3页 CN 114547039 A 2022.05.27 CN 114547039 A 1.一种实时计算结果的离线校正方法, 其特 征在于, 包括: 第一服务器响应于数据计算指令, 获取与所述数据计算指令对应的待处 理数据; 通过所述第 一服务器中实时处理层对所述待处理数据进行对应的运算, 得到实时计算 结果, 并由所述第一 服务器将待处 理数据发送至第二 服务器的批处 理层中; HBase数据库服务器接收并存储所述实时计算结果; 其中, 所述HBase数据库服务器中 每一列数据均存 储有预设版本个数的计算结果, 且所述预设版本个数 大于或等于2; 若所述第二服务器确定当前系统时间与所述实时计算结果的获取时间之间的日期间 隔等于预设的日期 阈值, 且确定当前系统时间满足批处理层对应预设的计算启动条件, 获 取所述待处 理数据; 通过所述第 二服务器的批处理层对所述待处理数据进行对应的运算, 得到离线计算结 果; 以及 所述HBase数据库服务器获取所述实时计算结果的目标列数, 将所述离线计算结果根 据所述目标列数存 储在HBase 数据库服 务器中对应列数。 2.根据权利要求1所述的实时计算结果的离线校正方法, 其特征在于, 所述HBase数据 库服务器接收并存 储所述实时计算结果, 包括: 所述HBase数据库服务器获取所述实时计算结果的第一获取时间戳, 将所述第一获取 时间戳作为所述 实时计算结果的第一版本号并与所述 实时计算结果存储于HBase数据库服 务器中。 3.根据权利要求2所述的实时计算结果的离线校正方法, 其特征在于, 所述若所述第 二 服务器确定当前系统时间与所述实时计算结果的获取时间之间的日期间隔等于预设的日 期阈值, 且确定当前系统时间满足批处理层对应预设的计算启动条件, 获取所述待处理数 据之前, 还 包括: 所述第二 服务器获取批处 理层中与所述第一获取时间戳对应日期的第一全量数据; 所述第二服务器获取批处理层中与所述第一获取时间戳对应日期前一日的第二全量 数据; 所述第二服务器获取所述第 一全量数据与 所述第二全量数据之间的差异数据, 将所述 差异数据存 储至批处理层中的数据集市层。 4.根据权利要求1所述的实时计算结果的离线校正方法, 其特征在于, 所述通过所述第 二服务器的批处 理层对所述待处 理数据进行对应的运 算, 得到离线计算结果, 包括: 所述第二 服务器获取在所述批处 理层的操作数据层中对应创建的大 数据计算逻辑; 所述第二服务器根据 所述大数据计算逻辑对所述待处理数据进行运算, 得到离线计算 结果。 5.根据权利要求4所述的实时计算结果的离线校正方法, 其特征在于, 所述通过所述第 二服务器的批处 理层对所述待处 理数据进行对应的运 算, 得到离线计算结果之后, 还 包括: 所述第二服务器获取所述离线计算结果的第 二获取时间戳, 将所述第 二获取时间戳根 据预设时间戳调整策略进行调整, 以更新第二获取时间戳。 6.根据权利要求5所述的实时计算结果的离线校正方法, 其特征在于, 所述 时间戳调整 策略用于将待处理获取时间戳对应日期减一且将待处理获取时间戳对应时间置为第一预 设时间。权 利 要 求 书 1/2 页 2 CN 114547039 A 27.根据权利要求1所述的实时计算结果的离线校正方法, 其特征在于, 所述第 一服务器 响应于数据计算指令, 获取与所述数据计算指令对应的待处 理数据之后, 还 包括: 所述第一 服务器将所述待处 理数据发送至消息中间件并保存。 8.一种实时计算结果的离线校正系统, 其特征在于, 包括第一服务器、 第二服务器和 HBase数据库服 务器; 所述第一服务器, 用于响应于数据计算指令, 获取与所述数据计算指令对应的待处理 数据; 所述第一服务器, 还用于通过所述第 一服务器中实时处理层对所述待处理数据进行对 应的运算, 得到实时计算结果, 并由所述第一服务器将待处理数据发送至第二服务器的批 处理层中; 所述HBase数据库服务器, 用于接收并存储所述实时计算结果; 其中, 所述HBase数据库 服务器中每一列数据均存储有 预设版本个数的计算结果, 且所述预设版本个数大于或等于 2; 所述第二服务器, 用于若确定当前系统时间与 所述实时计算结果的获取时间之间的日 期间隔等于预设的日期阈值, 且确定当前系统时间满足批处理层对应预设的计算启动条 件, 获取所述待处 理数据; 所述第二服务器, 还用于通过所述批处理层对所述待处理数据进行对应的运算, 得到 离线计算结果; 以及 所述HBase数据库服务器, 还用于获取所述实时计算结果的目标列数, 将所述离线计算 结果根据所述目标列数存 储在HBase 数据库服 务器中对应列数。 9.一种计算机设备, 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上 运行的计算机程序, 其特征在于, 所述处理器执行所述计算机程序时实现如权利要求1至7 中任一项所述的实时计算结果的离线校正方法。 10.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质存储有计算机程 序, 所述计算机程序当被处理器执行时使 所述处理器执行如权利要求 1至7任一项 所述的实 时计算结果的离线校正方法。权 利 要 求 书 2/2 页 3 CN 114547039 A 3
专利 实时计算结果的离线校正方法、系统、设备及介质
文档预览
中文文档
18 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2.5元下载(无需注册)
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2.5元下载
本文档由 人生无常 于
2024-03-18 11:19:22
上传分享
举报
下载
原文档
(657.1 KB)
分享
友情链接
GB-T 2088-2009 普通圆柱螺旋拉伸弹簧尺寸及参数.pdf
GW0203-2014 国家电子政务外网 安全监测体系技术规范与实施指南.pdf
风险评估管理制度.pdf
华为+大模型和智能汽车的预见-2023-09-智能网联.pdf
GB-T 42629.3-2023 国际海底区域和公海环境调查规程 第3部分:海洋生物调查.pdf
T-CEC 619—2022 输电线路导线压接X射线数字成像无损检测作业导则.pdf
T-CSAE 284.3—2022 自动驾驶乘用车 线控底盘性能要求及试验方法 第3部分:转向系统.pdf
GB-T 37966-2019 纳米技术 氧化铁纳米颗粒类过氧化物酶活性测量方法.pdf
DB61-T 1571-2022 城镇污水处理厂污泥处理处置技术规范 陕西省.pdf
GM-T 0040-2015 射频识别标签模块密码检测准则.pdf
GB-T 34608-2017 节水型企业 铁矿采选行业.pdf
T-ZAQ 10105—2022 耐久型不干胶标签.pdf
GB-T 4937.42-2023 半导体器件 机械和气候试验方法 第42部分:温湿度贮存.pdf
GB-T 22239-2019 信息安全技术 网络安全等级保护基本要求.pdf
T-ZZB 1993—2020 电梯光幕.pdf
GM-T 0001.3-2012 祖冲之序列密码算法:第3部分:基于祖冲之算法的完整性算法.pdf
GB-T 42755-2023 人工智能 面向机器学习的数据标注规程.pdf
T-CAME 24—2020 数字化手术室建设标准.pdf
奇安信 数据泄露典型判例分析报告 2019.pdf
T-CIE 073—2020 工业级高可靠集成电路评价 第8部分: MCU芯片.pdf
1
/
3
18
评价文档
赞助2.5元 点击下载(657.1 KB)
回到顶部
×
微信扫码支付
2.5
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。