(19)国家知识产权局
(12)发明 专利
(10)授权公告 号
(45)授权公告日
(21)申请 号 202211140745.9
(22)申请日 2022.09.20
(65)同一申请的已公布的文献号
申请公布号 CN 115222738 A
(43)申请公布日 2022.10.21
(73)专利权人 合肥中科类脑智能技 术有限公司
地址 230088 安徽省合肥市高新区望江西
路5089号中国科大先进技术研究院一
号嵌入式研发楼3楼
(72)发明人 孙涛 艾坤 王子磊 刘海峰
(74)专利代理 机构 合肥昊晟德专利代理事务所
(普通合伙) 3415 3
专利代理师 何梓秋
(51)Int.Cl.
G06T 7/00(2017.01)G06N 20/00(2019.01)
G06V 10/44(2022.01)
G06V 10/764(2022.01)
G06V 10/774(2022.01)
审查员 袁冠群
(54)发明名称
一种基于特征迁移的在线学习异常检测方
法及系统
(57)摘要
本发明公开了一种基于特征迁移的在线学
习异常检测方法及系统, 属于产品异常检测技术
领域, 包括以下步骤: 步骤1: 收集样本数据; 步骤
2: 特征提取器的特征迁移; 步骤3: 样本 数据特征
归一化; 步骤4: 异常检测模型的在线学习。 本发
明的异常检测模 型是通过在 线学习获得的, 这种
方式可以很好地适应客户需求定义不清或者需
求变动的情况, 符合实际生产需要; 提出了基于
在线学习的正常样本特征归一化方法, 可以很好
地表达样本特征, 提升检测 效果; 把异常样本以
及疑似异常样本反馈给客户, 交由客户来决定这
些样本是否真的异常, 可以及时满足客户的需
要。
权利要求书2页 说明书6页 附图1页
CN 115222738 B
2022.12.09
CN 115222738 B
1.一种基于特 征迁移的在线学习异常检测方法, 其特 征在于, 包括以下步骤:
步骤1: 收集样本数据
收集现实中的产品样本数据, 获得样本数据集;
步骤2: 特 征提取器的特 征迁移
采用残差网络模型来迁移现实环境中收集到的样本数据, 在整个样本数据集上训练更
新残差网络模型参数, 选择残差网络模型中骨干网络最后一层作为特 征提取器;
步骤3: 样本数据特 征归一化
通过步骤2中的特征提取器对图像样本进行特征提取, 得到对应维度的特征, 然后对特
征进行归一 化处理;
在所述步骤3 中, 定义了一个先进先出的队列, 该队列用于保存最近设定数量的正常样
本的特征分布情况, 在实时更新过程中收集设定数量的正常样本并放入这个队列, 假设某
一时刻经统计某个正常样本的特征向量维度的均值为m, 方差为r, 则当前图像样本经特征
提取器后的归一 化计算公式为:
f’=(f‑m)/r
其中, 向量f为未 经过归一化的特征向量, f ’为计算过归一 化后的特 征向量;
步骤4: 异常检测模型的在线学习
定义一个在线学习异常检测模型, 然后用随机化参数初始整个在线学习异常检测模
型, 再将步骤3中归一化后的特征, 作为在线学习异常检测模型的输入, 对整个模型进行前
向传播, 得到样本的异常概率, 将疑似异常样本和落入设定异常概率值范围的样本反馈给
客户, 由客户对疑似异常样本和落入设定异常概率值范围的样本进行标注, 获取疑似异常
样本和落入设定异常概率值范围样本的标签数据, 根据标签数据计算样本的损失, 得到样
本损失后通过反向传播链式法则计算每个参数的梯度, 对参数进 行更新, 经参数更新后, 在
线学习异常检测模型会继续判断后续到来的样本数据。
2.根据权利要求1所述的一种基于特征迁移的在线学习异常检测方法, 其特征在于: 在
所述步骤1 中, 通过在工厂流水线上的设定位置架设定角度的摄像头, 利用摄像头采集产品
样本数据。
3.根据权利要求1所述的一种基于特征迁移的在线学习异常检测方法, 其特征在于: 在
所述步骤2中, 残差网络模 型包括骨干网络Resnet18与1个全 连接层, 在训练时将步骤1 中收
集到的正常样本标注为0, 异常样本标注为1, 损失函数为二分交叉熵, 学习 率为0.01, 单次
训练32个样本 。
4.根据权利要求1所述的一种基于特征迁移的在线学习异常检测方法, 其特征在于: 在
所述步骤2中, 残差网络模型在样 本数据集上的训练过程即为特征迁移过程, 特征提取器的
网络参数 是固定不变的。
5.根据权利要求1所述的一种基于特征迁移的在线学习异常检测方法, 其特征在于: 在
所述步骤4中, 在线 学习异常检测模型包括六个全连接层与一个激活层, 六个全连接层与一
个激活层依次连接, 其中, 各全连接层参数为一个矩阵, 矩阵大小为: 输入维*输出维, 激活
层的激活函数使用sigmoid函数, sigmoid函数定义为:
, sigmoid函数用于权 利 要 求 书 1/2 页
2
CN 115222738 B
2将预测结果映射到[0,1]。
6.根据权利要求5所述的一种基于特征迁移的在线学习异常检测方法, 其特征在于: 在
所述步骤4中, 异常概率小于0.25则样本为较大可能正常样本, 在0.25至0.5区间内为疑似
异常样本, 大于 0.5为落入设定异常概 率值范围的样本 。
7.根据权利要求6所述的一种基于特征迁移的在线学习异常检测方法, 其特征在于: 在
所述步骤4中, 假设某个参数θ 经反向传播后得到梯度grad, 学习率lr 为0.01, 则参数的更新
公式为:
θ’=θ‑lr*grad
其中, θ 为 参数更新前的值, θ ’为更新后的值。
8.一种基于特征迁移的在线学习异常检测系统, 其特征在于, 用于采用如权利要求1~
7任一项的方法进行产品的异常检测工作, 包括:
样本收集模块, 用于收集现实中的产品样本数据, 获得样本数据集;
特征迁移模块, 用于采用残差网络模型来迁移现实环境中收集到的样本数据, 在整个
样本数据集上训练更新残差网络模型参数, 选择残差网络模型中骨干网络最后一层作为特
征提取器;
归一化模块, 用于通过特征提取器对图像样本进行特征提取, 得到对应维度的特征, 然
后对特征进行归一 化处理;
在线学习模块, 用于定义一个在线学习异常检测模型, 然后用随机化参数初始整个在
线学习异常检测模型, 再将步骤3中归一化后的特征, 作为在线学习异常检测模型的输入,
对整个模型进行前向传播, 得到样本的异常概率, 将疑似异常样本和落入设定异常概率值
范围的样本反馈给客户, 由客户对疑似异常样本和落入设定异常概率值范围的样本进 行标
注, 获取疑似异常样本和落入设定异常概率值范围样本的标签数据, 根据标签数据计算样
本的损失, 得到样本损失后通过反向传播链式法则计算每个参数的梯度, 对参数进 行更新,
经参数更新后, 在线学习异常检测模型继续判断后续到来的样本数据;
控制处理模块, 用于向其 他模块发出指令, 完成相关动作;
所述样本收集模块、 特征迁移模块、 归一化模块、 在线学习模块均与控制处理模块电连
接。权 利 要 求 书 2/2 页
3
CN 115222738 B
3
专利 一种基于特征迁移的在线学习异常检测方法及系统
文档预览
中文文档
10 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共10页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 思考人生 于 2024-02-07 20:35:32上传分享