(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211231908.4 (22)申请日 2022.09.30 (71)申请人 北京瑞莱智慧科技有限公司 地址 100089 北京市海淀区中关村东路1号 院8号楼19层A1901 (72)发明人 不公告发明人 　 (74)专利代理 机构 深圳市精英专利事务所 44242 专利代理师 戴艳艳 (51)Int.Cl. G06T 7/00(2017.01) (54)发明名称 模型鲁棒 性检测方法、 相关装置及存 储介质 (57)摘要 本申请实施例公开了一种模型鲁棒性检测 方法、 相关装置及存储介质。 方法包括确定驾驶 场景仿真平台中当前待攻击的至少一个目标对 象； 在预设脚本指示的目标时段内， 将至少一个 预设的目标对抗图案导入至少一个目标对象的 有效范围内， 得到至少一个目标对抗样本； 将至 少一个目标对抗样本输入车辆感知模 型， 得到识 别结果， 识别结果用于控制生 成目标车辆的驾驶 指令， 识别结果指示第一置信度高于第二置信 度， 第一置信度为车辆感知模型将目标对抗样本 识别为非目标对象时的置信 度， 第二置信度为车 辆感知模型将目标对抗样本识别为目标对象时 的置信度。 通过本实施例可以提高对模型的攻击 效果以及缩短模型的迭代周期等。 权利要求书3页 说明书19页 附图13页 CN 115471495 A 2022.12.13 CN 115471495 A 1.一种模型鲁棒性检测方法， 其特征在于， 所述方法应用于模型鲁棒性检测系统， 所述 模型鲁棒性检测系统包括驾驶场景仿真平台、 车辆感知模型和虚拟控制 器， 所述驾驶场景 仿真平台包括目标车辆 以及至少一个目标对象， 所述目标车辆处于按照预设脚本行驶状 态， 且所述目标车辆在驾驶场景仿 真平台的图像和点云数据通过端口传输给所述车辆感知 模型， 所述方法包括： 确定所述驾驶场景仿真平台中当前待攻击的至少一个所述目标对象， 所述目标对象为 所述车辆感知模型感知到的对象； 在所述预设脚本指示的目标时段内， 将至少一个预设的目标对抗图案导入至少一个所 述目标对象的有效范围内， 得到 至少一个目标对抗样本； 将至少一个所述目标对抗样本输入所述车辆感知模型， 得到识别结果， 所述识别结果 用于控制所述虚拟控制器生成所述目标车辆的驾驶指 令， 所述识别结果指示第一置信度高 于第二置信度， 所述第一置信度为所述车辆感知 模型将所述目标对抗样本识别为 非所述目 标对象时的置信度， 所述第二置信度为所述车辆感知 模型将所述目标对抗样本识别为所述 目标对象时的置信度。 2.根据权利要求1所述的方法， 其特征在于， 所述驾驶场景仿真平台预设有多种天气素 材， 所述目标时段包括第一时段， 所述目标对抗图案包括第一对抗图案； 所述在所述预设脚 本指示的目标时段内， 将至少一个预设的目标对抗图案导入至少一个所述目标对象的有效 范围内， 得到 至少一个目标对抗样本， 包括： 从多种所述天气素 材中确定所述第一时段对应的目标天气素 材； 在所述第一时段内将所述目标车辆的当前场景界面切换为所述目标天气素材对应的 目标天气场景界面， 所述目标天气场景界面包括至少一个所述目标对象； 根据所述目标天气素材的特征选择与所述目标天气素材匹配的至少一个所述第一对 抗图案； 将至少一个所述第 一对抗图案添加到至少一个所述目标对象的有 效范围内， 得到至少 一个第一对抗样本； 所述将至少一个所述目标对抗样本 输入所述车辆感知模型， 得到识别结果， 包括： 将所述第一对抗样本 输入所述车辆感知模型， 得到非所述目标对象的识别结果。 3.根据权利要求2所述的方法， 其特征在于， 所述预设脚本预设有多个运行周期， 并且 所述预设脚本中设有运行周期数与天气素材的对应关系， 所述第一时段为所述运行周期的 运行时长， 所述第一时段为所述运行周期对应的运行时段； 所述从多种 所述天气素材中确 定所述第一时段对应的目标天气素 材， 包括： 在当前周期开始运行之前， 确定当前运行周期的当前周期数； 根据所述运行周期数与天气素材的对应关系， 从多个所述天气素材中确定与 所述当前 周期数对应的目标天气素 材。 4.根据权利要求1所述的方法， 其特征在于， 所述目标对象为第一车辆， 所述目标时段 包括第二时段， 所述 目标对抗图案包括第二对抗图案； 所述在所述预设脚本指示的目标时 段内， 将至少一个预设的目标对抗图案导入至少一个所述 目标对象的有效范围内， 得到至 少一个目标对抗样本， 包括： 获取在所述第二时段内预设的与所述第一车辆对应的所述第二对抗图案；权　利　要　求　书 1/3 页 2 CN 115471495 A 2将所述第二对抗图案添加到所述第一车辆的有效范围内， 得到第二对抗样本； 所述将至少一个所述目标对抗样本 输入所述车辆感知模型， 得到识别结果， 包括： 将所述第二对抗样本输入所述车辆感知模型， 得到第二车辆的识别结果， 所述第二车 辆的车型与所述第一车辆不同。 5.根据权利要求1所述的方法， 其特征在于， 所述目标对象为行人， 所述目标时段包括 第三时段， 所述目标对抗图案包括第三对抗图案； 所述在所述预设脚本指示的目标时段内， 将至少一个预设的目标对抗图案导入至少一个所述目标对象的有效范围内， 得到至少一个 目标对抗样本， 包括： 在所述驾驶场景仿真平台中的特定路段或交通标志为预设状态时， 获取在所述第 三时 段内预设的与所述行 人对应的第三对抗图案； 将所述第三对抗图案添加到所述行 人的有效范围内， 得到第三对抗样本； 将至少一个所述目标对抗样本 输入所述车辆感知模型， 得到识别结果， 包括： 将所述第三对抗样本 输入所述车辆感知模型， 得到无 行人的识别结果。 6.根据权利要求1至5中任一项所述的方法， 其特征在于， 所述驾驶场景仿真平台包括 所述目标车辆在目标时段内行驶的第一场景界面； 所述在所述预设脚本指示的目标时段 内， 将至少一个预设的目标对抗图案导入至少一个所述 目标对象的有效范围内， 得到至少 一个目标对抗样本， 包括： 将所述目标时段内预设的虚拟投影设备显示在所述第一场景界面中； 通过所述虚拟投影设备向至少一个所述目标对象的有效范围内投影至少一个所述目 标对抗图案， 得到 至少一个所述目标对抗样本 。 7.根据权利要求1至 5中任一项所述的方法， 其特 征在于， 所述方法还 包括： 接收目标对象的新增指令； 根据所述 新增指令在所述驾驶场景仿真平台 中增加目标对象。 8.一种模型鲁棒性检测装置， 其特征在于， 所述模型鲁棒性检测装置被配置于模型鲁 棒性检测系统中， 所述模型鲁棒性检测系统包括驾驶场景仿真平台、 车辆感知模型和虚拟 控制器， 所述驾驶场景仿真平台包括 目标车辆以及至少一个目标对 象， 所述目标车辆处于 按照预设脚本行驶状态， 且所述目标车辆在驾驶场景仿 真平台的图像和点云数据通过端口 传输给所述车辆感知模型， 所述装置包括： 收发模块， 用于获取 所述预设脚本； 处理模块， 用于确定所述驾驶场景仿真平台中当前待攻击的至少一个所述目标对象， 所述目标对象为所述车辆感知模型感知到的对象； 在所述预设脚本指示的目标时段内， 将 至少一个预设的目标对抗图案导入至少一个所述目标对象的有效范围内， 得到至少一个目 标对抗样本； 将 至少一个所述目标对抗样本输入所述车辆感知 模型， 得到识别结果， 所述识 别结果用于控制所述虚拟控制器生成所述目标车辆的驾驶指令， 所述识别结果指示第一置 信度高于第二置信度， 所述第一置信度为所述车辆感知模型将所述目标对抗样本识别为 非 所述目标对象时的置信度， 所述第二置信度为所述车辆感知 模型将所述目标对抗样本识别 为所述目标对象时的置信度。 9.一种计算机设备， 其特征在于， 所述计算机设备包括存储器及处理器， 所述存储器上 存储有计算机程序， 所述处理器执行所述计算机程序时实现如权利要求1 ‑7中任一项所述权　利　要　求　书 2/3 页 3 CN 115471495 A 3