ICS 35. 020 CCS L 70 DB11 北京市地方标准 DB11/T 2470—2025 无人平台智能感知系统安全分析 技术规范 Technical specifications for security analysis of intelligent perception for unmanned platforms system 2025-09-23发布 2026-01-01实施 北京市市场监督管理局 发布 DB11/T 2470—2025 I 目 次 前言................................................................................. II 1 范围................................................................................ 1 2 规范性引用文件 ...................................................................... 1 3 术语和定义 .......................................................................... 1 4 无人平台智能感知系统构成 ............................................................ 1 5 安全测试 ............................................................................ 1 6 结果分析 ........................................................................... 3 附录A（资料性）无人平台智能感知系统说明 .............................................. 4 附录B（资料性）无人平台智能感知干扰方法及攻击算法示例 ................................ 7 附录C（资料性）无人平台智能感知安全分析报告模板 ..................................... 10 DB11/T 2470—2025 II 前 言 本文件按照 GB/T 1.1—2020《标准化工作导则 第1部分：标准化文件的结构和起草规则》的规定起 草。 本文件由北京市公安局提出并归口。 本文件由北京市公安局组织实施。 本文件起草单位：北京市公安局人工智能安全研 究中心、中国标准化协会、清华大学、 北京理工大 学、北京瑞莱智慧科技有限公司、北京百度网讯科技有限 公司、北京市标准化研究院。 本文件主要起草人：蔡瑜坤、曹奇、孙毅、张晓飞、王崇鹏、王东 明、余珍风、周巧霖、刘云、封 硕、陆秋婧、谭毓 安、李元章、王晶、周治国、陆宇轩、徐艺溦、杨彬、孔凡真、辛铮、李建民 。 DB11/T 2470—2025 1 无人平台智能感知系统安全分析技术规范 1 范围 本文件规定了无人平台智能感知系统的安全测试和结果分析 要求。 本文件适用于无人平台智能感知系统的安全测试分析 等工作。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件， 仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本 文件。 GB/T 5271.31 信息技术 词汇 第31部分：人工智能 机器学习 3 术语和定义 GB/T 5271.31界定的以及下列术语和定义适用于本文件。 3.1 无人平台 unmanned platforms 搭载多路传感器、控制器、执行器等装置，具备复杂环境感知、智能决策、协同控制等功能，可实 现自主运作的系统设备。常见如自动驾驶汽车 、无人机、机器人等。 3.2 对抗样本 adversarial examples 在数据中通过故意添加细微扰动所形成的输入样本，该样本可导致模型给出错误的输出。扰动既包括像素或 特征层面的数值修改，也包括贴纸、特殊纹理等实体干扰，用于误导视觉或激光雷达感知，削弱模型的 鲁棒性与决策可靠性。 4 无人平台智能感知系统构成 4.1 无人平台智能感知系统 通常由传感器、智能感知算法、中间件与数据接口模块构成，实时采集和 分析处理无人平台周边环境信息，例如行人、车辆、道路、建筑、交通标志及障碍物等。 4.2 传感器负责多源异构数据的实时采集，包括但不限于摄像头、激光雷达、毫米波雷达、麦克风等， 具体参见A.2。 4.3 智能感知算法对传感器获取的数据进行融合、处理与解析。算法输出结构化的感知信息，如目标 类型、位置、速度、置信度等，支撑无人平台后续的决策规划与控制执行。其核心功能包括但不限于目 标检测、语义分割、路径规划与避障、环境场景分类与事件检测等，具体参见A.3。 4.4 感知中间件与数据接口模块，用于协调不同设备间的数据交互、时序同步与数据格式转换，保障 系统的实时性与稳定性。 DB11/T 2470—2025 2 5 安全测试 5.1 测试方案设计 根据无人平台的具体类型及安全需求等设定测试目标、测试数据集及测试方式。测试可采用仿真测 试、封闭场地实验等方式开展。 5.2 测试环境准备 5.2.1 测试环境搭建 搭建与无人平台实际操作环境相似的测试环境，应包含必要的硬件及软件。仿真测试应包括仿真环 境地图、仿真测试软件、中间件接口软件等；封闭场地测试应包括实时控制系统、网络链接、显示分析 系统等。 5.2.2 传感器与智能感知算法选择 应准备与实际应用环境一致的传感器和智能感知算法，其技术规格应与实际运行条件相符。所选传 感器应已完成标定与验证，所选算法应已完成训练与验证，传感器参见A.2，智能感知算法参见A.3。 5.3 测试数据集构建 5.3.1 基准数据集 基准数据集要求如下： a) 应基于无人平台在典型运行场景构建； b) 数据集场景应不少于 10种； c) 覆盖不低于设计使用场景的80％； d) 每类场景样本数量应不少于 100个。 5.3.2 特定场景数据集 特定场景数据集要求如下： a) 构建本数据集应基于基准数据集采集环境，使用在特定场景采集及添加干扰方法等构建； b) 特定场景应包含极端天气（如雾、雨、雪、沙尘）、复杂光照（如低照度、强逆光、强眩光、 频闪）、高复杂度目标（如遮挡、微小/远距目标、密集人群等）、干扰（参见但不限于 B.2） 等； c) 覆盖不低于上述场景的50％； d) 每类场景样本数量应不少于 100个。 5.3.3 对抗样本数据集 对抗样本数据集要求如下： a) 构建本数据集应基于基准数据集采集环境，使用攻击算法（参见但不限于 B.3）生成可通过传 感器或识别算法接口输入的对抗样本数据； b) 攻击算法应不少于 5种； c) 每类对抗样本数量应不少于 100个，通过传感器采集的方式构建本数据集时，每类对抗样本数 量应不少于 10个。 5.3.4 其他数据集 DB11/T 2470—2025 3 存在特定安全需要时，可构建其他数据集用于测试系统的其他安全能力。 构建本数据集应基于基准数据集采集环境，每类样本数量应不少于 100个。 5.4 逐项测试 将按照 5.3构建的数据集逐项输入到智能感知系统中，执行 3轮或以上测试。 5.5 过程记录 记录测试过程所使用的设备的型号、系统参数、数据集组成信息及示例，每次测试的测试轮次、输 入数据标签、输出结果、处理时间及异常情况。 6 结果分析 6.1 确定分析指标 智能感知系统进行安全测试时，针对目标检测任务，宜将每一个对象类别视为一个单独的目标进行 计算；针对语义分割任务，宜将对象区域每一个像素视为一个单独的目标进行计算；针对路径规划与避 障、环境场景分类、事件检测等任务，宜将每一个实例视为一个单独的目标进行计算。 根据具体应用需求，制定安全分析的指标体系，见表1。 表1 分析指标表 关键维度 指标 定义 安全影响 检测准确性 精确率 检测结果中正确目标的占比（TP / (TP + FP)） 低精确率表示存在较多误检，可能导致 系统错误决策。 真实目标的检 测情况 召回率 真实目标中被正确检测的占比（TP / (TP + FN)） 低召回率（高漏检率）表示系统识别出真 实目标或障碍物的能力较差，可能导致 系统未能规避风险或及时响应，带来严 重的安全隐患。 漏检率 真实目标的漏检占比（1-召回率） 虚假目标的检 测情况 误检率 被误判为真实目标的占比（FP / (FP + TN)） 高误检率容易使系统对非目标产生较多 误判，浪费资源或引发误操作。 抵御攻击能力 攻击成功率 攻击成功占比（攻击成功样本数 / 总样本数） 高攻击成功率说明系统在面对对抗样本 时易被误导，可能威胁系统的安全性。 精确率衡量被系统判定为目标的样本中，真实为目标的比例。计算公式见式（1）。