China AI Safety

Ai Safety — China Standard

AI 安全标准集 — ISO PAS 8800 + ISO/IEC TR 5469

标准集一览

ISO PAS 8800 道路车辆安全与人工智能

核心定位

ISO PAS 8800 是 ISO 26262 在 AI/ML 系统中的适配标准，解决传统功能安全方法无法直接应用于 AI 组件的问题。

核心框架

ISO PAS 8800 AI安全框架
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
1. AI组件安全生命周期
   ├── 需求定义（含AI特有安全需求）
   ├── 数据管理（训练/验证/测试数据质量）
   ├── 模型开发（架构选择、训练过程）
   ├── 验证与确认（AI特有V&V方法）
   └── 运行监控（在线监控、OTA更新）

2. AI特有安全考虑
   ├── 数据质量与偏差
   │   ├── 训练数据充分性评估
   │   ├── 数据分布偏差检测
   │   ├── 标注质量控制
   │   └── 域外数据（OOD）处理
   ├── 模型鲁棒性
   │   ├── 对抗样本鲁棒性
   │   ├── 分布偏移鲁棒性
   │   ├── 传感器退化鲁棒性
   │   └── 不确定性量化
   ├── 可解释性
   │   ├── 设计阶段可解释性
   │   ├── 运行阶段可解释性
   │   └── 事后分析可解释性
   └── 性能监控
       ├── 在线性能指标
       ├── 异常检测
       └── 回退策略

3. 安全论证
   ├── AI组件安全案例结构
   ├── 置信度评估
   └── 残余风险论证
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

SOFIL（Safety of Functionality Integrity Level）

SOFIL等级 (ISO PAS 8800)
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
SOFIL 1E: 最低要求级别
SOFIL 2E: 基础要求级别
SOFIL 3E: 标准要求级别
SOFIL 4E: 高要求级别（L3系统最低要求）
SOFIL 5E: 最高要求级别

SOFIL维度:
  - 数据管理严格度
  - 模型验证深度
  - 运行监控要求
  - 安全论证完备性
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

与端到端自动驾驶的关联

ISO PAS 8800 对端到端AD的指导
├── E2E感知模型
│   ├── 训练数据覆盖度评估框架
│   ├── OOD检测机制要求
│   ├── 性能退化监控要求
│   └── 回退至传统算法的切换策略
├── E2E规划模型
│   ├── 行为安全约束（与IEEE 2846关联）
│   ├── 输出可解释性要求
│   └── 安全包络约束
└── 系统级集成
    ├── AI组件与非AI组件的接口安全
    ├── 冗余架构要求
    └── 运行监控系统设计

ISO/IEC TR 5469 AI与功能安全技术报告

核心内容

ISO/IEC TR 5469 技术报告
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
1. AI系统功能安全挑战分析
   ├── AI的非确定性行为
   ├── 训练/推理的不一致性
   ├── 传统安全标准的适用性分析
   └── AI系统失效模式分类

2. 安全相关AI系统的生命周期考虑
   ├── AI安全需求推导
   ├── AI特有的危害分析方法
   ├── AI系统的验证与确认策略
   └── AI系统的运维安全

3. 与现有安全标准的关系
   ├── IEC 61508（通用功能安全）
   ├── ISO 26262（汽车功能安全）
   ├── ISO 21448（SOTIF）
   └── 各行业AI安全标准映射
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

相关技能

• skills/china-standards/functional-safety/ — 功能安全基础
• skills/china-standards/l3-fusa-sotif/ — L3 FuSa+SOTIF联合要求
• skills/automotive-e2e-safety-analysis/ — 端到端安全分析