MUNIK  ꄲ  其他  ꄲ  ISO8800 道路车辆-安全和人工智能

 

ISO/PAS 8800  Road vehicles — Safety and artificial intelligence道路车辆-安全和人工智能

 

关注芯片功能安全，请点击链接：ISO26262半导体功能安全

关注工业功能安全，请点击链接：IEC61508通用工业功能安全

关注机器功能安全，请点击链接：ISO13849工业机器功能安全

关注ASPICE认证，  请点击链接：ASPICE审核认证

关注预期功能安全，请点击链接：ISO21448 SOTIF预期功能安全

关注汽车功能安全，请点击链接：ISO26262汽车功能安全

关注汽车网络安全，请点击链接：ISO21434汽车网络安全

【背景】

2024年12月发布的ISO/PAS 8800标准，由ISO/TC22/SC32/WG14道路车辆人工智能AI安全工作组制定，主要关注自动驾驶领域的人工智能安全技术。中国、美国、德国、英国、奥地利、日本、韩国等17个国家的专家参与了这一标准的起草工作，其中中国专家代表团在AI运行监控和持续安全保障方面起到了牵头作用。

 

当我们谈论起功能安全标准的时候已经知道，最早发布的是IEC 61508，在这个标准基础上衍生出了像ISO 26262，EN 50129等针对不同领域的功能安全标准。在汽车行业里，我们从2011年发布的第一版ISO26262过渡到了2018年的第二版，也有了GBT34590以及GB17675等国标，然后又从功能安全引申出了预期功能安全，ISO21448:2022是以附录的形式给出了用以覆盖AI功能局限性的一些考虑。车辆安全和人工智能ISO/PAS8800标准既可以解决AI系统的故障行为引起的功能安全（ISO26262）相关风险，也可以解决AI系统功能缺陷(ISO21448)相关的风险。参看本文。

需要对ISO/PAS8800有初步了解，可以参看标准解读文章：MUNIK带你解读道路车辆人工智能功能安全标准ISO8800.

如何建立一套通用的AI管理体系，请参看ISO/IEC 42001 Information technology - Artificial intelligence – Management systems 人工智能管理体系

如何符合相关AI法规，请参看MUNIK带您解读AI Act REGULATION (EU) 2024/1689

 

功能安全、预期功能安全、网络安全和ISO/PAS8800标准的关注点区别如下：

  • 功能安全技术标准ISO26262确保了车辆本身免于电子电气系统的错误功能行为而导致车辆的安全驾驶。（通过HARA所识别的关键功能必须要有ASILX可靠性设计）。参看汽车功能安全业务介绍。
  • 预期功能安全标准ISO21448从各种应用层面考虑，以免于由于预期功能或其实施的功能不足而导致的危害所导致的不合理风险。参看预期功能安全业务介绍。
  • 网络安全标准ISO21434确保了网络互联重要支撑节点的车辆网络的连接安全，这包括个人隐私和车辆控制的安全。参看网络安全业务介绍。

 

更多标准的关系请参看下表：

 

 

【为什么需要考虑道路车辆安全和人工智能标准ISO/PAS8800？】

 

该标准旨在管理和提升道路车辆中人工智能系统的安全性（主要是AI系统故障行为引起的功能安全风险和AI系统产生的功能安全缺陷风险），为汽车设计领域内越来越多的AI技术使用提供全面的安全符合和指导。

 

在车辆自动驾驶或辅助驾驶中，对整个工作域的描述或规范不完整是很常见的。在这些情况下，通常会使用 AI/ML。ISO/PAS 8800 评估了性能不足对 AI 的影响，例如偏差和缺乏稳健性导致的错误、训练数据不足以及许多其他方面。它引入了特定于汽车的 AI 安全生命周期(参见第7章节，AI安全管理)，同时与 ISO 26262 标准规定的安全生命周期保持一致。ISO 8800 将采用源自 ISO 26262 和 ISO 21448 的要求，但将要求扩展到特定于 AI 的属性，例如偏差、预测、稳健性和泛化。有一些规定的方法允许通过使用其他方法（例如非 AI 监视器或监督器）进行补偿来降低 ML 性能要求。我们还可以预期有与数据集相关的安全要求和安全分析，因为数据的质量在 ML 中起着重要作用。

 

通过ISO21448和ISO26262的结合，ISO/PAS8800以确保我们的设计功能足够完善，足够丰富，关键功能也足够安全可靠，AI技术要求结合这两个标准，从而确保AI技术的使用不止不会产生新的风险，并且AI技术的引入识别和降低了车辆出现故障的可能，从而确保了车辆本身应用的安全。建立AI系统应用的标准开发流程，以标准化、专业化地指导我们AI系统的应用在相应生命周期中被设计和验证确认。

 

车辆制造商、Tier1&2级供应商、各类组件、元器件供应商在AI技术引入时需要考虑ISO/PAS8800的开发流程的建立和符合，从而支持AI系统的安全开发和应用。

 

 

【关于AI系统在车辆层面的开发，MUNIK可以做什么？】

 

秒尼科专业的汽车安全技术团队，由国内外的专业汽车安全研发人员组成专业技术团队，我们提供从ISO26262,ISO21448, ISO/PAS8800三个安全标准的结合，以支持客户AI系统开发的全程技术服务，这包括：

---车辆系统安全工程及基础概念中的人工智能相关内容；

 

---AI安全管理，安全生命周期定义；

 

---AI系统的保证论据；

---AI安全需求的导出；

 

---AI技术、机构和开发措施的选择；

---数据相关的考虑；

---AI系统的验证和确认；

---AI系统安全分析；

---运行中的措施；

---对用于AI模型开发的人工智能开发框架及软件工具使用的置信.

 

通过MUNIK全球安全专家，将有效帮助汽车制造商、器件供应商及软件开发人员在AI相关技术应用中，系统性地识别、管理和处理现有和潜在失效风险，结合现有其他安全标准一起，从而综合性提提高汽车产品的整体安全。

 

通过我们的人员资质培训、差距分析、咨询及技术交流、审核服务，确保您的ISO8800流程通过相关的评估及测试要求，在设计层面确保了车辆的安全驾驶。

 

【MUNIK提供的服务步骤有哪些？】

 

.通过我们的人员资质培训、差距分析、咨询及技术交流、审核服务，确保您的ISO8800流程及产品通过相关的评估及验证确认，保证了我们的产品具有安全应用AI技术的能力并且AI的使用能够识别出设计的功能不足及缺陷，最终确保所集成的车辆安全的AI安全及给车辆安全驾驶做出对应贡献。
 
AI安全服务：基于MUNIK的标准化服务流程，我们建议以下服务类型供AI安全技术人员选择：

 

      1.培训.

 

      通过体系化和实战化的ISO/PAS8800标准培训，旨在既帮助客户解决人员资质证书问题，又以实例化的问题讲解，让客户开发人员对AI技术安全的应用积累实际实施经验，包括应用AI本身的错误以及如何使用AI技术识别车辆设计弱项，并帮助公司的以流程化的方式系统设计AI，并符合标准要求。
 
MUNIK将基于ISO/PAS8800标准培训教材，以内训的方式在甲方进行2天的培训课程。培训课程以实践导向和展示为目的，系统化为客户提供专业的道路车辆设计的AI设计及应用安全的专业知识。确保客户充分理解ISO8800标准的要求及思路，为以工程化的思维切入AI安全开发项目实施中打下扎实基础。

 

      2. 差距分析.

 

      基于差距分析模板和项目实施流程，实施差距分析，以识别现有开发流程和ISO8800标准要求之间的差异，主要包括和现有开发流程ISO26262和ISO21448的开发文件交互（具体可参照表6-1和表6-2），并基于此制定后续的项目计划和任务分配。

 

Step1：差距分析准备。差距分析开展前，甲方需提前约定差距分析的人员，可包括项目经理，AI安全经理，功能安全经理，预期功能安全经理，系统架构，研发和测试，质量，生产部门，质保和运维等人员，以完成当前项目的人力资源配置，整个差距分析的持续时间预估需要两到三天。需要注意的是，ISO8800并不是独立的安全标准，通常会建立在ISO26262和ISO21448的基础上，否则差距分析的时间可能会扩展到三到五天。
 
Step2：差距分析实施。基于客户当前的安全产品开发流程或安全管理流程（如有），以标准化的检查流程及模板，采用现场技术交流的形式检查出客户当前流程和ISO8800 AI安全标准要求之间的差异。如客户已有功能安全和预期功能安全基础，主要关注两个标准之间的接口和AI定制应用。
 
Step3：提交差距分析报告。差距分析后，MUNIK技术老师整理并生成差距分析报告，并提交给客户，以帮助客户进行后续改进和梳理，明确客户计划建立的流程框架，包括AI安全手册，各类流程和指南(建立在ISO26262和ISO21448基础之上，如果客户产品属于底层组件，只考虑和ISO26262的交互，和ISO21448的交互会定义在SEooC中)，各类工作模板（规范，分析，验证等），各类检查表。
 
Step4：支持客户制定工作计划。支持和确认客户下一步的工作计划，基于MUNIK经验，确认后续流程建立的计划可行性，包括需要的人力资源，知识储备（包括现有可复用文档的AI方面定制），项目进度的合理性，流程文档的具体内容及命名和分类，设计模板的欠缺和合理性，是否需要DEMO及DEMO的颗粒度等。支持客户以该计划有效指导后续项目的实施。
 
 
 
3.技术咨询.

通过本项服务，旨在帮助客户建立起符合ISO/PAS8800标准的开发流程体系，或者在具体开发体系下实施功能安全产品的开发。
MUNIK的服务涵盖以下内容：
 
3.1 根据ISO/PAS8800提供流程建设技术支持服务:
基于差距分析的结果，指导客户完善现有的开发管理流程并建立符合ISO8800标准的开发体系，如下图形式展开。

 

    3.2 章节交流指导内容及范围包括：    标准内容的全部梳理和交流。

序号

标准章节

技术支持内容

1

ISO/PAS8800-Clause6

AI within the context of road vehicles system safety engineering and basic concepts，描述车辆系统安全工程及基础概念中的人工智能相关内容，比如AI系统开发在ISO26262功能安全方面的应用，与涵盖整个系统层面安全活动的交互，和ISO26262\ISO/IEC22989之间的抽象层遍历，AI系统的架构示例，AI模型的类型，机器学习模型的AI技术，错误概念，故障模型和因果模型

2

ISO/PAS8800-Clause7

AI Safety Management，描述AI安全管理，包括AI安全生命周期以及AI系统的迭代开发范式

3

 

ISO/PAS8800-Clause8

Assurance arguments for AI systems，描述AI系统的保证论据，比如保证论据在AI系统方面的具体考虑，结构化的论据（上下文，证据类型），定性和定量，保证论据的评估。

4

 

ISO/PAS8800-Clause9

Derivation of AI safety requirements，描述AI安全需求的导出，包括安全需求导出的工作流程，在监督式机器学习上导出AI安全需求

5

 

ISO/PAS8800-Clause10

Selection of AI technologies, architectural and development measures描述AI技术、机构和开发措施的选择，架构和开发流程设计或细化

6

 

ISO/PAS8800-Clause11

Date-related considerations描述数据相关的考虑，数据集生命周期（数据集和AI安全生命周期，参考数据集生命周期，数据集安全分析，数据集需求开发，数据集设计，数据集实施，数据集验证，数据集确认，数据集维护）

7

ISO/PAS8800-Clause12

Verification and validation of the AI system描述AI系统的V&V验证和确认，包括AI/ML对V&V的具体挑战，AI系统的V&V(AI系统验证和确认的范围，AI组件测试，AI组件测试方法，AI系统集成和确认，真实测试和物理测试，评估AI系统安全相关系统性能，AI系统确认)

8

 ISO/PAS8800-Clause13

Safety analysis of AI systems描述AI系统的安全分析，包括AI系统安全分析的范围，基于测试结果的安全分析，安全分析技术。

9

 

ISO/PAS8800-Clause14

Measures during operation描述运营期间的措施，包括通用要求和运营和持续保证计划，AI系统运行期间的安全风险，运行阶段的安全活动，保证论据的持续和周期性再评估，系统系统运行期间的保证安全措施，现场数据收集，评估和持续性开发

10

 

ISO/PAS8800-Clause15

Confidence in use of AI development frameworks and software tools used for AI model development描述对用于AI模型开发的人工智能开发框架及软件工具使用的置信，包括通用要求，所用AI开发框架的可信度，用来支持AI安全生命周期所用工具的置信度，数据驱动的AI模型培训和评估的准则

 

3.3章节交流的步骤包括以下：

Step1：MUNIK提供标准中所有章节对应的标准流程指南，所有的工作产品模板，以及相应的检查表。

Step2:   项目进展过程中，MUNIK以自己准备的相应技术介绍PPT，结合具体的模板，以标准的要求、对应的模板、模板内容如何对应这种形式，并结合客户现有的功能安全和预期功能安全（如有）知识基础，做到现有工程经验和AI安全要求的结合，以最佳实践的形式帮助客户做到对标准的符合。

Step3：AI安全流程的DEMO，基于认证规则的要求，DEMO对象的选择，设计实施的颗粒度，对标准符合的正确性，MUNIK老师会和客户一起交流讨论，并做到标准符合的对应检查。

 

4.       评估认证.

 

评估认证包括两个阶段：

阶段1：预审核，MUNIK会基于标准的检查表进行流程或产品的完整预审核，通过预审核和后续客户更改，关闭掉可能的风险。

阶段2：正式评估认证，对客户的ISO/PAS 8800 AI安全开发流程体系实施独立第三方审核，以确定所审核的客户AI开发流程体系或者所开发产品符合ISO/PAS8800标准要求，并基于审核评估结果颁发相应流程体系或产品符合证书。

 

如果您需要技术交流，欢迎和我们邮件联系！Shmunik@munik.com

 

交流内容如下但不限于以下内容 ：

 

是否需要建立ISO/PAS 8800开发流程？

如何建立车辆AI系统开发流程?

如何结合ISO26262，以及ISO21448,从而降低AI失效，并使用AI降低功能缺陷？

如何做AI系统的验证和确认？

等

4
넳 넲