文/薄云览

在不同行业的安全关键系统中，一些新技术应用在认证和监管方面都存在相同的挑战，在航天航空领域中AI技术应用的商业压力增大，迫切需要出台监管要求和可依据的标准，在2019年欧美航天航空领域成立了两个工作组，分别是WG-114和G-34，WG-114由欧洲的EUROCAE（欧洲民用航空设备组织）设立，G-34由美国的SAE（国际自动机工程师协会）设立，目的是为基于AI技术的航空领域设备的开发和认证/批准创建第一个标准，范围包括地面设备和机载设备，以使行业利益相关方的认识和目标保持一致。

本文通过2021年国际航空航天软件峰会上WG-114工作组所做的报告讲讲AI技术在航空领域的标准化进展。

参加峰会该主题的成员有：

Darren Cofer，Fellow, Collins aerospace(国际最大的航空航天和国防产品供应商之一）

Corinne Gingins, technical management safety, Skyguide(瑞典空管局）

Paula Olivio, Artificial intelligence research engineer, Embraer(巴西航空工业公司)

Mark Roboff, CEO of SkyThread Aero

报告主要部分是由Mark Roboff介绍的

G-34/WG-114的目标是为了实现对应用AI技术的航空航天系统和飞行器的认证/批准以保证安全的运行

G-34/WG-114的范围涵盖地面设备和机载设备，如autonomous autopilot, AI managed air traffic control system

工作组的成员：波音、空客、达索、三菱、洛克希德、NASA、EASA、……

工作组的交付物：

  • AIR6988/ER-022 Artificial Intelligence in Aeronautical Systems: Statement of Concerns

  • AS6983/ED-xxx Process Standard for Development and Certification / Approval of Aeronautical Safety-Related Products Implementing AI

  • AIR6987/ER-xxx Artificial Intelligence in Aeronautical Systems: Taxonomy

  • AIR6994/ ER-xxx Artificial Intelligence in Aeronautical Systems: Use Cases Considerations

G-34/WG-114分析，由于AI技术特性，与现有标准的差距，采用现有标准对AI技术进行认证，AI技术是无法认证通过的，比如

与DO178-C机载软件标准的差距，在追溯性和完整性方面AI技术无法鉴定通过（fall down)；

传统机载软件可以逐级分解到单元级，而典型的AI技术如神经网络无法分解；

AI技术无法追溯安全需求和功能需求，存在不可解释性。

G-34/WG-114的roadmap，计划在2024完成所有交付物工作。

现有的标准体系包括

  • System level（ED-79A/ED-135，ARP4754A/4761) Guidelines for Development of Civil Aircraft and Systems

  • model level(ED-218/DO-331) Model-Based Development and Verification Supplement to ED-12C

  • item level(ED-12C/DO-178C) Software Considerations in Airborne Systems and Equipment Certification

将来加入ML技术的标准框架会加在Model level。

工作组展示了一个包括ML技术的开发过程Flowchart，这个图不是最终完成版，只用来展示工作组的思路，红色框是安全相关工作，熟悉功能安全的朋友应该比较熟悉，绿色部分是系统层的工作，ML相关的部分嵌入到model层级。

与G-34/WG-114有关联的其它工作组，包括复杂A/C系统，网络安全，UAS自主系统等。

如何认证一个无法分解，不可解释的系统，提供了一个思路，AI licensing，就像认证人类飞行员一样给AI发执照，AI与人类具有共同的特点，无法分解，需要训练。人类飞行员获得飞行执照的三个步骤：

  • ground school curriculum

  • flight instruction

  • check ride

对于AI技术，虚拟化的飞行检查，在数字仿真环境中进行海量的边界用例进行测试可以极大地提高效率，再在现实环境中见习 使用，直到达到足够里程后进行批准。

但仍需要非常谨慎，对AI的控制输出进行限制。

接下来工作组的成员依次分享了一些关于AI技术认证中数据集、可解释性、V&V丰富、开发周期的观点。·

看完整个报告，工作组主要介绍了AI技术的典型技术特性，对认证的挑战，建立新标准的重要性和认证方法的创新，对具体技术细节没有展开。对于AI技术标准和认证方式体现了航空届对于该技术应用的思路，在同样应用较广的汽车领域也有相互借鉴的地方，在轨道交通领域，AI在系统安全应用领域目前并没有作为主流技术应用，可以继续关注。

声明：本文来自薄说安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。