01 导语

随着自主系统 (IAS) 的不断发展,航空领域人机协同 (HMT) 或将日益呈现角色分配非传统化的趋势。为确保这类新型人机协同模式及其相关自主系统的安全性,必须构建一套基于可复现研究的完备知识体系。本报告深入探讨了以下核心议题:协同的内涵;现行法规标准与指导文件;构建具有韧性的HMT所需的知识基础,以及在NASA支持下开展的最新研究成果。基于上述分析,报告提出了一项综合性研究议程的倡议,旨在为安全部署融合自主系统的HMT提供支撑。研究重点包括:HMT整体效能研究、人机间新型角色分配机制的影响、人类在团队中对突发风险的韧性应对能力、保障AI/ML组件正确性与无害性的验证方法,以及实现人机间清晰、及时、准确交互所需的技术特性。

02 基本概览

英文标题 Challenges, Research, and Opportunities for Human-Machine Teaming in Aviation
关键词 人机协同、自主系统
资料来源 美国国家航空航天局
发布时间 2025年04月

03 总体建议

本报告提出的建议构成了一项研究议程,主要面向航空领域三个(可能存在重叠的)群体:NASA、关注新型HMT范式的航空领域和关注(可能在HMT中)部署AI/ML系统的航空领域。

(1)NASA应:
  • 通过如NASA研究公告等定向资助机制,借助相关机构的专业能力,构建知识体系,以支持对能够产生安全行为的HMT的理解、设计、部署与运行。
  • 随着新型HMT理念的成熟,持续参与标准制定过程,确保航空发展保证标准保持其相关性、充分性,并牢固建立在基于研究与实践经验的共同知识体系基础上。
(2)参与新型HMT概念飞机研究、开发、部署、制造、认证、运行与监管的政府、工业界及学术界机构与组织应:
  • 开发系统化且可复现的方法,用于评估新协同范式下系统与设备的可预测性,以及机组人员进行干预和/或履行其安全职责的能力。
  • 针对机组人员在故障条件下履行职责的能力开展可复现的研究,以积累可用于制定相关评估标准及/或最佳实践的证据体系。
  • 确定系统且可重复的方法,用以探索HMT的功能分配权衡空间,并对最终的权衡取舍提供依据。
  • 积极吸纳具备机器系统、人类行为、系统安全及社会影响等专业知识的跨学科团队参与。
(3)负责基于AI的HMT系统研究、开发、部署、保证与运行的组织应:
  • 明确AI解释机制的必要特征,确保其清晰、正确、及时、增强态势感知能力,并对目标用户具有有价值的抽象层次。
  • 开展研究:以识别引入AI所带来的新型风险;明确导致意外模式和故障的AI特有行为;评估基于AI的HMT中保障技术的有效性。
  • 通过可复现研究,明确哪些HMT任务分配范式能够提供必要的数据与经验,以支持实现任何其他范式。


发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注