保罗·帕金森

风河最近参加了安全至上的系统研讨会(SSS’19)在英国布里斯托尔举行。今年的会议代表人数达到了创纪录的水平，其中包括参与系统安全的学者和行业专业人士。今年节目的主要节目之一已经播出自主、人工智能(AI)和机器学习其中包含了一些讨论，通常主张两种截然不同的方法之一，一种是通过训练操作的基于人工智能的安全自主系统，另一种是通过具有受限人工智能功能的安全可预测自主系统。因此，这些截然不同的方法似乎在竞相实现基于安全自主AI/ ml系统的最终目标。

为了更好地理解这一点，提倡通过训练来安全操作基于人工智能的自动驾驶系统的人提出，将传感器融合与基于人工智能的自动驾驶系统结合使用，这种系统已经经过了所有可能场景的训练。然而，提倡具有受限AI功能的安全可预测自主系统，并列举了AI系统无法理解人类可以安全地处理的情况的场景和真实例子(例如，据称，人工智能系统很可能无法检测到包含高斯噪声、雾或散焦的图像中的行人;而人类仍然会正确地观察行人)。出于这些原因，SSS 19位发言者中的一些人提议使用非人工智能安全监测器(可能使用正式方法开发)，它将观察人工智能系统并约束其行为。AI/ML训练和模拟的累积效应是否真的提高了可预测性，降低了重大事故的发生频率，或者这是否会证实AI系统只能对其所训练的场景做出可预测的反应的假设，这将是一件有趣的事情。

深入研究，还有一个问题是如何对基于人工智能的系统进行安全认证，因为它们不像“传统”(非人工智能)软件系统那样有要求，因此不适合V-model开发生命周期——可以100%修改条件覆盖/决定对神经网络进行测试?尽管在这方面似乎没有达成共识，但一种拟议的缓解方法可能提供了一种前进的方式——使用ML系统与基于“传统”软件的安全认证检查系统相结合。

我个人在会议上的一个亮点是共同提交会议论文的特权商用航空电子多核处理系统的民用认证他是柯林斯航空航天公司的技术研究员哈罗德·蒂德曼。这是我们的扩展版联合白皮书，并发表在SSS的19次会议论文集中(其中一些话题也在视频中讨论，多核认证之路)．我们与代表们就多核认证进行了许多有趣的对话，如果您没有机会跟上我们，或者想了解更多关于VxWorks 653和多核平台的信息，请随时访问联系我们的全球销售团队．

如果您有兴趣了解更多关于AI和安全关键系统如何共存的知识，请注册我们即将在3月6日举行的网络研讨会:现代系统解剖学:安全关键和通用应用共存的地方．