由MyChal McCabe.

的人文研究所的未来最近随访了去年的调查ai超越人类表现在各种任务中，题为“恶意使用人工智能：预测，预防和缓解。“该报告侧重于威胁景观的三个宏观变更：扩大现有威胁，引入新威胁，以及现有威胁性质的变化。

这个讨论的基础是人工智能是一种“两用”技术的概念，“人工智能系统和如何设计它们的知识既可以用于民用，也可以用于军事，更广泛地，朝着有益和有害的目标。”

人们普遍关注的是世界上的人工智能，或者是一个充斥着冷漠或恶意的自治系统的世界。这样的系统往往被视为科学项目或科幻小说，但纵观多个细分市场表明，我们正在进入技术采用生命周期的早期多数阶段，系统从自动转向自动。想想看，美国国防部高级研究计划局(DARPA)的首次自动驾驶汽车挑战赛(Autonomous Vehicle Challenge)发生在2004年，谷歌和亚马逊(Amazon)自2012年以来一直在研究他们的自动无人机车队，IBM在2013年开始游说FDA让沃森评估癌症筛查扫描。

特别是人工智能正在成为从营销自动化到智能工厂的所有领域的主流能力，这并不意味着人们对它有很好的理解。比如Facebook拔掉了一个人工智能项目的电源，在这个项目中，两台电脑开始用一种被分配到该项目的人无法理解的语言相互交流——主流媒体将这个故事描述为“让人毛骨悚然的是我们的未来只是这并没有真正发生，至少不是以标题所暗示的方式。

在世界上大的难以理解的，令人难以置信的和无难以置信的AI实体更有可能是数据中毒，对抗的例子和利用自主系统目标方向的威胁。随着人道学院的未来指出，“这些与传统的软件漏洞不同（例如，缓冲区溢出）并表明，虽然AI系统可以在许多方面超出人类性能，但它们也可以以人类从未能够失败。”

在多个关键基础设施领域，以自动操作为特征的系统向以自动操作为特征的系统的明显趋势将引领运营技术(OT)的到来，包括但不限于自动车辆、控制和过程领域，和其他具有安全关键要求的系统。系统架构和认证方法必须随着这些需求而发展。

将可能导致多个输出的工作负载基于具有固定或确定性结果的其他工作负载的能力加载的响应应​​该是那些架构此类系统的基本考虑。整合和分离具有多种安全临界性和绩效标准的工作负载是风河在多个行业拥有深层专业知识的领域。同样，在系统级别理解预期和期望的结果并实时识别Deltas的能力将是至关重要的。模拟和数字双胞胎技术 - 包括仿真风河系统公司西米奇- 有一个角色可以在设置这种行为基线和通过时间监控它们的作用。

我们期待着与系统运营商，集成商，制造商和更广泛的创新者生态系统驾驶自动趋势，以确保软件定义的未来自治世界是一种安全，安全的现实。