UCI研究人员发现：自动驾驶汽车可能会被欺骗，引发危险驾驶行为

盖世汽车讯 当无人驾驶汽车行驶时，其防撞系统若做出错误决定可能引发灾难发生。据外媒报道，加州大学尔湾分校（University of California, Irvine，UCI）的研究人员发现了另一种可能的风险：如果路边放置有普通物体，自动驾驶汽车可能会被欺骗突然停止或做出其他意外驾驶行为。

图片来源：UCI

UCI计算机科学教授Qi Alfred Chen表示：“盒子、自行车或交通锥都可能使无人驾驶车辆在街道中间或高速公路出口匝道上忽然停车，从而给其他驾驶员和行人带来危险。”

Chen补充说：“车辆无法区分道路上的物体是意外留下还是作为物理拒绝服务攻击（denial-of-service attack）工具被故意留下，但这两种方式都会引起反常的驾驶行为。”

Chen及其团队将调查重点放在了规划模块特有的安全漏洞上，其中规划模块是控制自动驾驶系统的软件代码的一部分。该组件可监督车辆的决策过程，控制何时巡航、变道或减速和停车等功能。

UCI计算机科学专业博士生Ziwen Wan表示：“从逻辑上讲，车辆的规划模块设计得非常谨慎，因为你不希望无人驾驶车辆四处滚动、失控。但我们的测试发现，该软件可能会因过于保守而犯错，从而使自动驾驶车辆成交通障碍，甚至引发更糟的状况。”

视频来源：UCI

对于这个项目，UCI的Donald Bren信息与计算机科学学院的研究人员设计了一个名为PlanFuzz的测试工具，可以自动检测广泛使用的自动驾驶系统中的漏洞。 如视频演示所示，该团队使用PlanFuzz评估了开源、工业级自动驾驶系统Apollo和Autoware的三种不同行为规划实施。

研究人员还发现，放置在路边的纸板箱和自行车会导致车辆长期停在空旷的大道和十字路口。在另一项测试中，自动驾驶汽车在感知到不存在的威胁时，并未按计划改变车道。

Chen表示：“自动驾驶汽车曾发生过致命的碰撞事故，给优步和特斯拉等公司造成了巨大的财务和声誉损失，因此我们可以理解为什么制造商和服务提供商要谨慎行事。但许多自动驾驶系统表现出的过于保守的行为会影响交通以及乘客和货物的流动，这也可能对企业和道路安全产生负面影响。”