雷锋网消息,街上的交通标志未来会成为自动驾驶汽车通行时的领航员,不过一个研发团队近日发现,如果对这些交通标志稍加改动,可能就会让自动驾驶汽车彻底懵掉,其机器学习系统会对标志进行错误的分类并做出错误决定,将乘客的生命置于危险之中。
如果有人恶作剧,用新的贴图覆盖整个交通标志或在上面粘贴一些小的贴纸,就能成功骗过自动驾驶汽车,让它们做出错误的判断。如果交通标志被整个覆盖,恐怕车上的乘客也根本无法分辨。
遇到了一个“假”标志
举例来说,题图中的 4 种标志是该团队设计出来专门“欺骗”自动驾驶汽车的。
雷锋网发现,在左边第一张图的场景中(标志上写有“love”和“hate”的),自动驾驶汽车会将停止标志认成“限速 45 英里/小时”),而且一骗一个准。
左起第二和第三张图中,贴纸和涂鸦也能骗过机器学习系统,不过欺骗的成功率仅为 67%。
第四张图中专门印刷出来的假路标也会让机器学习系统变傻,在它眼中“右转”成了停止标志(欺骗成功率 100%)。
反愚弄措施也不少
随着自动驾驶逐渐普及,保持路标清洁将会成为智能城市管理者的强制责任。
研究人员也给管理者们出了招,未来的路牌可以采用防贴纸材料制作。除此之外,汽车制造商也要让机器学习系统掌握更多的语境信息,毕竟在繁忙的州际公路上是不会出现停止标志的。
雷锋网发现,这已经不是第一个有关自动驾驶汽车被黑或者被干扰的研究了。2015 年 9 月时,Security Innovation 的安全研究人员 Jonathan Petit 就声称他能轻松愚弄任何自动驾驶汽车上的 LiDAR,导致车辆减速或急刹车,而所用的干扰工具只不过是能发射激光脉冲的自制小设备而已。