自动驾驶的安全性仍然以来受到各方的注目。据报导，近日由北京航空航天大学、悉尼大学和剑桥大学的一项新的研究指出，一张纸之后可以“欺骗”AI自动驾驶系统，将一张用打印机打印机出来的涂鸦贴画张贴在路牌上就可以造成AI自动驾驶系统分类错误。目前该论文已在全球人工智能顶级会议AAAI2019上公开发表。

在实验中，研究人员将分解的涂鸦贴画张贴在北航校园中标为“车速20km/h”的现实路牌上后，AI自动驾驶系统几乎被误分类，将其辨识为“NoEntry”（封路）。该涂鸦贴画在论文中被称作“对付补丁”，正是这块补丁“愚弄”了AI自动驾驶系统，让系统将该路牌误将分类。

经实验证实，用该方法分解的对付补丁具备平稳的反击效果，将其张贴在路牌上后，会影响人类对于路牌语义信息的理解，且由于场景语义相关性人类也会感觉到违和。但是，该对付补丁对于AI自动驾驶系统则是毁灭性的。

例如，这种反击有可能被蓄意地用来反击自动驾驶系统，入侵者只要将一小片贴画张贴在路牌上，当自动驾驶汽车驶出时就可能会导致系统的致命错误，造成车祸产生。

本文来源：bat365在线-www.38sashka.com