一塊普通的“路面污漬”竟能迷惑智能的自動駕駛汽車，在1秒內(nèi)就導致車輛失控偏離行駛車道。一項國際研究新近證實了這一可能，再度引發(fā)公眾對自動駕駛汽車安全性的關(guān)注。
一些人類可輕易識別的“小把戲”能完全迷惑自動駕駛汽車。圖片來自中國網(wǎng) 自動駕駛技術(shù)有時候并沒有人們想象的那樣聰明，一些人類可輕易識別的“小把戲”卻能完全迷惑自動駕駛汽車。比如，在交通標志上貼一些惡意貼紙或涂鴉，就有可能導致自動駕駛汽車錯誤地將停車標志識別為限速標志。 美國加利福尼亞大學歐文分校、美國東北大學等機構(gòu)的研究人員最新研究發(fā)現(xiàn)，一些偽裝為路面污漬圖案的攻擊補丁可誤導自動駕駛汽車上的自動車道居中輔助系統(tǒng)（ALC），導致車輛偏離其行駛車道，造成嚴重交通危害。 隨著自動駕駛技術(shù)的普及，目前很多L2級別（部分自動駕駛）的乘用車都配備了ALC系統(tǒng)，可自動控制車輛方向盤使其保持在車道中心。該系統(tǒng)通常利用深度神經(jīng)網(wǎng)絡(luò)的車道檢測來實現(xiàn)車道居中自動輔助。研究人員通過安全分析發(fā)現(xiàn)，深度神經(jīng)網(wǎng)絡(luò)模型層面存在漏洞，容易受到物理世界的“對抗性攻擊”。 路面污漬在現(xiàn)實生活中很普遍，較難引起人類駕駛員注意。研究人員用對抗性神經(jīng)網(wǎng)絡(luò)生成誤導性的圖案，并將其偽裝為路面污漬，使攻擊更加隱蔽，讓這種“臟路補丁”誤導ALC系統(tǒng)。 研究人員分別在微縮場景、自動駕駛模擬器和現(xiàn)實中的真車上測試了“臟路補丁”攻擊，均成功“帶偏”了ALC系統(tǒng)，造成車輛碰撞事故。在對一款配備了ALC系統(tǒng)的真車進行效果驗證時，測試車輛在10次試驗中的碰撞率達到100%。 論文通訊作者、加州大學歐文分校助理教授陳齊說，ALC系統(tǒng)如今被廣泛應用于各種車型中。盡管方便，但該系統(tǒng)需要具有較高安全性：當系統(tǒng)做出錯誤的轉(zhuǎn)向決策時，人類駕駛員可能沒有足夠的反應時間來防止即將發(fā)生的安全隱患。 該論文的共同第一作者，加州大學歐文分校博士生佐藤貴海和沈駿杰建議，為防御此類攻擊，一些汽車廠商應把路面污漬和“臟路補丁”加入ALC系統(tǒng)使用手冊里現(xiàn)階段不可處理的場景列表中，幫助用戶提前認識到這種風險的存在。有條件的廠商還可采取集成激光雷達和攝像頭等的多傳感器融合方案，或采用車道線檢測與地圖數(shù)據(jù)融合的方式防御攻擊。 （據(jù)新華社記者 彭茜） |
