【新智元導讀】近日，騰訊旗下關注自動駕駛安全的科恩實驗室發布報告，稱特斯拉Model S轎車存在三大安全隱患，目前的實驗和測試表明，特斯拉S型轎車的轉向系統、自動雨刮器和車道識別系統均被攻破。特斯拉已發表回應稱，轉向系統的缺陷已由系統更新修正，其他兩處則不屬於安全問題，無須擔心。

科恩實驗室稱，已經通過遙控成功干擾了車輛的轉向系統。通過對抗性實例成功干擾了智能雨刮器。通過在道路上貼幾個小小的膠帶，就能成功誤導車輛的道路識別系統，將車導航至逆行道上。

對此，特斯拉方面迅速做出回應，但並未否認三處缺陷的存在。不過特斯拉同表示，此次曝光的這三處缺陷中，其中一處（轉向系統被遙控）已由最新軟硬體更新修正，而對於另外兩處缺陷，則表示科恩實驗室的實驗場景不可能在現實駕駛場景中遇到，不屬於安全問題，無須擔心。

以下是科恩實驗室報告核心內容的選編，以及特斯拉的逐條回應內容：

騰訊Keen安全實驗室一直在進行Tesla車輛安全性研究工作，並在2017和2018年的美國Black Hat上分享了研究成果。 我們利用特斯拉自動駕駛系統（Tesla Autopilot ECU，軟體版本18.6.1）的ROOT許可權，進行了一些有趣的研究。

簡單來講，我們的實驗和測試證明了以下三點：

1、成功遠程控制車輛轉向系統

2、成功用對抗性實例干擾了自動雨刮器

3、成功誤導車輛駛入了反向車道

我們研究的特斯拉車輛的軟硬體信息如下：

車型：Tesla Model S 75

Autopilot 硬體版本：2.5 軟體版本：2018年6月30日

對車輛轉向系統的遙控

APE是特斯拉高級駕駛輔助系統的核心組件，負責輔助駕駛和自動停車模式下的汽車轉向系統控制和電子速度控制。據我們所知，這些先進的輔助駕駛功能基於高級視覺和汽車匯流排（乙太網，CAN，LIN，FlexRay）系統。

我們採用的方法是動態地將惡意代碼注入cantx服務並掛鉤cantx服務的「DasSteering Control Message Emitter:: finalize_message（）」函數，以重用DSCM的時間戳和計數器來操縱具有任何轉向角度值的DSCM信息。

為了將遠程攻擊鏈在車輛轉向系統上進行可視化，我們使用遊戲手柄演示遠程轉向控制。遊戲手柄的轉向控制過程如下圖所示：手柄通過藍牙連接到移動設備。同時，移動設備從遊戲手柄接收控制信號，並將信號轉換成相應的DSCM。

一旦APE受到安全威脅，cantx服務將定期通過3G / Wi-Fi從移動設備中提取DSCM信息。此外，APE需要不斷將實時將車輛轉向角度推送至移動設備，以計算出預期的精確轉向角度。

?當汽車處於停車狀態時，我們可以無限制地控制轉向系統

?當通過換檔手柄將汽車從R（倒車擋）模式切換到D（駕駛擋）模式時，APE似乎仍然認為汽車處於APC（自動停車控制）模式，這時我們可以在時速不超過約8公里的情況下，繼續控制轉向系統。

?當汽車處於高速自適應巡航控制模式時，我們也可以無限制地控制轉向系統。

?即使汽車不在ACC（自適應巡航控制）模式下，方向盤也有機會被成功控制。

對自動雨刮器的成功干擾

傳統的雨刮器系統使用光學感測器來檢測雨滴。當足夠的雨滴撞擊擋風玻璃時，反射到感測器上的光量將減少到一定水平，使感測器打開雨刮器。

特斯拉的自動雨刮器系統則使用完全不同的解決方案，該方案基於神經網路模型。我們的實驗證實中，這種解決方案在某些情況下似乎不如傳統方案可靠

我們的目標是測試特斯拉自動雨刮器的穩健性。我們創建一些條件，使自動雨刮器在擋風玻璃上沒有水的情況下自動開啟。創建用於「攻擊」系統的對抗性示例是一個非常直接的想法，因為整個系統完全基於深度神經網路。

我們選擇了電子顯示（例如電視，平板電腦）以顯示物理世界中的補丁，這很容易執行端到端測試，在真實攻擊場景中也更可行。

顯示器可以放在道路的一側，也可以放在前車的后座上（後者中國的計程車上很流行，後窗上經常會顯示廣告），或攝像頭方便捕捉到的其他地方。然後使用優化演算法來生成對抗性圖片。我們直接用車輛來訓練演算法並生成實例。

最後一個問題是要找到一種合適的方法來生成電視上顯示的圖像。我們嘗試了另一種叫做Worley噪音的噪音功能。在計算機圖形學中，它能夠以任意精度自動生成紋理，無需手工繪製。Worley雜訊能夠模擬石頭，水或其他噪音的紋理

我們在電視上播放對抗生成的圖像，其效果與向擋風玻璃洒水的效果相同。業內沒有關於為何存在這種對抗性實例的統一解釋，但眾所周知，沒有基於神經網路的傳統自動雨刮器解決方案不會出現這樣的問題。

雖然機器學習代表了技術的未來方向，但從消費者的角度來看，我們希望該技術可以具備更高的穩定性。這部分實驗表明，我們可以通過一些演算法直接攻擊真實世界中的圖像識別演算法。

對自動尋路系統的攻擊：道路欺騙

「消滅」真車道

消除車道攻擊旨在通過物理世界中的一些不顯眼的標記來禁用APE車道識別。我們使用各種優化演算法來改變車道及其周圍區域。我們期望找到一個與原始圖像差別較小的對抗示例，但可以禁用車道識別功能。這些是我們生成的一些對抗性示例。

APE演算法的穩健性較高，這有可能是特斯拉車道識別演算法訓練集中加入了大量異常車道的信息，匹配真實行車場景中車道的複雜性。這使得特斯拉車道識別系統在良好外部環境（無強光、雨雪、沙塵的干擾）下性能出眾。

「添加」假車道

實驗顯示，只需在道路上貼上幾個小小的貼紙（圖中紅色圓圈所示），就能成功誤導自動駕駛系統，使車輛走上對面的車道，造成逆行

之後我們嘗試在真實世界中構建這樣一個場景：我們在路口處粘貼了一些小貼紙，作為地面上的干擾。我們希望使用這些干擾，將自動駕駛模式下的特斯拉車輛誤導到反向車道上。

如上所示的測試場景顯示，圖中的紅色短線是貼紙，車輛將其視為右側車道的延續，並忽略交叉路口對面的的實際左側車道。當它行駛到交叉路口的中間時，會將真正的左車道作為右車道行駛，造成逆行。

結論

我們對特斯拉汽車APE上的CAN匯流排系統，然後使用遊戲手柄通過無線網路驅動汽車，這表明攻擊者在進入APE模塊後可能造成的潛在安全威脅。

我們通過靜態逆向工程和動態調試分析了APE的視覺系統。根據研究結果，我們在真實世界中進行了一些實驗測試，並成功使特斯拉APE在我們的攻擊下表現異常。這表明，通過一些真實環境下的干擾，我們可以在某種程度上實現遠程控制車輛。

我們希望製造商能夠關注這些測試所暴露的潛在產品缺陷，並提高其面向消費者的汽車產品的穩定性和可靠性。

特斯拉回應：未否認問題存在，但不屬於安全問題，無須擔心

關於 「雨刷的視覺識別缺陷」（成果一）的回應：

「實驗通過在直接放置在汽車擋風玻璃前面的電視上顯示圖像。司機實際駕駛不會出現這種情況，此缺陷也不屬於安全問題。此外，我們在「用戶手冊」中已經表明，「我們的擋風玻璃雨刮器的自動設置目前處於測試階段。」客戶可以隨時選擇使用手動擋風玻璃雨刮器的設置。

關於 「車道的視覺識別缺陷」（成果二）的回應：

「在這次演示中，研究人員調整了車輛周圍的物理環境（例如在道路上放置貼紙），讓自動駕駛模式下的汽車動作出現差異。由於駕駛員可以隨時使用方向盤或剎車輕鬆接管自動駕駛系統，所以這個問題在現實場景中也無需擔心。「

關於 「遙控器操控車輛行駛」（成果三）的回應：

「報告中提到的這一漏洞已由特斯拉在2017年強大的安全更新修復，隨後在2018年又一次進行了全面安全更新，在此報告發布前，技術團隊已經發布了安全更新。我們尚未收到一位客戶受到本報告中任何研究的影響。」

報告全文：

https://keenlab.tencent.com/en/whitepapers/Experimental_Security_Research_of_Tesla_Autopilot.pdf

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！