為什麼人工智慧領域格外強調安全性？

編者按：人工智慧真的火了起來，人類在擔心機器是否代會替人工的同時，也開始擔心人工智慧會不會傷害人類，本文作者大衛·莫爾納為我們講述其中的道理。

人工智慧進化的下一個階段是大眾化。 也就是說讓人工智慧為各種企業提供服務，而不僅僅局限於微軟、谷歌或蘋果這樣的科技公司。 對於身處不同行業、規模不一的企業而言，機遇是讓人工智慧來改變經營業務的手段。

當代人工智慧技術在語音識別和圖像標記等領域取得了魔法一樣的進步，但還有很多工作尚待完成。考慮一下你的生意，還有你和你的團隊要做的資源分配決策吧。你該如何改進決策、優化資源消耗？你會節約多少成本？人工智慧的下一個階段是為每個人提供這些問題的答案。

力量越大，責任越重

人工智慧的大眾化意味著公司的首席安全官（CSO）將負責管理一個高度可用的人工智慧安全基礎設施，確保能夠在最後時刻終止人工智慧。 高度可用的基礎設施是必要的，因為如果人工智慧可以被隨意阻止、關閉，業務將受到損害。而同樣重要的是安全性，因為如果人工智慧接收了錯誤的數據（不管是意外故障還是入侵），都有可能做出糟糕的決定。

人工智慧對企業的影響改變了人們的行事方法——最重要的是如何在CSO層面處理操作。 CSO現在負責保證業務使用的人工智慧的基礎架構完整性，就像著名電影《蜘蛛俠》中的那句台詞：「力量越大，責任越重。」當然，網路和軟體安全領域也會隨著人工智慧的改變而改頭換面。最關鍵的是，人工智慧的廣泛應用意味著CSO將成為業務的核心角色。

模糊技術採用到雲技術

雲計算是人工智慧大眾化的推動因素，因為雲服務將人工智慧技術興旺發展所需要的三個要素整合了起來：大計算、大數據和大人才。而在過去兩年，我親自完成了這些步驟。

在微軟，我們開發了一項名為白盒模糊的技術，這項技術能夠讓機器測試軟體的問題，並尋找價值百萬美元的安全漏洞。我們的技術在Windows 7開發過程中發現了三分之一的關於安全關鍵的模糊錯誤——它需要大量的計算和專業知識，並且難以按照以往的模式進行擴展。 經驗敦促我們構建起雲服務，使每個人都能使用模糊技術。

現在，微軟把這一項目命名為斯普林菲爾德計劃。它使任何人都可以使用人工智慧尋找嚴重的錯誤。這個項目是一個雲服務支持人工智慧的例子，它將網路安全所需的數據、人才和計算整合到了一起。

為人工智慧支持的業務建立合法性

人工智慧基礎設施的維護需要網路安全保障，而且還必須保護我們理解不深的一些的方面。 我們都聽說過「無用輸入，無用輸出」的說法，但你想過這句話同樣適用於負責業務的人工智慧嗎？ 你建立過污染數據安全策略（它能確保攻擊者不會利用篡改過的數據欺騙人工智慧並讓它推薦錯誤的決策）嗎？ 如果你根據錯誤的數據做出了錯誤的決策，那麼，你需要多長時間才能發現？

數據污染已經是網路安全世界中的一個關注點。 例如，反惡意軟體根據多重來源提交的標記和樣本進行工作，而反惡意軟體供應商必須保持警惕，防止攻擊者愚弄這一系統。

雖然我們的方法已經包含了對人工智慧系統的保護，但戰鬥從未結束。 試想，你在經營打車服務，而所有的司機在某起事件後同時關閉了他們的手機。 接下來你就會認識到，負責匹配乘客與司機的人工智慧系統可能會認為道路上缺乏單位，它們因此得出缺少車輛的結論。然後，人工智慧系統就會採取行動，比如因為供應減少和需求增加而提高乘車價格。CSO面臨的挑戰是如何檢測數據污染，及通過調整基於被污染的數據做出的決策來保護業務，並及時解決問題並且預防未來的併發症。

最後，客戶需要理解並接受企業的決策。為了確保人工智慧業務的合法性，CSO必須深刻理解人工智慧是如何「思考」的，而不是僅僅是維護人工智慧的基礎設施。CSO的重要性將隨著這些挑戰而擴大到一個前所未有的程度。CSO將負責幫助業務領導者推廣並向世人解釋人工智慧。 這不會是個容易的過程，但它會使得安全成為每一個行業的核心。

翻譯來自：蟲洞翻翻 譯者ID：鉲-252