離開Uber後的 Marcus：人工智慧遠比你想像的要難

選自Technically Brooklyn

作者：April Joyner

機器之心編譯

參與：李澤南、黃小天

Gary Marcus 曾是 Uber 人工智慧實驗室的負責人，他在去年 12 月把自己的創業公司 Geometric Intelligence 賣給 Uber，並幫助 Uber 組建了人工智慧研究團隊。僅僅過去四個月，Marcus 就宣布從 Uber 離職。作為紐約大學科學家， Gary Marcus 是人工智慧領域的一名反叛者。

Gary Marcus 說，不是機器有多智能，而是在何種程度上我們可以控制它們。（圖片來自 Flickr 用戶 normalityrelief）

正如媒體所渲染的，為了讓紐約成為人工智慧領域的「首都」城市，紐約大學 Tandon 學院正在不斷加大投入的步伐。來自 NYU Future Labs 孵化器的初創公司 Geometric Intelligence 就是成果之一，這家公司已在該領域取得了巨大飛躍：去年 12 月，Uber 收購了 Geometric Intelligence，其創始人 Gary Marcus 也加入了 Uber，並為這家公司組建了人工智慧研究與開發實驗室。

基於這些成就，你也許會認為 Marcus，這名紐約大學的心理學教授，是一位發掘人工智慧潛力的主流領袖之一。相反，他卻不斷地給媒體界關於人工智慧宏大敘事的炒作潑冷水。

IBM Watson 可能已經在 Jeopardy! 上打敗了 Ken Jennings。但在 Marcus 看來，人工智慧系統並不比一個五年級的小學生聰明：它無法抽象思考，也不能自然地交流。

Marcus 上個月離開了 Uber，目前正在制定自己的下一步計劃；同時，關於其產業的所有炒作，他有很多話要說。

Technical Brooklyn 以如何合理髮展機器智能為主題與 Marcus 展開了討論。

TB（Technical Brooklyn）：雖然其他人也承認通用人工智慧還很遙遠，但總體情緒比你更樂觀，你覺得自己有一點反叛嗎？

Gary Marcus：是的，我的意思是，採取反叛的視角毫無問題。我的觀點，對於僅代表了我們真正需要達成的東西的一部分，人們總是非常有熱情。很明顯，不同的人強調不同的事情。我的研究領域是語言習得，其核心問題是一個兩三歲的小孩如何真正學習理解世界並交談。

我覺得機器在這些事情上邁不開步子。它們也取得了進步，比如識別語音，但是那不關乎語言理解，僅僅是一種轉錄。

TB：對於通過調節方法而更快地實現通用人工智慧的做法，你怎麼看？

Gary Marcus：我在該領域呼籲的方法是更加認真地對待認知科學，尤其是發展心理學和發展認知科學。我認為人類孩童能做很多機器無法做到的事情，比如從少量信息中獲得推斷，學習非常複雜的語言。他們似乎有很多天生的內在結構幫助其開始——至少在我的觀點看來是這樣。當下機器學習領域的主導方法是找出沒有很多先驗知識的統計近似值，我不認為其在語言和日常常識推理等方面比孩童更具優勢。

TB：在 AI Summit 的演講中，你曾提到自動駕駛汽車的進展緩慢，你認為這一領域在近期是否樂觀？

Gary Marcus：毫無疑問，自動駕駛汽車最終會變得足夠安全可靠，基本代替人類駕駛員的位置。但我認為目前的發展還沒有人們想像的那麼快。我認為人類距離自動駕駛並不是一兩年，而是十年左右的距離。

問題在於現實環境中存在的大量非常規情況（edge case）。

訓練神經網路在路況良好的高速公路中學會駕駛是很容易的一件事。但這並不意味著它們同時就能夠應付那些非常規路況了，比如一輛在路口左轉的卡車（就像特斯拉「自動駕駛死亡事件」，註：在美國國家公路交通安全管理局最近的報告中，特斯拉洗清了罪責）。所以我認為自動駕駛汽車距離真正可靠還有很長一段距離。

TB：人工智慧擁有無限潛力，但能力也帶來了潛在的隱患。其中一個就是人工智慧偏見，一些智能軟體（如財務系統）可能會放大人口統計學的偏差。你所倡導的類腦方法能否規避這些潛在風險？

Gary Marcus：在消除偏見的問題上，我們沒有靈丹妙藥，每個演算法都有偏差。如果人腦中的某個機制被理解並泛化，它或許對醫學非常有用，但這並不能解決人工智慧的所有問題。如果嚴謹地看，所有系統都存在偏見，這是由自然決定的，無論是人還是機器都會存在偏見。

TB：在減少偏見方面，你認為人工智慧比人類具有更高效的潛力嗎？

Gary Marcus：如果你知曉偏見的存在，那麼你就可以減少它。所以我認為計算機是減少偏見的有效工具，但這並不等價於偏見可以被簡單地消滅。被我們忽視的偏見或許永遠不會被消除，我認為在這裡沒有靈丹妙藥。

TB：除了像機器學習偏見這樣已經出現過的問題以外，有關人工智慧末日的預測還有很多不同的版本。但看起來你對此不以為然？

Gary Marcus：我不認為事情將會是他們想像的那樣，很多人都把人工智慧的危險與超級智能畫上等號。但我得說問題並不出在機器智能化的程度上；而是有關機器掌握了多少權力，它們在何種程度上直接掌控電網、股票市場等等。在這些方面，即使人工智慧還處在初級階段，仍有某些風險。

在這裡，我們可以類比人類的青少年，他們或許不是最聰明的人，在情感上也沒有發展完備，但是他們的力量卻不可忽視。所以我們或許需要在某種程度上擔心「青少年智能機器」的不穩定性：例如擁有強大的認知能力，倫理能力卻受到限制。

TB：最後一個問題，你目前的研究方向是什麼？

Gary Marcus：我對一系列問題都很感興趣，其中一個當然是通用人工智慧——如何讓計算機從很少數據中學到知識，另外還有探究大腦運行的機制。我認為在這兩個方向上還有很多工作要做，而我正在選擇下一步要發展的方向。

神經認知+人工智慧，Gary Marcus 還想分享更多！

「認真地對待認知科學，尤其是發展心理學和發展認知科學。」在機器之心 GMIS 2017 全球機器智能峰會上，這位對人工智慧發展有不同思考的人將會為我們帶來更多技術和研究方面的精彩分享。

2017 全球機器智能峰會（GMIS 2017）是由機器之心主辦的關注全球人工智慧及相關領域的行業盛會，將於 5 月 27 日至 28 日在北京 898 創新空間舉行。

本次大會將邀請海內外眾多嘉賓及機構，將權威、系統地介紹機器智能相關技術的前沿研究，探討如何將技術轉化成產品和應用等問題，這些嘉賓包括加州大學伯克利分校人工智慧中心創始人兼計算機科學專業教授 Stuart Russell、LSTM 之父兼 DalleMolle 人工智慧研究所副主任 Jürgen Schmidhuber、香港中文大學教授兼第四範式聯合創始人楊強在內的眾多人工智慧領域大咖。

精彩的主題演講、首次多平台直播的人機對戰及本次大會特設的智能機器展覽會（Intelligence Machine Exhibition, 簡稱 IME），均可以幫助觀眾近距離地體驗前沿人工智慧技術與現代消費生活交互融合。

有關 GMIS 2017 大會的更多亮點，我們將持續為大家揭曉展現。在機器智能時代，機器之心誠邀人工智慧從業者及愛好者參會。獲取大會詳情及購票信息