人工智慧界四大專家：我們的機器智商還不及老鼠

【摘要】我們距離與人類同樣智能的機器還很遠——我們的機器甚至與老鼠的智能相比都差得很遠，我們大約只見證了AI實力的5%。

| 科|技 | 雜|談 |

中國通信行業第一自媒體

本文來源：雷鋒網

你如何教導機器？

Facebook的人工智慧研究總監YannLeCun：如何為機器制定教學計劃。

人工智慧的傳統定義是，機器以通常我們認為屬於人類的方式，來執行任務和解決問題。有一些任務我們覺得很簡單——識別照片中的物體、駕駛汽車——可是這些任務對於AI來說特別困難。機器可以在棋盤上超越人類，可是那些機器的程序從本質上來說是體力活，機器受到程序的限制。一個30美元的設備就能在棋類遊戲上超越我們，可是它沒法做——也沒法學會做——其他所有事情。

這就是為什麼我們需要機器學習。給機器展示幾百張貓的照片，機器就會訓練自己的演算法，學會更好地識別照片中的貓。機器學習是所有大型互聯網公司的基礎，讓公司可以進行搜索結果排名，為特定用戶選擇最相關的內容和建議。

深度學習是以人類大腦為基礎，要複雜得多。與機器學習不同的是，深度學習可以教會機器忽略聲音或圖像中所有不重要的信息——呈現一種能夠反映無限多樣性的層級性世界觀。正是深度學習為我們帶來了無人車、語音識別、以及有時候比放射學專家更擅長識別腫瘤的醫療分析系統。

雖然有了這些值得讚歎的進步，我們距離與人類同樣智能的機器還很遠——我們的機器甚至與老鼠的智能相比都差得很遠，我們大約只見證了AI實力的5%。

是時候重新思考就業嗎?

百度首席科學家吳恩達：AI將如何改變未來的就業。

如今在美國，駕駛貨車是最常見的職業之一。幾百萬人在東西海岸之間運輸著貨物，以此維持生計。然而，很快所有這些就業機會都將消失。無人車將替代人類司機在路面行駛，並且更快、更安全、更高效。有這麼好的事，還有哪家公司會選擇更昂貴、更容易犯錯的人類司機呢?

類似的勞動力變革在歷史上也有先例。在工業革命前，90%的美國人在農場工作。蒸汽技術和製造業的興起讓許多人失業了，但是也創造了很多新的工作機會——還創造了很多當時人們無法想像得到的新領域。這個排山倒海般的巨變是在兩個世紀的過程中慢慢展開的，當時，美國有足夠時間來適應變化。農民們直到退休都在種田，而他們的下一代去上學，成為了電工、工廠領班、房地產商和食品化學家。

而卡車司機們就沒有這麼幸運了。他們的職業，還有另外幾百萬人的職業，很快就會過時。在智能機器時代，數量眾多的人們將沒有工作的能力，或者有被淘汰的風險。我們可能會見證20世紀30年代經濟危機以來最大的失業大潮。

1933年，富蘭克林·羅斯福的新政幫助了大量失業人口，並且幫助重啟了美國經濟。更重要的是，它幫助美國從一個農業社會轉變為一個工業社會。羅斯福的「公共工程署」僱傭了失業者來建造橋樑和新的高速公路，改善了美國的交通基礎建設。這些改善為當時非常先進的新技術應用奠定了基礎：汽車。

我們需要有一個針對21世紀的新政，針對人工智慧會帶來的新就業機會打造培訓項目。我們需要重新訓練卡車司機和辦公室助理，來打造未來的數據分析師、旅行規劃師等等其他我們現在還不知道自己有需求的職業。美國南北戰爭前(19世紀60年代前)的農民，絕對無法想像自己的兒子會當電工，而現在，我們也很難說AI在未來會創造什麼樣的工作機會。不過我們清楚的是，必須採取革命性的措施，才能完成從工業社會到智能機器時代的轉變。

AI：和人類一樣?

智能機器如何做到模仿自己的「造物主」。

要實現人類級別的人工智慧，我們下一步要做的就是創造智能的——但不是自動的——機器。你汽車中的AI系統可以讓你安全到家，但是沒法在你回家後自動選擇下一個目的地。我們將以此為基礎，加入基本的動機以及情感和道德價值。如果我們創造出學習能力像人類大腦一樣強的機器，應該不難想像機器會「繼承」一些類似人類的特點——還有弱點。但是在我看來，「終結者」預言極其不可能。這需要一個精心策劃的、意圖不軌的個體，特意將惡意企圖寫入智能機器，沒有哪個機構——更別說哪個公司或者個人——可以憑一己之力實現人類等級的AI。打造智能機器是我們這個時代最大的科學挑戰之一，需要各個國家、公司、實驗室和學術團體之間共同分享智慧。AI的進步最有可能是漸進的，而且是開放的。——YannLeCun。

如何成為機器的主人？

牛津大學人類未來研究所的創始總監Nick Bostrom：AI的生存危機。（由DanielaHernandez採訪。）

能說說你正在進行的工作嗎?

我們對於「控制問題」相關的技術挑戰非常感興趣。你能確保AI做的事情，一定是符合程序員初衷的嗎?我們還對強智能AI帶來的經濟、政治和社會問題感興趣。什麼樣的政治體制最能夠幫助我們轉型進入智能機器時代?我們如何確保不同的利益相關者聯合起來，從事可以帶來積極結果的事情?

你進行了很多關於生存危機的研究。如果用最直白的語言向一個5歲小孩解釋，你會如何描述呢?

我會說，這是可以永遠毀滅人類未來的科技。對於年紀更大一點的聽眾，我會說有人類滅絕的可能，或者可能永遠摧毀我們在未來實現價值的可能性。

你認為什麼樣的策略會幫助減輕人工智慧的潛在生存危機?

研究控制問題會有所幫助。當我們搞明白如何讓機器變得真正智能，我們應該能有一些概念，知道如何控制這樣的機器，如何進行工程設計，從而讓機器與人類站在同一陣營，符合人類價值觀，不具有破壞性。這涉及一系列的技術挑戰，其中一些我們現在已經開始研究了。

你能舉個例子嗎?

對於控制問題，不同的人思考著不同的方法。一種方式是研究價值觀學習。我們希望自己打造的AI最終可以分享我們的價值觀，這樣AI可以作為我們人類意志的延伸。我們沒法把自己重視的一切寫在一個長長的列表然後塞給AI。更好的辦法，是利用AI自己的智能來學習我們的價值觀和喜歡。

每一個人的價值觀都不同。我們如何決定機器該學習什麼樣的價值觀?

這是一個很大、很複雜的問題：價值觀之間的巨大衝突以及利益之間的巨大衝突。從某種意義上說，這是最大的一個未解難題。如果你對於技術進步比較樂觀，你會覺得最終我們總會知道怎樣可以做到越來越多的事情。

我們會以前所未有的程度征服自然。但是有一項科技無法自動解決的問題，就是衝突和戰爭。最黑暗的宏觀畫面是，人們有可能利用技術，這種超越自然的力量、這種知識，專門用來傷害和破壞他人。這個問題沒法自動解決。

我們如何應對這種壓力?

對於這個問題我沒有簡單的答案。我不認為存在一個簡單的技術解決方案。

一個自動編程的代理能否從我們為其設定的控制系統中解放出來?人類已經一直在這樣做了，從某種意義上來說，當我們出於自私行事的時候。

保守的假設是，強人工智慧可以自我編程，可以改變自己的價值觀，而且可以打破任何我們為其設定的束縛。那樣的話，我們的目標就會是對其進行設計，讓機器選擇不使用那些能力來傷害人類。如果AI希望為人類服務，它會對一個殺害人類的行為分配很低的預期實效。我們有理由這樣認為，如果你以恰當的方式設定目標系統，最終的決策標準就能保持下來。

讓我們把大腦變得更好

PayPal及FoundersFund聯合創始人LukeNosek：在人工大腦出現前，我們需要訓練自己的大腦。

今年早些時候，韓國圍棋冠軍李世石與谷歌的人工智慧程序AlphaGo進行了一場歷史性的大戰。李世石名下有18項世界冠軍頭銜，但是在今年3月19日，他敗給了軟體。

如今的高性能計算前所未有的強大。不過距離強人工智慧系統的出現還有很遠的距離，機器還遠未達到人類大腦的能力。我們還沒能理解強人工智慧(有時候稱為AGI)會如何運作，會為我們的生活和經濟帶來什麼影響。經常有人將這種影響的廣度比作核技術的出現，從史蒂芬·霍金、到伊隆·馬斯克、到AlphaGo的創造者都建議，我們應該小心前進。

核武器的比喻很帶感，但是也挺恰當。核武器是強AI最糟糕的情況。相反，樂觀的預計又亮瞎人眼(普遍的經濟繁榮、消滅所有疾病)，樂觀與恐懼都可能讓我們產生偏見。

強AI可以幫助幾十億人過上更安全、更健康、更快樂的生活。但是要設計這樣的機器，工程師需要對於智能人類和機器所面對的複雜的社會、神經和經濟現實有更好的理解力，比如今任何人都更好的理解力。如果我們對現有的大腦進行升級，我們能更好地來理解、打造強AI，並與之共存。

我們可以將人類智能的提升分為三個階段。第一個階段，使用類似谷歌搜索的科技來增強和補充人類大腦，這已經在進行中了。我們可以比較一下：1996年一個持有圖書館借書證的五歲小孩，和2016年一個打開了谷歌搜索主頁的五歲小孩——只要敲幾下鍵盤，就能獲得非常多的人類知識。

如果第一階段需要用科技來補充大腦，那麼第二階段就要直接放大大腦。適應性學習軟體將教育個人化，對課程進行實時調整。如果學生表現出色，教學速度就會加快。如果學生學習比較困難，軟體也會放慢節奏、轉變教學風格或者告訴老師需要指導。適應性學習和在線教育有可能意味著一刀切教育的終結。融合增強現實和虛擬現實技術，也可以以我們無法想像的方式放大智能。

智能提升的第三階段需要從根本上改變大腦。經顱磁刺激(TMS)是一項美國食品藥品監督管理局(FDA)批准的無創治療方法，治療中會將一個電磁線圈應用在頭上。TMS目前被用於治療創傷後應激障礙(PTSD)、自閉症和抗藥性的嚴重抑鬱症。例如加州大腦治療中心以及肯塔基州路易斯維爾大學這樣的機構中，樣本數量不大，而且影響的持續時間還未知，但是出現好轉的個體比例很高——在比例最高的試驗中，200個較高功能的自閉症病人中有90%實現了好轉。早期跡象顯示，TMS可能對於看起來沒有相關性的大量神經學癥狀會有療效。如果我們能對受傷的的或者非神經正常的大腦產生積極影響，也許不久後，我們就能提升健康大腦內的聯接，實現普遍提升智能。

強AI已經出現在地平線上，但是目前來說，我們只有自己的大腦可以用。提升我們自己的智能，是創造未來智能機器並與之共存的第一步。

你沒法讓機器學會常識？

至少現在還不能。這仍然是真正人工智慧最大的障礙。

預測性學習也叫作無監督學習，是動物和人類理解世界的首要模式。我們可以看看這個句子：「約翰拿起他的電話並離開房間。」經驗告訴你，電話可能是移動模式的，約翰可能是從門裡走出去的。而機器缺少對於世界常態及其限制的良好表徵，也許永遠沒法推測出以上的信息。機器中的預測性學習——一個非常重要但是還有待發展的特徵——會讓AI不需要人類監督，可以自主學習，就像小孩子學習一樣。但是，要讓機器學會常識不只是一個技術問題，這是一個可能要花上幾十年的科學和數學挑戰。在那之前，我們的機器沒法成為真正智能的機器。——YannLeCun。

科技雜談已經開通文章評論

請您繼續閱讀更多來自 科技雜談 的精彩文章:

※大家都在談人工智慧，但機器人企業反應很冷淡
※機器人與人工智慧
※機器人世界的「黑科技」 人工智慧和消費者已經沒有距離
※普京當面質問俄科技大佬：人工智慧機器人「吃掉我們」還多久？
※人工智慧的偉大進展，機器人外科醫生和廚師
※國家千人計劃專家張建偉教授：人工智慧在醫療機器人領域的應用
※人工智慧輕科普：《賢二機器僧漫遊人工智慧》
※歐洲瘋搶人工智慧大寶劍機器人，我們還遠嗎？
※淺析：人工智慧與機器學習
※不想人類變成一群邪惡機器人領主的奴隸？人工智慧專家給你支招
※人工智慧加上強大火力機器人 人類會被機器人統治？
※馬云：現在人工智慧很蠢 人和機器應該各司其職
※大寶機器人舞台劇：一本人工智慧商用「教科書」
※機智雲助力智能家居 讓機器更懂你
※超驗駭客：人工智慧機器人控制世界
※搜狗武健：從機器人看人工智慧
※這些人工智慧機器人很「迪士尼」
※史上最全智伴智能機器人開箱，爸媽孩子都喜歡的機器人真的玩上癮！
※俄網紅機器人逃跑 人工智慧真的有智能嗎？