吳恩達：我們忽略了AI帶來的更大問題，排擠就業

最近，筆者聯繫了17名來自不同領域的思想領袖，有AI專家、計算機工程師、機器人專家，也有物理學家和社會科學家。只問了一個簡單的問題：「對於人工智慧，我們應擔心到何種程度？」

大家並未達成共識。不論是對擔心的程度，還是這個問題的本質，答案跨度都十分之大。在有的專家看來，AI的危險性已十分緊迫；但更多專家認為，這種擔憂要麼被誇大了，要麼根本沒有必要。

以下是他們的回答。

不必杞人憂天

吳恩達（Andrew NG）

百度副總裁兼首席科學家

Coursera聯席主席、聯合創始人

斯坦福大學副教授

擔心「邪惡殺手」AI，就好比擔心火星上出現人口過剩。有朝一日也許會有這樣的問題，但現在連登上火星都還沒影呢。人們被這些不必要的炒作轉移了視線，從而忽略了AI帶來的更大問題：排擠就業。

塞巴斯蒂安·史朗（Sebastian Thrun）

斯坦福大學計算機科學教授

對我來說，人工智慧有著無限的吸引力，我一點也不擔心。AI會解放人類，我們不用再從事高度重複性的辦公室工作，從而擁有更多時間去發揮創造力。我已經迫不及待了。

史蒂芬·平克（Steven Pinker）

哈佛大學心理學教授

氣候變化、核武器、耐抗生素的病原體、新法西斯主義的政治運動，還有經濟自動化導致的工人失業，這些才是我們要擔心的事情。我們不用擔心的事情，就是人工智慧奴役人類。

瑪格麗特·瑪托諾斯

（Margaret Martonosi）

普林斯頓大學計算機科學教授

AI有望帶來巨大的社會效益。它將重塑醫藥、交通等生活中的方方面面。任何技術，只要能影響到生活中的各個方面，就需要得到政策層面的重視，比如如何發揮它的作用，如何加以約束。完全忽略AI的風險固然愚蠢，但面對科技，「威脅至上」的態度總是不可取的。

丹妮拉·魯斯（Daniela Rus）

麻省理工學院計算機科學與

人工智慧實驗室主任

AI是一種極為強大的工具，和其他工具一樣，其本質並無好壞，關鍵看我們怎麼用。通過收集和分析海洋與溫室氣體的無線監控數據，AI已經在幫助我們應對氣候變化這樣的問題。在AI的幫助下，我們得以分析海量病歷，創建個性化的醫療方案。AI還在普及教育，確保每一個孩子都有機會學到寶貴的工作與生活技能。

人們對AI心存恐懼與顧慮，也是情有可原。作為研究人員，我們有責任認清這些恐懼，並提供不同的視角和解決方案。我相信，未來，AI能促進人類與機器的合作，改善我們的生活。

布萊恩·卡普蘭（Bryan Caplan）

喬治梅森大學經濟學教授

要說可怕，設計AI的人也一樣可怕。與家養動物一樣，AI誕生的目的，就是服務於它的創造者。朝鮮若是掌控AI技術，後果會怎樣？聽著嚇人，可現在朝鮮手裡還握著遠程導彈呢，兩者並無太大的區別。電影《終結者》中AI攻擊人類的情形，在現實中純粹是杞人憂天。

安迪·尼倫（Andy Nealen）

紐約大學計算機科學教授

我有點擔心的是「中間階段」，比如說，自動駕駛汽車與人類司機共用道路時……一旦人類不再駕車，整體交通狀況將更加安全，由於人類失誤而釀成事故的情況將更為少見。

換言之，我擔心的是技術進步過程中的「成長之痛」，但這就是人的本質——探索並推進科技前沿。我的態度不是焦慮和擔憂，更多的是興奮和警醒。

勞倫斯·克勞斯（Lawrence Krauss）

亞利桑那州立大學教授

起源項目負責人

AI既令人畏懼，又讓人興奮。毫無疑問，隨著AI的持續發展，我們的生活方式將發生翻天覆地的變化。生活將因此改善，比如自動駕駛汽車，比如很多工作被代勞，這可以讓人類解放出來，去從事更有意義的活動。另一方面，它也可能導致大規模失業，還會為黑客入侵提供新的漏洞。高級的網路攻擊會使互聯網信息的可靠性下降，削弱國內與國際基礎設施。

儘管如此，好運總是青睞有準備的頭腦，因此，我們有必要探索一切可能性，包括好的和壞的，從而做好準備。因為，無論我們願意與否，那個未來始終將會降臨。

肖恩·卡羅爾（Sean Carroll）

加州理工學院宇宙學與物理學教授

AI有一種特殊屬性，它很容易讓你想到可怕的科幻電影場景，比如人工智慧接管了地球上所有的機器，奴役可憐的人類。這種可能性不是很大，不過，它倒是有可能獲得執行某種任務的能力，而它是如何執行的，背後的過程卻不為人所知……由此可見，意料之外的後果不可輕視。

仔細而徹底地思索這些潛在後果，以及如何預防，同時又不會阻礙人工智慧的進步，這才是正確的應對之道。

但是，要報以敬畏

尼克·博斯特羅姆（Nick Bostrom）

牛津大學人類未來研究所所長

向機器超級智能的過渡非同小可，出大問題也不無可能，我們應予以重視。這應該會促使數學和計算機科學界的頂尖人才專門去從事AI安全性和AI控制的研究。

喬安娜·布萊森（Joanna Bryson）

巴斯大學計算機科學教授

普林斯頓大學信息技術政策中心研究員

俄羅斯黑客攻擊，英國脫歐運動，美國總統大選，或是競選團隊基於選民的社交媒體信息，實施相應的操控，澆滅其投票積極性……如果AI在這些事件中起到作用，或是作為社會技術力量的一部分，導致了財富不平等的加劇和政治極化，就像19紀末、20世紀初兩場世界大戰和一場大蕭條的前奏——那我們就得小心了。

倒不是說我們應該恐慌，我想說的是，我們應該在這個課題上下大力氣進行研究，在摸索與治理的同時，走出這些險境。但願AI也能讓我們變得更聰明，幫助我們做到這一點。

斯圖爾特·羅素（Stuart Russell）

加州大學伯克利分校計算機科學教授

一個顯而易見的風險是，我們沒能正確地指定目標，導致不可取的行為出現，並在全球範圍內造成不可逆的負面後果。對這種「偶然性的價值錯位」問題，我們也許能找到恰當的解決方案，雖然執行起來，可能要非常嚴格才行。

至於最有可能出現的故障模式，我有兩種猜測。其一：越來越多的知識和專業技能都存儲於機器之內，並在機器間傳輸，人類沒有必要再學習那些艱深的東西，有動力去學習的人也越來越少，人類社會將日漸衰落。其二：人類失去對智能化惡意軟體的控制，抑或是，有人故意使用不安全的AI，以達到不可告人的目的。

AI可能會取代大量人工崗位

朱利安·圖吉利斯（Julian Togelius）

紐約大學計算機科學教授

我擔心的是，隨著技術應用到越來越多的崗位中，就業將受到何種程度的衝擊？（在我看來，AI與其他技術並無本質區別。）我們能否設計出新的職位——尤其是在服務業和政府體系中——以此適應變革？或者，我們是不是要付錢讓人賦閑在家？

泰勒·科文（Tyler Cowen）

喬治梅森大學經濟學教授

AI不會滅掉人類，也不會奴役人類。它會使一些崗位迅速消失，讓我們措手不及。白領也不會倖免。到最後，我們還是會適應過來，但重大技術變革的轉型過程通常不會一帆風順。

如何做好應對AI的準備

巴特·塞爾曼（Bart Selman）

康奈爾大學計算機科學教授

社會需要就一些問題做好準備。一個關鍵問題是，未來，當AI技術能夠應付相當一部分常規性工作，該如何應對就業大幅減少的局面？另外，早期AI技術若是有什麼需要我們擔心的，那也是「不夠智能」的問題，而不是「智能過頭」。

早期的自動化AI系統犯錯幾率很大，而且是多數人類不會犯的錯誤。因此，我們有必要通過全民教育，普及AI和機器學習的局限性，以及其中潛藏的偏見。

摩西·瓦迪（Moshe Vardi）

萊斯大學計算工程學教授

人工智慧有四個需要擔心的問題。其一，AI對勞動力市場的衝擊。技術進步已經給就業帶來重大衝擊，未來幾年，其影響還會不斷加大。其二，委派給AI系統的重要決定。人類該把哪些決定權握在手裡？哪些可以交付給機器？對此，我們應展開認真的討論。其三，致命的自動化武器系統。最後，「超級智能」問題，即人類無法控制機器。

前三個問題都已迫在眉睫，而超級智能的風險雖然屢見報端，卻並不十分緊迫。我們還有充足的時間去深入評估。

賈安·普利薩魯（Jaan Priisalu）

北約協同網路防禦中心高級研究員

前愛沙尼亞信息系統局局長

我們不能把提升AI技術水平視作非法行為。否則一旦有人打破規則，那麼相較於守法者而言，此人將擁有巨大的優勢。同時，此人也會被判違法。這種兩敗俱傷的局面並不可取。此外，我們也不應忽視AI技術水平的指數級提升。如果認識不到這一點，就意味著，在規則被重新制定時，我們就已經跟不上時代了。

在超級智能機器時代，我們就別指望能有良好的生存條件了。僥倖心理是靠不住的。我們也別想著要與AI決戰，這樣做很不明智，只會激發AI的攻擊性。最好的辦法也許是，主動塑造不斷改進的AI。教會它們如何與人類互利共存。

翻譯：雁行

來源：VOX

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！