艾倫研究所CEO：人工智慧不會消滅人類

【AI世代編者按】伊隆·馬斯克（Elon Musk）正計劃開發全自動駕駛汽車。這樣的汽車需要強大的人工智慧技術，實時閱讀周圍複雜的駕駛環境，並作出反應。人工智慧正取得令人驚喜的成果。例如上周，AlphaGo的開發團隊報告稱，他們的軟體已經可以了解，如何像倫敦本地人一樣在錯綜複雜的倫敦地鐵里找到路。甚至美國白宮也開始關注人工智慧。幾天前，白宮發布了一份研究報告，推動美國迎接人工智慧的未來。

然而，計算機科學家、艾倫研究所CEO奧林·艾奇奧尼（Oren Etzioni）表示，在人們可以將世界交給計算機，或是擔心計算機對人類的威脅之前，我們還有很長的路要走。過去幾年，艾奇奧尼專註於研究並解決人工智慧的基本問題，他目前擔任艾倫人工智慧研究所CEO。

2014年，微軟聯合創始人保羅·艾倫（Paul Allen）與他人共同創立了這一研究所（AI2），專註於研究人工智慧可能給人類帶來的幫助。該研究所並不認為，人工智慧會像好萊塢大片中所說的一樣，對人類的生存造成威脅。

微軟聯合創始人保羅·艾倫

艾倫研究所的項目或許並不那麼有趣。這其中包括基於人工智慧、用於學術研究的搜索引擎Semantic Scholar。不過，他們也會關注推理等人工智慧的其他領域。用艾奇奧尼的話來說，這將使人工智慧技術不再被局限於「狹窄的領域，只能做好某件事」。

在近期於紐約舉行的人工智慧大會上，《科學美國人》對艾奇奧尼進行了專訪。在採訪中，他對企業過度誇大人工智慧，尤其是深度學習技術當前能力的做法表示了擔憂。深度學習技術利用神經網路，模擬人腦的神經系統去處理大規模數據集，從而讓計算機自主學會某些特定的技能，例如識別模式，以及照片中的特定對象。

艾奇奧尼還談到，為何10歲兒童也要比DeepMind的AlphaGo更智能，以及人類為何需要開發人工智慧「衛士」程序，確保其他人工智慧系統不會對人類構成危險。

艾倫研究所CEO奧林·艾奇奧尼

以下是專訪主要內容：

問：關於開發人工智慧技術的最佳方式，研究人員之間是否存在分歧？

艾奇奧尼：我們在語音識別、無人駕駛汽車等領域取得了真正的發展，當然還有AlphaGo。這些都是真正的技術成就。然而，我們要如何進行表述？深度學習很明顯是極具價值的技術，但我們在開發人工智慧的過程中還有許多其他問題要解決，例如推理（這意味著機器可以理解2+2=4，而不僅僅是根據規則去計算），以及掌握背景知識去建立上下文環境。自然語言理解是另一個案例。即使我們已有AlphaGo，我們還無法開發出一種軟體，閱讀並充分理解某個文章段落，或是簡單的句子。

問：有觀點認為，關於人工智慧，深度學習是「我們掌握的最佳手段」。這是否是對深度學習技術的不看好？

艾奇奧尼：如果你掌握了大量已被標記的數據，讓計算機知道這些意味著什麼，而如果你又掌握了大量計算資源，並試圖從這些數據中找尋模式，那麼我們已經看到，深度學習是不可擊敗的。就AlphaGo而言，這一系統處理過3000萬種棋型，從而令人工智慧知道在不同情況下什麼樣的下法是最優的。其他一些情況也很類似，例如醫院的放射影像。如果我們可以把許多影像圖片標記為存在腫瘤或不存在腫瘤，那麼深度學習軟體就可以自行判斷，未知圖片上是否存在腫瘤。利用深度學習，可以做的有很多。這是一種領先的技術。

問：那麼問題是什麼？

艾奇奧尼：問題在於，智能有很多種，不僅僅是你用大數據去訓練一個程序。可以想像標準化考試，例如SAT考試或大學入學考試。軟體不可能去觀察此前的3000萬次被標記為「成功」或「不成功」的考試，從而拿下最高分。這是個更複雜，需要互動學習的過程。智能性也包括通過建議、對話內容，以及書本的學習能力。儘管深度學習取得了極大的進展，但我們仍未能開發出一種軟體，讓其實現10歲兒童可以做到的事，即拿起一本書，閱讀其中某個章節，隨後回答關於這部分內容的問題。

問：那麼，人工智慧要如何才能通過標準化考試？

艾奇奧尼：在艾倫研究所，我們已開展了這方面的研究項目。去年，我們宣布了一筆5萬美元的獎金。任何人如果能開發出人工智慧軟體，使其通過8年級的標準科學考試，那麼將可以贏得這筆獎金。來自全球的超過780個團隊參加了這一項目，嘗試了幾個月時間，但沒有任何團隊開發的人工智慧系統能達到60分，即使這只是8年級考試中的多選題。這表明了我們的現狀。

問：頂級人工智慧系統正確回答問題的能力如何？

艾奇奧尼：通常情況下，語言中會包含線索。最前大的系統會利用來自科學教材和其他公開來源的信息，並通過強大的信息檢索技術去進行搜索，為每道多選題尋找最佳答案。例如，以下的最佳導電材料是什麼？選項包括，塑料湯匙、木頭叉子，以及鐵棒。程序非常善於用公式。它們可以發現在許多文件里，電力或導電往往與鐵關聯在一起，而不會與塑料關聯在一起。因此在某些情況下，程序能走捷徑，發現答案。這與孩子們有根據的猜測類似。由於沒有任何系統達到60分，我可以認為，這些程序只是使用統計學方法進行有根據的猜測，而不是用推理方式去思考問題。

問：開發AlphaGo的DeepMind團隊目前開發了人工智慧程序，利用外部記憶系統突破了深度學習。在開發更接近人腦的人工智慧方面，他們的工作將帶來什麼樣的影響？

艾奇奧尼：在推動深度神經網路發展的過程中，DeepMind仍是領先者。在人工智慧推理能力發展的過程中，這一貢獻是重要的一步，但也是很小的一步，即通過圖譜結構將事實聯繫在一起，例如對地鐵系統的繪圖。當前最強大的軟體可以輕鬆完成同樣的任務，但這裡的成就在於，神經網路可以學習如何根據案例完成任務。這配得上一篇《自然》論文。整體來看，這是DeepMind的一大步，但卻是人類的一小步。

問：那麼是否有可能將不同技術，例如深度學習、機器視覺和記憶結合在一起，開發出更完整的人工智慧系統？

艾奇奧尼：這是個極具吸引力的概念。當我還在華盛頓大學擔任教授時，我在這方面有許多研究，而基本概念在於，利用互聯網作為人工智慧系統的資料庫。我們開發了一項被稱作開放信息提取的技術，編目了50億個網頁，從中提取語句，試圖將其變為可以指導機器操作的知識。機器具備超自然的能力，掃描網頁，獲得所有語句。問題在於，語句位於文本或圖片中。作為人類，我們的大腦具備標記能力，將操作與推理匹配在一起，而計算機科學家尚未發現其中的奧秘。這種通用資料庫及人工智慧界面只存在於科幻小說中，因為我們尚未確定，如何將文字和圖像轉化成機器可理解的形式，就像人類的理解一樣。

問：你曾經提到，人腦水平的人工智慧至少還要25年的發展。你對人腦水平人工智慧的定義是什麼，為什麼提出這樣的時間點？

艾奇奧尼：對自然語言的真正理解，人類智能的廣度和普適性，我們既可以學會下圍棋也知道如何過馬路，以及清楚如何做出美食，這樣的多樣性正是人類智能的特點。我們目前所做的只是開發範圍很窄的人工智慧，只能在某一方面做得很好。關於如何得出這樣的時間點，我曾詢問過「人工智慧發展協會」的同事，我們何時能開發出像人類一樣聰明的計算機系統。沒有人認為，這樣的系統能在10年內開發出來；有67%的人認為，時間會是未來25年或更長；而25%的人認為這樣的系統永遠不可能實現。他們是否有可能搞錯？是的。不過你應該去相信哪些人？是行業發展的參與者，還是好萊塢？

問：為什麼有許多備受尊重的科學家和工程師警告稱，人工智慧將威脅人類？

艾奇奧尼：我很難理解，史蒂芬·霍金（Stephen Hawking）和伊隆·馬斯克（Elon Musk）等人討論普適性人工智慧的動機。我的猜測是，討論黑洞可能已經顯得很枯燥，這是個進展緩慢的問題。我可以說的是，當他們和比爾·蓋茨（Bill Gates）等人討論人工智慧的威脅，或是災難性後果時，他們總是會加入修飾語，即這「最終」會發生，或「能夠」發生。我對此表示同意。但我們討論的或許是數千年之後的未來，甚至永遠不會到來的未來。人工智慧是否有可能給人類帶來末日？完全有這樣的可能。但我並不認為，這種著眼長期的討論應當影響我們對實際問題的關注，例如人工智慧和就業，以及人工智慧和武器系統。而「最終」和「理論上」這類修飾語在意思的傳達中常常會丟失。

問：考慮到人工智慧的缺陷，人們是否應當擔心汽車廠商發展無人駕駛的努力？

艾奇奧尼：我並不熱衷於沒有方向盤和剎車踏板的無人駕駛汽車。在熟悉關於計算機視覺和人工智慧的情況之後，我對此並不感冒。然而，我支持融合的系統，例如這樣的系統在你打瞌睡時可以幫你自動剎車。人工司機和自動化系統的結合將會比單獨某一方更安全。這並不簡單。引入新科技，將其集成至人們工作和生活的方式並不容易。但我不能斷言，最佳解決方案就是讓汽車自行去做一切的操作。

問：谷歌、Facebook和其他知名科技公司啟動了「人工智慧造福人類和社會合作夥伴」項目，探索人工智慧研究過程中的道德倫理和社會學最佳行為。技術的進步是否足以帶來有意義的對話？

艾奇奧尼：全球領先的科技公司走到了一起，思考這類問題，這是很好的想法。我認為，他們這樣做是為了回應外界的關切，即人工智慧是否會接管世界。許多擔憂都是過分誇大的。即使我們有了無人駕駛汽車，也不會出現100輛無人駕駛汽車聚集在一起，說「讓我們去佔領白宮」。馬斯克等人討論的威脅還要幾十年到幾個世紀才可能出現。然而，我們正面臨一些現實問題：自動化、數字技術和人工智慧整體將影響就業情況，無論這是因為機器人還是其他什麼，而這是真正的問題。無人駕駛汽車和卡車將極大的改善安全性，但它們也將影響到很多以開車謀生的勞動者。另一個問題在於人工智慧的歧視性。如果人工智慧技術去處理貸款或信用卡申請，它們是會以完全合法的方式去做，還是會以符合道德標準的方式去做？

問：你要如何保證，人工智慧程序的行為符合法律和道德？

艾奇奧尼：如果你是一家銀行，利用軟體程序去處理貸款，那麼你無法躲在它背後。簡單地說，這個決定是計算機做出的，這並不是介面。即使不使用種族或性別作為變數，計算機程序也可能會出現歧視行為。由於程序可以接觸到許多變數和統計數據，它們可能會發現，在郵政編碼和其他變數之間存在相關性，進而以這樣的變數去替代種族或性別。如果程序使用這些替代變數來影響決策，那麼就會是個問題，而人工很難去探測或追蹤。因此我們的建議是開發人工智慧「衛士」。這樣的人工智慧系統可以監控並分析以人工智慧為基礎的貸款處理程序的行為，確保其符合法律，在發展中合乎道德倫理。

問：目前人工智慧衛士是否存在？

艾奇奧尼：我們已經向研究者社區發出呼籲，推動這類技術的研究和開發。我認為，目前可能已有少量的研究，但現階段這還只是我們的目標。我們希望，關於人工智慧衛士的概念能澄清好萊塢渲染的人工智慧的形象，例如「終結者」，即技術是惡魔，是冷冰冰的力量。（編譯/陳樺）

TAG:今日特賣 |

※人工智慧究竟會以何種方式消滅人類
※黨報：人工智慧未來會最終消滅人類嗎？
※艾滋病新療法，科學家利用 CRISPR 基因編輯技術成功消滅所有 HIV 病毒
※最新研究：基因編輯技術CRISPR可消滅活物體內的HIV
※霍金預言：外星人未來肯定會消滅全部人類
※未來世界科技將朝著幾個方面發展？人類可能被強人工智慧消滅？
※霍金再次發警告：人工智慧可能消滅人類 應立即停止
※霍金預言：幫助人類消滅外星入侵者的 只有機械人
※人工智慧是「消滅」還是「臣服」人類？霍金是這樣說的
※人工智慧會消滅人類？但首先會降低大國間發生戰爭的可能性
※消滅重心逆轉 消滅SLICE
※機器人將怎樣消滅人類？
※動漫+CG+真人 手游《消滅都市》聯動MV解禁
※霍金 外星人現身地球為消滅人類！
※消滅工作但又創造工作的 AI 時代，有一種職業叫 AI 交互設計師
※專家警告核武器將讓「人類世」變更加危險：可能消滅人類
※胡郁：自然宇宙 VS 數字宇宙，AI 消滅超級馬太效應｜新智元AI年度人物
※劉強東：人工智慧將消滅窮人 我們這代實現共同富裕
※徹底消滅艾滋病？科學家在HIV疫苗研究上取得突破