腦機結合會阻止機器人崛起？

前言

Tesla首席執行官和OpenAI創始人Elon Musk近期建議人類可以通過與機器結合，成為半機器人來避免人類的存在價值因機器人的崛起而受到影響。

然而，目前僅有的基於軟體的人工智慧和深度學習技術軟體讓人們對這一主張的合理性提出了嚴重懷疑。這種懷疑不僅是在於硬體的限制，也與人類大腦在人機結合中將扮演的角色有關。

Musk的觀點直截了當：大腦和計算機之間足夠先進的介面，可以使人類更好地利用諸如機器學習和深度學習的技術，從而極大地增強自身能力。

但是交換是雙向的。對目前演算法存在缺陷的地方，比如針對語境來做決策的問題，腦機介面可以通過使人類彌補其不足，從而讓機器學習演算法更好的執行。

這個想法本身並不新鮮。在20世紀中期，J. C. R. Licklider和其他人就考慮過「人機共生」的可能性和影響。

事實：進展緩慢

一個原因是硬體的發展

IPod的創始人Tony Fadell說「硬體之所以稱為硬體是因為它很就是個難以解決的「硬石頭」。並且創建能與有機系統對接的硬體更難。

與我們在諸如《黑客帝國》這種科幻電影中看到的腦機介面圖像相比，目前的技術還僅在基礎階段。

即使假設硬體挑戰最終得到解決，仍還有更大的問題。過去十年深度學習研究所取得的難以置信的進步，也告訴了我們還有一些根本的挑戰需要克服。首先最基本的問題在於，我們仍然難以理解和歸納這些複雜的神經網路是如何運作的。

我們相信像計算器這樣簡單的技術，因為我們知道，它永遠會嚴格地按照我們的想法去做。錯誤只有在人們輸值錯誤時造成。

腦機增強

實現的願景是什麼？

腦機增強的一個願景是使我們成為算數超人。那麼只需想想這個演算法，我們就會立即收到來自「輔助」機器的答案，而無需掏出計算器或智能手機來運算。

然而，當我們試圖接入諸如深度學習這種機器學習技術提供的更高級的功能時，事情就會變得非常棘手。

大多數機器學習系統都存在一個臭名昭著的問題，即一個人或者對象的外觀出現任何細微變化都可能導致系統對它正在看的東西進行災難性地錯誤分類。將一個人物的圖片做出小於百分之一的更改，機器系統可能突然認為它在看的不再是人，而是輛自行車了。

此圖像表面如何通過在圖像中添加一些細微的干擾項來愚弄AI圖像識別

恐怖分子或罪犯可能利用機器的不同漏洞來逃過安全檢查，這是在線安全中已經存在的問題。人類雖然自身存在限制，但卻不會那麼容易被這類漏洞愚弄。

儘管機器學習技術有不感情用事的聲譽，但可能會擁有和人類一樣的偏見，並在在提供了相應數據時甚至可以表現出種族主義。這種不可預測性對人類如何植入機器，更重要的是如何信任機器有重大影響。

相信我

我是一個機器人

信任也是雙向的。人類的思維是一個複雜的，高度動態的活動。在上述安保的例子里，即使有了足夠先進的腦機介面，機器如何才能知道哪些是應該忽略的人類偏見呢？畢竟，無意識的偏見是每個人都面臨的挑戰。如果該技術更基於此幫助你應聘面試者，後果又會怎樣呢？

通過看世界各地的國防力量如何試圖解決在人與自主系統交互日益頻繁的戰場上的人機信任，我們可以在一定程度上預覽人機介面的信任問題。

對於可信賴的自主系統的研究涉及人類對機器的信任和機器對人類的信任。

機器人戰士的道德決策就如同與腦機介面的運行結果：機器人戰士需要忽略人類發出的違法命令，做出一個符合道德準則的決定；腦機界面也需要解析人的想法，同時過濾掉人類思維中的無意識偏見。

在上面提到的防禦場景中，人類大腦的邏輯角色在於檢查決策是否道德。但是，當人類的大腦被植入了一台能通過人類無法理解的方式利用大規模數據對大腦進行干擾的機器時，人類又怎樣進行邏輯判斷呢？

從長遠來看

會有什麼問題？

問題在於人類是否需要以及如何參與越來越多地由機器進行抉擇的過程。很快，機器將作出人類無法做到的醫療決定。那時人類大腦在這個過程中又能發揮什麼作用？

在某些情況下，自動化和人力工作者的結合可以增加就業機會，但這種效應可能會很短暫。這類機器人和自動系統會不斷改進，最終可能不再需要由所它們創造的工作。

類似地，儘管人們最初在腦機系統中扮演著「重要」角色，但隨著技術的不斷改進，最終或許沒有多少理由讓人類繼續涉足其中人。

通過將人類大腦與人工大腦相結合來讓人類在社會進程中持有一席之地的想法是很吸引人的。但還需要看看人類大腦究竟能做出什麼貢獻，特別是當技術發展遠遠超過人類大腦時。

來源：科學雜誌

量化投資實戰課程——尖端量化精英薈萃寬潮六大實力巨匠傾力分享

丁鵬（中國量化投資學會理事長）

聶軍（凱思博香港總經理）

劉宏（好菜鳥投資董事長）

吳帆（ AIMA中國區總經理）

張弘（深圳盈富總經理）

林健武（量化總監）

2017年8月18—8月20日 深圳

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！