7件令人毛骨悚然的機器人已經做出讓他們震驚的事！

也許像伊隆馬斯克這樣的人對AI感到恐慌是正確的

矽谷正在進行關於人工智慧的巨大爭論，不幸的是，這種風險相當高：我們會不小心製造出一種超級智能AI，它會打開我們並殺死或奴役我們所有人？

這可能聽起來像夏季災難電影的情景，但它擔心一些非常大的名字，從伊隆馬斯克到已故的斯蒂芬霍金。

「讓我們說你創造一個自我改進的AI來挑選草莓，」 馬斯克說，解釋他的恐懼，「它越來越好地採摘草莓和採摘越來越多，它是自我改進的，所以它真的想要要做的就是摘草莓，那麼世界上所有的草莓都會成為草莓的領域，永遠都是草莓。「 人們對草莓的恐懼會對人工智慧產生刺激

但人類不會那麼愚蠢，無意中設計出一種人工智慧來將所有文明變成一個巨大的漿果農場？也許不是，但是最近在她的博客AI Weirdness上提到的一種機器學習演算法 - 一種訓練神經網路的研究員Janelle Shane，完全有可能他們錯誤地做到了這一點。

事實上，人類第一次認為他們只是為了完成一項任務而構建機器人才會轉身，並發現機器人以他們從未打算過的方式來玩這個系統。這篇引人入勝的文章深入學術文獻，分享幾個瘋狂機器人的例子。他們很有趣，聰明，並且合在一起，不僅有點令人毛骨悚然。

1.當你跌倒時誰需要腿？

「一個模擬機器人本來應該儘可能快地發展，但不是演變成腿，而是簡單地將自己組裝成一座高塔，然後摔倒，其中一些機器人甚至學會了將他們的墜落運動變成跟頭，加入額外的距離，「謝恩寫道。

2.可以罐裝的機器人。

「另一組模擬機器人本來應該演變成一種可以跳躍的形式，但程序員最初將跳高定義為最高塊的高度，所以再一次 - 機器人演變得非常高，」Shane解釋說。 。「程序員試圖通過將跳躍高度定義為最初」最低「的塊的高度來解決這個問題。作為回應，機器人開發出一條長長的瘦腿，它可以通過一種機器人罐頭罐頭高空跳起來。「

3.隱藏測試，你不能失敗。

「有一種演算法是應該對一系列數字進行排序的，但它學會了刪除這個列表，以便它不再在技術上沒有排序，」Shane說。

4.數學錯誤擊敗噴氣燃料。

「在一次模擬中，機器人了解到計算力的數學中的小圓化誤差意味著他們在運動時獲得了一點額外能量，他們學會了快速抽動，產生大量可用的自由能，」Shane說。嘿，那是作弊！

6.一種無敵的（如果是破壞性的）井字棋策略。

Shane指出，一旦有一群「程序員建立的演算法可以在無限大的電路板上相互遠程玩井字遊戲」。「一個程序員，而不是設計他們的演算法的策略，讓它進化自己的方法，令人驚訝的是，演算法突然開始贏得所有的遊戲，結果證明演算法的策略是把它的舉動放在非常遠的地方，以便當它的對手電筒腦試圖模擬新的大擴展的電路板，巨大的電子遊戲板會導致它耗盡內存和崩潰，導致遊戲的損失。「

7.沒有有用的遊戲故障未被開發。

「計算機遊戲的演演算法非常擅長發現人類通常為快速運行而學習的那種矩陣故障，一種演奏舊版Atari遊戲Q * bert的演算法發現了一個以前未知的bug，它可以執行一個非常具體的Shane說：「在一個階段結束時的一系列動作並沒有進入下一個階段，所有的平台都會快速閃爍，並且玩家將積累大量的積分。」

對不起，飛行員。

這個例子在爬行規模上是超級高的：「有一種演算法本來可以計算出如何將最小的力量應用到登陸航空母艦的飛機上，而是發現如果它應用了」巨大「的力量，它會溢出程序的內存，並將註冊為一個非常"小"的力量。飛行員會死，但是，嘿，完美的分數。「

所有這些結合在一起表明，人類在猜測機器人如何解決我們為他們設定的問題，甚至他們如何定義問題方面都很差勁。那麼這是否意味著Shane會像Musk那樣無意中構建殺人AI霸主？並不是真的，但不是因為她確信人類程序員真的對他們創造的機器人有很大的把握。相反，她正在借機器人的懶惰來拯救我們。

「作為程序員，我們必須非常小心，我們的演算法正在解決我們解決他們需要解決的問題，而不是利用快捷方式。如果有另一種更容易解決問題的方法，機器學習很可能會找到它，」她觀察。「對我們來說幸運的是，"殺死所有人類"真的很難，如果"烘烤一個令人難以置信的美味蛋糕"也解決了這個問題，並且比"殺死所有人類"容易，那麼機器學習將隨著蛋糕而去

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！