【科科】打開黑箱

最近，AlphaGo與柯潔的圍棋大賽以3：0的結局落幕，人類與AI的未來再一次被推上了風口浪尖。很多人搬齣電影《終結者》中人類被機器人統治的恐怖情景並表示了深深的擔憂，也有人想起了霍金的預言，一百年後人工智慧將比人類更聰明，我們可能會面臨機器人的挑戰。

圖片來自網路

而事實上，這樣的擔憂並不是杞人憂天。如今十分流行的深度學習，基於人工神經網路進行學習決策，可以使人工智慧通過觀察行為、圖片等做出決策和判斷。這一領域被炒得火熱，如今已成為AI的主流研究方向，甚至被預言是人工智慧的未來。然而令人不安的是，人類並不清楚機器是如何做出決策的，深度學習乃至整個機器學習，還是一塊黑箱。雖然在機器應用中大多數時候不能解釋機器行為並不會帶來什麼影響，但可解釋性卻是決定人與機器未來關係的重要內容。

圖片來自網路

很多科學家正在努力打開這層黑箱，以保障人類能信任人工智慧做出的決策。

神經網路也並不是沒有弱點，研究表明，給大熊貓圖片加上噪點可使機器無法認出圖片中的事物，甚至會出現決策完全失誤的情況。比如下圖右邊的大熊貓就會被AI識別為長臂猿。

圖片來自：《神經網路很好騙》

那麼AI會取代人類嗎？這將不只是科幻小說和科幻電影中的情景，而是很多科學家現在就在考慮的未來。人工神經網路的靈感來源於人來神經網路，但相比於機器計算速度來說，生物計算功能真的相形見絀，為了更快的發展，也許真的有一天，我們會讓位於AI？

暑假該去補補《終結者》了

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！