人工機器人，不排斥毀滅人類，你了解其中奧秘嗎？

人工機器人，不排斥毀滅人類，你了解其中奧秘嗎？

前段時間，一個叫Sophia的超模擬機器人上了電視節目，對各種問題對答如流，表情豐富，把所有人都給驚到了。她大概是世界上最像人類的機器人了，可以辨識記憶人臉，有超強學習和理解能力，甚至可以和人有眼神交流。

但是，她說的這句話，卻讓人不寒而慄，細思恐極！

隨著應用領域與複雜度不斷拓展，人工智慧也變得越來越強大。AI（Artificial Intelligence人工智慧）已經進入到一些簡單的決策當中，比如誰應該入獄，誰應該獲得貸款等等。未來AI可能會在自動駕駛汽車上做出攸關生命的抉擇，比如在一場不可避免的車禍中，決定到底哪個司機有最佳的生存幾率。

然而，人類通常不知道自己創造的這些AI在想什麼。

當研究人員開始透過「學習」訓練機器，將經驗轉化為模擬神經網路的系統，產生出的結果不是代碼，而是不可讀、數百萬甚至數十億的人造神經元。

多數研究人員都同意，認識AI是一項迫切的挑戰。如果我們不知道人造思維如何運作，又該如何確定它所持的偏見或預測它的錯誤呢？

軟體工程師Tracy Chou，在公司內專門負責機器學習項目，他認為AI發展中很大的問題在於，多數人都把AI或機器學習想得過於「中立」，「多數人都不了解的是，是人類設計了這些AI模型，也是人類選擇要用什麼數據來訓練機器。」

和人類不同的是，我們不能直接詢問機器「為什麼這麼做？」儘管AI在限定的環境條件下能表現十分出色，但談到內省（introspection）的能力，AI的程度可能與蟑螂差不多。

人工機器人，不排斥毀滅人類，你了解其中奧秘嗎？

當我們用人工智慧取代人類決策者時，我們如何保證他們不偏離人類預期的「軌道」？我們更不知道，未來更加智能的機器人都要「摧毀人類」時，人類將如何面對自己所造出的這一切！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！