微軟CEO：防止AI做壞事需設定自毀開關

知識 07-02

網易科技訊 7月1日消息，據國外媒體Quartz報道，微軟CEO薩蒂亞-納德拉談到了他對人工智慧的看法：AI在幫助人類實現效率最大化的同時，還需呵護人類的自尊心、保護人類的隱私。但是為了預防機器人做意想不到的壞事，人類需要為AI設置「自毀開關」。

機器人革命的徵兆若隱若現，伊隆-馬斯克等人和一些知名科學家十分關注機器人發展將對人類帶來的影響。他們的觀點是，我們應認真考慮與人工智慧共處意味著什麼，他們認為，人工智慧很輕易就會超越人類的智力。

微軟CEO薩蒂亞-納德拉在美國知名網路雜誌Slate發表了一篇專欄文章，文中他提出了對人工智慧的10點看法。其實納德拉正在撰寫的一本書中也談到人工智慧。

以下是他的觀點概要：

1. AI必須用以協助人類。納德拉援引了科幻小說作家艾薩克-阿西莫夫的機器人三大定律。這些定律的核心內容是機器人不應傷害人類。納德拉的提議更為深入：機器人的程序設定應是積極幫助人類。他寫道，機器人應該是「協同機器人，或co-bot。」

2.AI必須是「透明」的。人類必須透徹理解機器人。他表示，「機器人將獲得對人類的一些認識，人類也必須了解機器人。」

3.AI必須最大限度地提高效能，同時不傷害人類的自尊心。技術和AI應推動多樣化以及人類之間的互通互聯，而不是造成人類相互疏遠——從歷史來看，很不幸的是，彼此疏離正是人類所擅長的。

4.AI應該保護人類隱私，不能予以曝光。

5.「AI需設定問責演算法，這樣人類能夠避免機器人造成意想不到的傷害。」也就是說，AI需要設置「自毀開關(kill switch)」，以預防機器人做了意想不到的壞事。

6.必須防止AI產生偏見，AI應代表每個人的意願，而不是某一群體的意願。

7.為了推動人工智慧的正常發展，人類必須具備的四點特質中第一點是擁有同感能力。納德拉指出，要創造出能夠真正理解人類的機器人，人類首先需確保能夠彼此理解他人的「想法和感受。」

8.我們還需要投資教育，開發和資助培訓項目，以確保AI的潛在益處更容易為人類所享有。納德拉舉例，「機動織機在1810年就被發明出來，但經歷了35年才對服裝業造成變革性影響，因為當時訓練有素的技工數量不足，無法滿足需求。」

9.人類需要保持創造力，這是人類擁有的特質之一。而機器將能夠深化人類創造成果的應用，這也是許多AI研究者的探討領域。

10.保留判斷權和承擔責任。「我們或許願意接受電腦做出的診斷結果或法律決定，」納德拉寫道，「但我們將依舊指望人類為結果承擔最終責任。」(靈越)

請您繼續閱讀更多來自 安卓網 的精彩文章:
TAG:安卓網 |

您可能感興趣

微軟CEO：防止AI做壞事需設定 自毀開關