「強人工智慧」的倫理困境：假如有一天你愛上了AI，咋辦？

【編者按】8月25日至27日，由太和智庫發起主辦，每日經濟新聞戰略合作的首屆「太和文明論壇」在北京舉行。在人工智慧分論壇的討論中，多位專家、學者和從業人員均認為，隨著人工智慧（AI）的快速發展，基於人工智慧的「萬物互聯」時代正在到來，包括無人駕駛、智能家居、自動診療、智慧城市等。人工智慧的應用似乎呈現一片欣欣向榮的景象。

然而，人工智慧勢不可擋的發展趨勢，也給人們帶來了一連串隱憂，人工智慧未來會無所不能？人工智慧是否會挑戰人類倫理，衝擊社會制度，威脅人類生存甚至取代人類？人類到底該何去何從？針對上述疑問，《每日經濟新聞》記者從上述與會人士的發言中總結出一些精彩片段，並採訪了部分業內人士，為讀者打開AI的一扇窗。

每經記者 張斯 實習記者 劉春山 每經編輯 盧祥勇

在科幻影片裡面，人工智慧機器人不止一次地實現了自我意識覺醒。以AI為主題的美劇《西部世界》中，男主角雖然知道心愛之人是機器人，依然義無反顧的愛上了它，而機器人也找尋到了「在這個世界唯一的真實的東西」——自由意識。

在關於人工智慧的一系列憂慮中，倫理問題是最主要的一個。在首屆「太和文明論壇」舉行期間，多位行業人士表示，從目前技術來看，人工智慧尚未面臨失控的局面，人工智慧所呈現出來的感情是虛假的。科學家還沒有研究清晰人類自我意識為何物，實現機器人真正的自我意識很遙遠也很渺茫。

帶來新的情感和隱私問題

新技術的出現一次次實現人類能力的外延，但是歷史上從未有某一技術直接和人類大腦進行競爭。

科學家把「強人工智慧」定義為出現真正有自主意識、且可確證其主體資格的「智能」，而不是AlphaGo這樣僅僅比機械計算髮展了更多層次的推理能力和學習能力的程序。與強人工智慧所對應的，是遵循人類計算機演算法的弱人工智慧。

在微軟亞太研發集團副總裁商容看來，人工智慧需要有理性，也需要有感性，涉及感性就會涉及到倫理和隱私等問題。而聯想創投董事總經理王光熙則認為，未來人工智慧或許具備情感，這就牽扯到未來人類智慧和機器智能之間的界限在哪，或者是界限會被抹去。

當人工智慧具備了情感，就會與人類出現戀人、親人等關係，這將拷問現代倫理規範。信幀機器人創始人賀江濤認為，在實際工作當中，曾遇到人類對機器人產生感情的事件。「公司旗下的一款娛樂機器人，其視頻在網路上有億次多的點擊量，視頻中這個機器人的頭部被拍打了一下，一位母親在看直播後就憤怒了，她說這是我女兒公司做的機器人，你怎麼能打他呢？」這時候賀江濤發現，人類對這台機器人產生了感情，與這台機器人有了某些聯繫。

除了情感，人工智慧還涉及到隱私安全問題。之前發生過美國兩夫妻吵架，而家中智能音響在察覺環境信息之後，做了自動報警處理事件。這其中，智能音響一直在「竊聽」夫妻的對話，以做出合適的應對，很顯然其反饋結果並非這對夫妻所願。

擁有自我意識還很遙遠

在今年6月份，一份論文透露了這樣一項實驗：Facebook的研究人員希望通過訓練一對聊天機器人，讓它帶著「目的」和人類對話。研究人員發現，人工智慧甚至能夠對不想要的東西偽裝出興趣。雖然後來Facebook進行了澄清，這也不得不啟發我們去思考人工智慧會不會有失控的那一天？

微軟亞洲研究院副院長潘天佑在接受《每日經濟新聞》記者專訪時表示，當前人工智慧的發展不見得失控，失控聽起來很恐怖。作為一名計算機科技工作者，經常向人解釋真實的科學和科幻電影的差距還非常大。

「很多時候，我們覺得人工智慧的某些應用呈現出好像有感情、好像有情商，其實這個仍然是虛擬的。比如語音聊天，它從互聯網上面學習很多人類的聊天方式，它回答的某一句話，可能讓人覺得有感情。但這個感情，還是通過機器學習而實現的，還沒有自我意識的發生。」潘天佑說道，我們自己還沒有探討清楚人類的意識是什麼？怎麼去設計出一個東西有感情呢？

根據專家的觀點，無論當前人工智慧系統如何模仿人腦「神經網路」，對話、行動等方面如何像人，只要人類心智現象的最終解釋沒有取得突破性進展，關於人工智慧是否逼近人類的設問就缺少必要的前提。

從發展程度上來說，目前我們發展的還是弱人工智慧，強人工智慧技術是否能實現尚未可知。潘天佑對《每日經濟新聞》記者表示，未來的事情沒有人真的知道，從現在的狀態來看，人工智慧的感情還僅僅是虛擬的，不用擔心人工智慧可以做到像人類一樣擁有自我意識、個人感情。

《互聯網進化論》作者、計算機博士劉鋒對《每日經濟新聞》記者表示，如果人工智慧被看作與人類同等地位的智慧生命體，它與人類社會的關係存在倫理道德問題。如果人工智慧本質上與菜刀一樣屬於工具，那麼工具本身並不存在倫理問題。

但有一點不可否認，人工智慧已經悄然影響著人類的思維方式。正如太和智庫副理事長兼秘書長伊迪所說，人工智慧在某一個領域或者是某種程度上來說已經超越了人類大腦，可以做到人所不能的事情，對人類的思維方式產生影響。比如，人類思考問題的方式主要為因果關係，未來人工智慧包括大數據的發展更強調相關性。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！