倫理嵌入：人工智慧奇點後人類自保之途？
「如果沒有在倫理方面作好準備，人類將來創造出的就可能是怪物。」近日，在由中科院學部科學道德建設委員會主辦，學部科學規範與倫理研究支撐中心、福建省科協共同承辦，《科學與社會》編輯部協辦的「人工智慧：在效率和安全中尋求統一」2017科技倫理研討會上，北京大學信息科學技術學院教授查紅彬說。
隨著基於深度學習的AlphaGo連續戰勝多位人類圍棋名將，人工智慧將對人類社會產生何種影響，以及人類是否存在被人工智慧取代的風險等涉及人工智慧倫理的討論便從未停歇過。
然而，在查紅彬看來，AlphaGo事實上還是在環境已知、規則化的封閉環境中取得的研究成果，而未來關於人工智慧的研究對象應該是未知、非規則化環境中的機器人。
中科院科技戰略諮詢研究院研究員李真真表示，應從兩個維度看待人工智慧的發展，即人工智慧應用帶來社會智能化的過程、人工智慧系統自身的發展及其引發的問題。
「智能化的過程令社會發生了變化，從社會生態視角來看，人工智慧發展帶來了人機關係的核心問題。」李真真說。
事實上，當下人工智慧的發展已經帶來了諸多倫理挑戰，比如是否會導致大規模失業、是否會帶來個人隱私與社會安全的隱患等。
不過，與會專家更關注的是「奇點」到來後，人類將如何自處？
據查紅彬介紹，人工智慧的技術奇點是指人工智慧超過人類智力極限的時間點，「此後世界的發展將會超出人類的理解範疇」。
依據庫茲韋爾的「加速循環規則」，技術的力量正以指數級的速度迅速增長，技術奇點將於2045年到來。這無疑會增加人類的緊迫感，但科學家也表示，對此並非無計可施。
據浙江大學預言與認知研究中心教授廖備水介紹，他們正在考慮將倫理嵌入到人工智慧系統中。在他看來，當下人工主體的探討並沒有涉及社會層面的內容，而規範主體應當是人工主體與社會規範和倫理的結合。
廖備水表示，他們通過數學模型處理各種不一致情境中的推理，同時可實現不同利益攸關方的求同存異。這樣便可「為解釋自主智能系統的決策提供一種自然而形象的途徑」。
與會專家對探討人工智慧發展的倫理框架態度積極，同時肯定了其發展對人類社會帶來的益處。
上海交通大學計算機科學與工程系教授呂寶糧表示，無創的可穿戴腦機交互系統可實現對人、動物在自然場景下的情緒識別和調控。「如特殊崗位的極端情緒和情感監控以及抑鬱症的檢測量化等都可以實現。」
會上，中科院院士裴鋼特別提醒，現在的倫理體系多是西方主導的倫理，這應當引起中國科學家的注意。他建議，中國科學家應加快探討相應倫理規則的步伐，在國際社會上發出自己的聲音。
來源：中國科學報
※拿什麼拯救你，「火熱」的晶元
※蛋白酶光學探針與熒光成像分析研究獲進展
※研究揭示帕米爾人群的源流歷史
※樹種分布遷移研究取得新進展
※植物「長個」的「神奇魔法」
TAG:中科院之聲 |