日本發布人工智慧研究倫理指針草案

人工智慧學家

黃枝銅

AIE 實驗室, AI頭條, 最新動態

導讀

人工智慧作為一項模擬人的技術，可以說是時下最熱的技術，也是目前除哲學之外爭議最大的學科，如果使用不當，引發的倫理問題可能比任何一項技術都會嚴重。我們需要明確了解分析人工智慧在具體領域內存在的潛在威脅，既讓它們發揮作用，又要確保它們能夠安全、友好、按照人類價值觀運轉。這就涉及到了政府監管層面的問題。

事實上，人工智慧倫理問題早就引起了人們的重視，最著名的就是阿西莫夫「機器人學的三大法則」：「第一法則：機器人不得傷害人類，或坐視人類受到傷害；第二法則：除非違背第一法則，機器人必須服從人類的命令；第三法則：在不違背第一及第二法則下，機器人必須保護自己」。近年來，隨著人工智慧技術的迅速發展，這個問題又引起了各界關注。2014年谷歌公司就提出設立倫理委員會，確保人工智慧機器人技術不被濫用。2015年，英國劍橋大學建有一個研究中心，致力於人工智慧未來並旨在影響其道德倫理髮展。同年特斯拉和SpaceX的CEO伊隆·馬斯克、Y Combinator董事長Sam Altman等人宣布出資10億美元成立非盈利性人工智慧（AI）研究機構OpenAI，關注人工智慧倫理問題。

社會對人工智慧倫理問題的關注引起了政府的的關注。據媒體日前報道，美國白宮第一個針對人工智慧的法律和監管問題開設的工作室白宮人工智慧工作室提出了一項核心議題：政府應該監管人工智慧嗎？這是白宮首次討論人工智慧監管問題。

而人工智慧尤其是機器人技術發達的日本，則在人工智慧監管層面走在了最前面。2014年12月，日本人工智慧學會就成立了「倫理委員會」，探討機器人、人工智慧與社會倫理觀的聯繫。據日媒報道，本月6日，日本人工智慧學會的倫理委員會就人工智慧(AI)研究匯總一份研究人員應該遵守的指針草案，提出要有益和平和防止惡意使用AI等。委員會將進一步聽取意見，計劃半年後出台最終指針。

該草案指出，AI研究將在政治、經濟等各領域發揮重大作用，也強調「存在無關故意與否，AI成為有害之物的可能性」。草案認為AI不應有損人類幸福，提出要對人類和平與安全作出貢獻等研究時應該尊重的十大項目。

草案規定無論直接還是間接，均不得基於加害意圖使用AI。在非故意施加了危害時，必修復損失。此外，草案要求研究人員在發現惡意使用AI時採取防止措施。

草案進一步指出AI也可能帶來新的貧富差距，寫明研究者必須盡全力促使人類能夠平等利用AI，並負有向社會解釋AI局限性和問題點的責任。

這個草案把人工智慧納入了社會規範的討論範圍之中，其實，人工智慧作為一項技術，像互聯網技術等一切技術一樣，是應該被規範的。

人工智慧學家Aitists

人工智慧學家是權威的前沿科技媒體和研究機構，2016年2月成立人工智慧與互聯網進化實驗室（AIE Lab)，重點研究互聯網，人工智慧，腦科學，虛擬現實，機器人，移動互聯網等領域的未來發展趨勢和重大科學問題。

長按上方二維碼關注微信號 Aitists

投稿郵箱：post@aitists.com

請您繼續閱讀更多來自 人工智慧學家 的精彩文章:

※日本奈良文化財研究所學術報告
※人類基因編輯研究報告全球發布 提出科學、倫理與監管基本原則
※北理工-昆士蘭新能源材料探索與研究雙邊論壇成功召開
※不準用在戰爭武器上 日本制定人工智慧研究者倫理
※醫藥企業研發支出會計處理案例研究
※華東理工大學等成功研發細胞代謝研究原創技術
※日本理化學研究所：戰時日本核計劃的承擔者
※中科院遺傳發育所「青年千人」陸發隆研究組副研究員/助理研究員/博士後招聘
※日本研究人員發明體外培養精子幹細胞技術
※商務部正式發布《研究報告》
※《文化遺產》刊發「日本藏中國民俗文獻與文物資料的 整理與研究」專題
※中山大學周文良教授課題組招聘上皮細胞生理病理研究專職科研人員及博士後
※人類調查研究報告
※香港中文大學道教文化研究中心公開招聘副研究員
※中國科學院動物研究所杜衛國研究組助理研究員、博士後招聘
※明茨伯格研究中的經理工作
※蘋果公司加強人工智慧領域的研究，開發晶元用於人工智慧
※「文本細讀與文學研究的推進」主題沙龍在中國社會科學院文學研究所召開
※泰安項目可行性研究報告 商業研究報告