谷歌成立外部監督委員會，六名專家監督AI，港科大吳德愷入選

新智元AI技術峰會今日開幕！

新智元於3月27日在北京泰富酒店舉辦「2019新智元AI技術峰會——智能雲?芯世界」，聚焦智能雲和AI晶元發展，重塑未來AI世界格局。

同時，新智元現場權威發布若干AI白皮書，聚焦產業鏈的創新活躍，助力中國在世界級的AI競爭中實現超越。

現場直播：

愛奇藝（全天）：

https://live.iqiyi.com/s/19rsj6q75j.html

頭條科技（上午）：

m.365yg.com/i6672243313506044680/

頭條科技（下午）：

m.365yg.com/i6672570058826550030/

新智元報道

來源：Google、TheVerge等

編輯：大明

【新智元導讀】自去年穀歌宣布「AI開發原則」以來，關於谷歌如何確保在研發活動中遵循這些原則一直是人們討論的焦點。近日，谷歌宣布成立新的委員會，專門監督谷歌確實遵循了這些準則。委員會成員全部來自谷歌之外，港科大計算機系教授吳德愷入選。

當地時間3月26日，谷歌在其官方博客上宣布成立一個新的外部顧問委員會，對谷歌利用AI技術的方式進行監督，以避免違反了去年夏天制定的關於利用和開發AI技術的道德準則。

該委員會由谷歌全球事務高級副總裁Kent Walker宣布成立，其成員包括一系列廣泛領域的專家，包括數學、計算機科學、工程學、哲學、公共政策、心理學，外交政策等。

該組織名為「先進技術外部顧問委員會」，谷歌似乎希望該機構作為一個獨立的監督機構，密切關注谷歌在現實世界中部署AI的方式，其中重點關注領域為面部識別和內建的機器學習訓練方法中的偏見問題。

Walker表示：「委員會將關注一些在我們的「AI原則」下出現的最複雜的挑戰，為我們的研究和工作提供多樣化的觀點。」

谷歌在官方博客上公布的委員會成員，其中包括一些與保守派聯繫密切的人士 。值得一提的是，香港科技大學計算機系教授吳德愷（De Kai）入選

關於委員會的具體成員，學術界以外的人可能不太熟悉這些人的名字。然而，其人員組成和門檻似乎是最高水平的，委員會成員中不乏曾履任總統行政職位的人士，也不乏在牛津大學、香港科技大學、加州大學伯克利分校等頂尖大學任教的學者。儘管如此，在委員會成員的選擇上，包括了Heritage Foundation主席Kay Coles James ，可能是為了拉近與共和黨的距離，影響與AI相關的立法。

對該委員會持批評態度一些人指出，James與一些保守派智庫機構聯繫密切，並在自己的Twitter簡介中支持反LGBTQ的言論：

谷歌方面沒有立即就James的反LBGTQ的立場和委員會成員的選拔過程發表評論。

監督委員會現華人面孔：港科大教授吳德愷入選

特別值得一提的是，谷歌此次公布的委員會名單里出現了一位華人面孔。入選者是香港科技大學計算機科學與工程系教授吳德愷（上圖中上排左三）。

吳德愷，香港科技大學計算機科學與工程系教授，伯克利國際計算機科學研究所傑出研究學者。主要研究領域包括基於統計/語料庫的自然語言處理; 機器翻譯、語言建模、語音識別、多語言技術、機器學習和知識管理等。

吳德愷於1984年獲得加州大學聖迭戈分校計算機工程學士學位，在加州大學伯克利分校獲得計算機科學博士學位，並曾在多倫多大學從事博士後研究，1992年進入香港大學，1995-1996年在哥倫比亞大學做訪問學者，1995年擔任貝爾實驗室研究員。

吳德愷曾任AI Journal副主編，機器翻譯和自然語言工程期刊編委會成員，還曾擔任EMNLP-2004聯合主席。

谷歌力避重蹈Maven風波覆轍，確保AI利用符合道德標準

去年，谷歌曾捲入了美國國防部無人機項目Maven的爭議。該項目涉及讓谷歌員工參與可能威脅人類生命的軍用AI技術開發，因此遭到了公司內部強烈的反對和外部輿論的猛烈批評。迫於壓力，谷歌決定在合同到期後不再繼續參與Maven項目。

谷歌還制定了一套新的指導方針，谷歌CEO Pichai稱為谷歌的「AI原則」，禁止該公司從事任何可能違反「國際公認的規範」或「廣泛接受的國際法和人權原則」的產品或技術研究。

去年，谷歌因參與和美軍方的Maven無人機項目遭到自家員工的強烈抗議

「我們認識到這種強大的技術在利用上也會出現同樣重要的問題。」Pichai當時寫道。 「AI技術的開發和利用將如何在未來的許多年內都對社會產生重大影響。作為人工智慧的領導者，我們有責任做到這一點。「谷歌希望自己的AI研究能夠」造福社會「，這通常意味著谷歌不會與政府簽署合同，或在明顯侵犯人權的領域或市場中開展業務。

谷歌的這些承諾亞馬遜和微軟的立場不同，亞馬遜和微軟都表示他們將繼續為美國政府工作。微軟已經獲得了一份價值4.8億美元的合同，為五角大樓提供HoloLens耳機，而亞馬遜則在繼續與美國執法機構合作，推廣Rekognition面部識別軟體。

參考鏈接：

https://www.blog.google/technology/ai/external-advisory-council-help-advance-responsible-development-ai/

https://www.theverge.com/2019/3/26/18282883/google-ai-principles-advisory-board-ethics-monitor-external-group

更多閱讀

【2019新智元 AI 技術峰會今日開幕！】

2019年3月27日，新智元再匯AI之力，在北京泰富酒店舉辦AI開年盛典——2019新智元AI技術峰會。峰會以「智能雲?芯世界「為主題，聚焦智能雲和AI晶元的發展，重塑未來AI世界格局。

同時，新智元將在峰會現場權威發布若干AI白皮書，聚焦產業鏈的創新活躍，評述AI獨角獸影響力，助力中國在世界級的AI競爭中實現超越。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！