OpenAI的現實文本生成人工智慧引發道德問題

由埃隆.馬斯克創立的人工智慧研究機構OpenAI開發了一種人工智慧，可以生成迄今為止最真實的文本段落。這是該人工智慧撰寫的一段文字摘錄，這段文字中探討了發現了一種獨角獸，當然，內容是假的：

這位科學家將這種生物種群命名為Ovid獨角獸，這主要是因為它們有獨特的角。這些有四個角的、銀白色的獨角獸此前並不為科學界所知。

現在，在經過了將近兩個世紀之後，最終揭開了引發這種奇怪現象的神秘面紗。

該人工智慧非常引人注目，因為它設法在多個段落上形成一致的對話而不會出現重複錯誤或偏離主題。雖然結果令人印象深刻，但它們完全符合當前的研究進展。

與之前的大多數研究不同，OpenAI決定對這款人工智慧保密，因為它可能會被濫用。儘管該團隊提供了技術論文，但他們並未發布培訓代碼、數據集或人工智慧模型。

你為什麼應該關心

GPT-2是我們最接近於實現會話式人工智慧的一款人工智慧。雖然會話式人工智慧遠未出現，由該技術支持的聊天機器人可以通過聊天，給醫生提供建議，為準備自殺的人提供建議，改進翻譯系統並改善跨應用程序的語音識別。

儘管OpenAI承認這些潛在的好處，但它也承認發布該技術的潛在風險。濫用可能包括在線冒充他人，產生誤導新聞標題，在社交媒體上自動化發送虛假帖子。

但我認為，即使沒有這種人工智慧，這些惡意應用程序已經成為可能。已經存在著可以用於這些目的的其他公共模型。因此，我認為不發布此代碼對社區更有害，因為A）它為開放式研究開了一個不好的先例，B）阻止公司改進其服務，C）不必要地炒作這些結果，D）可能引發普通大眾對人工智慧不必要的恐懼。

理解人工智慧開源文化

開源文化促進與更廣泛的社區共享代碼、數據和資源。今天的人工智慧之所以變成一種可能，是因為谷歌、Facebook之類的公司免費提供了他們的人工智慧構建軟體。研究人員們還可以自由地發布他們的代碼， A）這是一種允許其他人驗證並重複他們的結果的方法，而且B）讓軟體工程師們可以使用他們的軟體。事實上，今天你使用的絕大部分的網站和應用程序有80%以上可能都是在開放源代碼、免費代碼的基礎上構建的。

具有諷刺意味的是，OpenAI的新立場違背了它的使命。OpenAI「旨在與其他機構和研究人員自由合作，向公眾開放其專利和研究。」也許像「OpenAI（有時）」這樣的新名稱可能更吻合其新的使命。它的新立場違背了開源的一般精神，這種精神有助於推動人工智慧研究以極快的速度發展。

絕大多數人工智慧代碼都是開源的。雖然技術論文和代碼不足以讓高級人工智慧系統運行，但是任何擁有技術知識和計算資源的人都可以下載代碼來生成虛假的奧巴馬語音，製作最近以40萬美元以上的價格出售的人工智慧藝術品，或者培訓自駕車汽車。這包括由領先的人工智慧實驗室——Facebook 人工智慧研究（FAIR）、Google Brain、Google Deepmind和OpenAI發布的代碼。

但OpenAI選擇將這個模型保密，這促使社區質疑其道德準則。雖然我認為OpenAI的立場過於誇張，但它促使研究界討論新人工智慧的道德含義。至少，它應該迫使研究人員批評對其技術的、各種潛在的濫用。雖然它可能不會改變研究結果，但它可以迫使社區想出最小化濫用的方法，甚至想出檢測它的對策。

人工智慧的優點和缺點

媒體喜歡關注人工智慧的缺點，因為終結者式的敘述會產生大量的網路流量。但是，我們很少關注人工智慧已經使我們的生活變得更美好的地方。

人工智慧幫助醫生改善對各種癌症的檢測。它可以幫助科學家開發新葯、尋找外星生命、實現文本翻譯、降低數據中心的能源使用、檢測欺詐、阻止人口販運，並通過智能手錶挽救生命。有影響力的人工智慧應用的列表太實在是太長了，無法在這裡盡述，但是你可以明白這種情況了。

OpenAI將該模型保密的決定確實讓壞人更難以使用這些模型進行宣傳或試圖影響公眾輿論。但是，這不太可能產生重大影響。擁有貨幣資源的實體可以與熟練的研究人員簽訂合同，重建這一模型，然後收集數據並在昂貴的GPU上進行訓練。雖然這樣的努力可能花費至少20萬美元以上，但OpenAI的立場不太可能阻止壞人們採取這一選擇。

立足長遠，解決人工智慧的使用問題

從大的人工智慧失敗中可以清楚地看出，社區必須制定行為準則以幫助最大限度地減少濫用。然而，對研究成果保密為社區開創了一個不好的先例。按照這種邏輯，英偉達應該開始控制GPU銷售，就像洛克希德.馬丁控制軍用飛機的銷售一樣。谷歌和Facebook應該將他們的深度學習框架——Tensorflow和Pytorch深藏不露，以防止人們輕鬆構建神經網路。人工智慧研究人員應該獲得美國政府的批准才能開啟他們新的職業生涯。看明白了嗎？

控制人工智慧可不僅僅是一個模型的事。如果我們想要嚴格解決限制人工智慧濫用的問題，我們必須提出替代性的長期戰略。也許是一個自我調節機構，人工智慧研究人員註冊並同意遵守核心道德規範，或建立法律要求，規範人工智慧代碼應如何發布和監控，以及代碼作者應該如何對濫用行為負責。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！