員工反對微軟競標美國軍方的 100 億美元 AI 雲項目
員工緻微軟的公開信：不要競標美國軍方的JEDI項目，微軟的員工們聯名簽署了這封公開信。
以下為公開信全文：
我們當初加入微軟，是為了給人們和社會帶來積極的影響，期望我們開發的技術不會造成危害或給人類帶來痛苦。微軟Azure企業副總裁朱莉婭?懷特（Julia White）在周二發表了一篇題為《為政府打造智能雲和智能邊緣解決方案》的博文（https://azure.microsoft.com/en-us/blog/enabling-intelligent-cloud-and-intelligent-edge-solutions-for-government/）：
此文相當於公開聲明微軟有意競標聯合企業防禦基礎設施（JEDI）合同――這份合同代表涉資100億美元的大項目，為美國國防部開發雲服務。這份合同規模龐大，秘而不宣，因而我們這些員工幾乎不可能知道會開發什麼產品或服務。在對外宣布JEDI的那一天，國防部首席管理官約翰?H?吉布森二世（John H. Gibson II）解釋了這項計劃的影響，他說：「我們需要做到很清楚。這項計劃其實旨在提高國防部的殺傷力。」
微軟，不要競標JEDI。
許多微軟員工並不認為我們開發的技術應該用於發動戰爭。我們當初決定效力於微軟時，抱著「讓地球上的每個人取得更大的成就」的希望，而不是為了結束生命、提高殺傷力。有的人說，微軟不競標，但另一家公司完全會接手競標JEDI；我們會要求這家公司的員工抱有同樣的希望。逐底競爭（race to the bottom）不是什麼道德立場。與那些在谷歌、Salesforce和亞馬遜採取行動反對競標JEDI的人一樣，我們要求技術公司的所有員工問問你的勞動成果將如何使用、用於何處，並根據你的原則來行事。
最近，谷歌的高管明確表示他們不會將AI「用於武器、非法監視以及導致『整體危害』的技術。」這完全是他們在數千名谷歌員工以倫理道德和人權的名義竭力反對後作出的表態。周二，谷歌退出了JEDI競標行列，原因是「無法保證這會與該公司的AI原則相一致」，即谷歌在員工持續施加壓力後落實到位的原則。由於大量員工公開反對，高管們別無選擇，只能退出競標行列。
我們需要合理地評價JEDI。這是一個秘密的100億美元項目，目標是打造特朗普政府監管的「更致命的」軍事力量。抗議這種合作項目並迫使公司採取行動的谷歌員工對這一點看得很清楚，我們也看得很清楚。
於是我們要問，微軟的AI原則又是什麼，尤其是將強大的AI技術運用於殘暴行徑方面的原則？當初開發和維護這些服務的員工們是不是知道自己的勞動成果被用於幫助分析、監視或殺人？
今年早些時候，微軟發布了新書《未來計算：人工智慧及其社會角色》（The Future Computed），仔細分析了AI的應用和潛在危險。該書認為，嚴格的道德原則對於開發造福人類的AI而言必不可少，該書定義了六個核心原則：「公平、可靠和安全、私密和安全、包容、透明以及負責。」
面對JEDI，微軟高管們眼看就要背棄這些原則以換取短期利潤。如果微軟要對它提供的產品和服務負責，我們就需要明確的道德準則和合理的問責制，指導我們如何確定我們的技術的哪些用途是可以接受的、哪些是不予討論的。微軟已經承認了它開發的技術具有的危險性，甚至呼籲聯邦政府對AI進行監管。但是沒有法律阻止該公司實行自己的內部審查並恪守自己的道德準則。
由於Azure博客上列出的雲和邊緣解決方案屬於尖端智能技術這個類別，它應該交由微軟的AI道德委員會Aether來審查。埃里克?霍維茨（Eric Horvitz，我們的研究實驗室主任）已表示，Aether「擁有強制實施的有效手段。」但如果Aether不考慮這種道德困境，那麼它究竟又有什麼用場？由於這些談判毫無透明度可言，加上一個不透明的仲裁道德決策的道德機構，接受這份合同將使微軟的普通員工不可能知道自己是不是在編寫旨在傷害和監視的代碼。
微軟內部數百名員工已對該公司與移民和海關執法局（ICE）簽訂的進行中的合同表達了道德方面的擔憂；按照這份合同，微軟提供「關鍵任務型」Azure雲計算服務，從而讓ICE能夠對邊境處和美國國內的家庭實施暴力和恐怖活動。儘管我們反對，但這份合同依然有效。微軟決定競標JEDI，這再次表明了需要清晰的道德準則、問責制、透明度和監管。
微軟，不要競標JEDI。
TAG:雲頭條 |