Google、Facebook、微軟等科技巨頭拚命降低技術的風險
科技公司曾經自豪地宣稱他們可以改變未來。但反觀，他們在面對自己產品所造成的後果時的反應卻如此可笑。天花亂墜的廣告整天喊著要與世界聯網，讓人們更容易地訪問信息，並給用戶提供更多的靈活性，但卻很少提及負面影響。確實，趨之若鶩的科技媒體和饑渴的粉絲們享受科技公司帶來的陽光，而那些提出潛在風險的批評家們卻被戴上了科技恐懼症、反機器者的帽子，甚至被人指責為「希望所有人都住在洞穴里」。但在通往矽谷的全自動高科技烏托邦的路上卻發生了一場悲喜劇。這些工具被用於損害民主制度。整個群眾突然發現他們的社會基礎是如此不牢靠，對信息的訪問會造成謠言迅速擴散，打工者發現他們的生活充滿了不確定性，等等。
最近幾個月反覆出現的現象，就是一個看起來疲憊不堪的科技公司 CEO 對著攝像機不情願地承認他們搞砸了。
越來越明顯，「快速前進打碎一切」的意識形態的問題就是，一些東西最好還是不要打碎，而且如果一個人跑得太快，就可能無法懸崖勒馬。在這種情況下，科技巨頭處於非常不利的位置：越來越憤怒的公眾，隨時準備制定規制的政府，甚至一些科技公司的員工也站出來反對付給他們錢的公司。
那麼，科技公司應該怎樣做？
未來道德風險手冊 Ethical OS（https://ethicalos.org/）認為他們給出了答案。
如果某個科技公司聲稱他們能治癒全世界的痛苦，那麼人們理應產生懷疑。相應地，如果某個科技公司聲稱他們能治癒其他科技公司的痛苦，人們也應當產生懷疑。
何為Ethical OS ？
Ethical OS 由 Institiute for the Future 和 Omidyar Network 資助，它不像是個組織，而更像是個啟發式的工具，至少它的「Ethical OS Toolkit」（https://ethicalos.org/wp-content/uploads/2018/08/Ethical-OS-Toolkit-2.pdf）是目前最值得一提的創造。它的目的是「如何用今天的技術預測未來的影響」，或者說「怎樣才能不為自己的造物後悔」，這個工具包的定位處於新人工程教育、員工的必須培訓和設計檢查列表之間。該工具包的目標是「製造開發者、產品經理、工程師和其他人」，它宣稱「旨在促進更好的產品開發，更快的部署和更有影響力的創新， 同時努力將技術和聲譽風險降至最低。」儘管該工具包獲得了許多讚美，如」作為技術專家，我們大部分時間專註於我們的技術將如何改善世界「，它卻採取了風險較大的行為，比如「技術專家」可能需要偶爾思考「半空的玻璃杯」，因此「除了幻想我們的技術將如何拯救世界」之外，技術專家們還花了一些時間思考「技術可能會如何「搞砸一切」。
Ethical OS Toolkit 給「技術專家」們帶來了三個「工具」，這些工具的用途是：提供一系列類似於「黑鏡」（https://librarianshipwreck.wordpress.com/2018/02/02/the-show-that-cries-wolf-on-black-mirrors-fourth-season/）的近未來場景，通過該工具來思考角色、責任，以及「技術專家」通過探索反烏托邦的邊界帶來的潛在犯罪；一系列「八個風險領域」的工具，用於在開發新技術時思考給定的技術可能帶來的特定問題；還有一系列開放式問題，旨在讓人討論給定技術之外的更廣泛的話題，並朝著更寬廣的哲學問題進行討論，如是否需要「讓需要操作數據的人簽署希波克拉底誓詞」，或者技術專家是否要獲得某種「設計的認證」。這個工具包還提供了一種「信號」點，可以讓用戶看出「哪些東西已經變得不一樣了」，因為它自己的定位就是讓技術專家用來「擴展想像力，給前瞻的肌肉熱身……就像產品點子的瑜伽一樣」。
其核心部分基本上就是 Ethical OS Toolkit，至少乍一看似乎是這樣的。這種工具很容易讓人聯想到教授帶領工程倫理學的學生學完一周的課程，或者科技公司讓所有員工參加的強制性培訓。誠然，工具包是許多大學所要求的那種需要整個學期的工程倫理課程的高度簡化版本，何況員工也經常在強制培訓期間（無論他們在哪個領域工作）昏昏欲睡。但工具包的核心是一個非常值得尊敬的論點，即「技術專家」需要更好地思考他們創造的風險。在進行這一步驟時，工具包將自己置於技術哲學中的古老傳統中，強調了風險在思考道德時的重要作用。無論有意無意，工具包似乎都響應了漢斯·喬納斯的勸告：「這是一種規則，原則上說，厄運的預言要比幸福的預言更加受關注」，以及 GüntherAnders 的預言：「我們害怕的能力太小，而無法適應當今的危險程度……因此，不要害怕恐懼，要有勇氣受到驚嚇和驚嚇別人。」從「半空的玻璃杯」的角度思考風險和技術是哲學家和批評者長期以來一直爭論的問題。像 Ethical OS 這樣的矽谷組織選擇擁抱這些觀點而不是嘲笑它們，還是挺有意思的。然而 Ethical OS Toolkit 並不是無中生有，相反，它「旨在促進更好的產品開發，更快的部署和更有影響力的創新」，今天的許多「技術專家」都處於混亂中，而這個工具包能夠幫助他們避免這些混亂。雖然工具包任何人都可以下載，但很明顯它的主要用戶是「技術專家」、僱傭「技術專家」的人，以及那些渴望通過「技術專家」獲利的人。因此，工具包與喬納斯和安德斯這些人物的觀點的本質區別是，這些哲學家認為整個社會需要調整與技術的關係，而工具包主要關注的是略微調整製造技術的人的思維。前面說過，快速看看新聞也很容易看出，「技術專家」在表示自己知道自己的創作的風險方面做得並不好，而且在魯莽地造成破壞之後，他們管理責任的能力十分糟糕。或者，換句話說，工具包的創造者清楚地知道，他們的「盡量減少技術和聲譽風險」的工具一定會有用戶，因為科技行業目前正受到醜聞的影響，嚴重損害著許多公司的聲譽。
需要明確的是，鼓勵「技術專家」批判性地參與他們的創作可能造成的道德影響，是件值得稱讚的事情。然而，值得思考的是，當技術公司已經在他們已經播下了一連串的破壞之後，他們意識到風險的存在，是否值得給予掌聲。就像人道技術中心（https://librarianshipwreck.wordpress.com/2018/02/13/be-wary-of-silicon-valleys-guilty-conscience-on-the-center-for-humane-technology/，其創始人在工具包中被多次引用）一樣，Ethical OS 在氣味測試中失敗的原因是，它和科技行業方向分道揚鑣。它堅持認為技術公司可以使用這個工具包來自我規制，它使得「技術專家」可以聲稱他們已經考慮過風險，即使他們依然會做他們將要做的事情，無論如何。Ethical OS Toolkit 和人道技術中心的危險在於它們是甜蜜的煙幕，這進一步模糊了科技公司在「人道技術」或「Ethical OS」背後的行為。這種誘人的氣味沖淡了意識形態散發出的腐臭，意識形態不斷產生犯規新問題仍然沒有受到挑戰。
整個工具包都有這個意識形態的痕迹（就像人道技術中心一樣），因此，儘管它受到了許多讚美，它依然在不斷破壞自己。儘管它認為「技術專家」需要改變，但它首先使得我們所有人都陷入了混亂的世界觀。其中最明顯的一部分就是工具包中反覆誇耀「技術專家」的陳詞濫調。工具包滔滔不絕地說「作為技術專家，我們大部分時間專註於我們的技術如何改善世界」，它向人們保證「大多數技術都是以最好的意圖設計的」，它熱情地問「你準備好讓這個世界變得更美好了嗎（或者至少不讓別人把它變得更糟）」？ ，最後問：「你是否有信心自己設計的產品能夠讓世界變得更美好？」
這些辭藻把「技術專家」描述成了特殊的人：極其聰明，極其勇往直前，只為了「讓世界變得更好」。儘管看上去這個工具包在討論科技風險時竭力避免非黑即白的看法，但在談論到「技術」本身時它卻採取了消極的態度。問題是，工具包僅僅聲稱「作為技術專家，我們大部分時間專註於我們的技術如何改善世界」，實際上是偷偷地做了假設「技術」都是「善意」的。它假設技術的意圖都是善意的。因此，這個工具包由於可以讓技術專家們在自己造成的廢墟上斷言自己是出於好意、只想讓世界變得更好，實際上等於給了「技術專家」們一張護身符。但如果真的去考慮「技術」，那麼他們必須放棄這種幼稚的想法。
是否有一些天才的「技術專家」真的想改善世界？肯定有。但這種觀點太尋常，基本上沒什麼意義。將眼球吸引至廣告商，用這種方式讓「技術專家」們相信他們在改善世界，才有意思。
技術八大風險區域
關於讓世界變得「更好」的評論，需要仔細思考世界的本源才能做出，而 Ethical OS Toolkit 以技術者需要考慮的「八個風險區域」的方式為回答這個問題提供了一些線索。這八個風險區域是：
為避免混淆，這張圖指的是那些擁有嚴重風險、應該被考慮的技術領域。實際上，許多「風險區域」似乎都特指一些科技公司被嚴厲批評的問題，但這並不會讓這些顧慮變得遜色。
不論如何，通過這八個風險區域，人們可以大概了解什麼才是「好」的「技術」。而這八個區域表明，就像人道技術中心一樣，Ethical OS Toolkit 的關注點集中在非常狹隘的技術影響的定義上，以便輕鬆地融入矽谷的自我認知中。 「風險區」提供的是一種全局的觀點，在這種觀點中，值得道德考慮世界就是消費技術的人。 或者換句話說：對於這個工具包來說，一個人值得道德考慮，因為一個人是技術的消費者。 因此，由於他們是人類的一員，所以才會有道德方面的考慮，而他們只是需要保持快樂的客戶。
在這裡需要指出這八個「風險區域」中沒有包括的一些非常重要的東西：對製造這些「技術專家」設計的小工具所需的礦物的思考呢？對像奴隸一樣組裝這些設備的工人的思考呢？對於能源消耗、電子垃圾等環境影響的思考呢？如果真的去考慮「道德」而不僅僅是口頭說說而已，那麼這種「風險區域」還有很多。但相反，這個工具包鼓勵「技術專家」專註於世界人口中非常狹隘的一部分，他們可以享受新技術帶來的大部分好處，同時避免不利因素（消費者）。同樣，這並不是懷疑這「八個風險區」的重要性，也不是暗示這些風險區純粹是「第一世界問題」。這裡所說的風險只是工具包讓科技公司通過聲明「我們正在認真考慮仇恨和犯罪行為」來安撫他們的客戶，同時繼續忽視科技產業所構建的不道德的勞動和環境條件。如果要讓「技術專家」真正地從道德角度思考風險，那就必須考慮除了那些讓 CEO 們難堪的醜聞之外的東西。
Ethical OS Toolkit 很大程度上只是個話題發起者，它包含了眾多的開放式問題，能讓「技術專家」們思考他們的創作的影響。但是，工具包的結構也強化了「技術專家」和世界其餘部分之間的邊界。工具包中有一個有趣的手法——它承認「技術人員」的行為會對社會產生嚴重影響，但隨後迅速將這些「技術人員」封鎖起來。雖然這些決定會影響到你，但你並沒有被邀請參與其中，而這些都是技術公司內部的「技術專家」之間的對話，不管這些對話會對更廣泛的社會產生如何深遠的影響。我是想說，工具包中非常缺乏的一件事就是對民主的關注。當然，工具包的確關注了可能對民主社會產生負面影響的「風險區」，但似乎工具包的主要關注點是讓科技公司免於任何形式的民主監管。畢竟，像 Ethical OS 這樣的工具允許像 Facebook 這樣的公司在批評者面前爭辯說它知道它以前搞砸了，但現在它正在嚴肅對待道德並迫使所有員工（甚至包括是高管）使用 Ethical OS Toolkit 進行培訓！看，公司不需要受到監管，它可以自己監管自己！工具包提供了一種方式，通過這種方式，科技公司可以在受到公眾懷疑時，試圖重新獲得公眾的信任。這是個煙霧彈，使得人們不再關注闖下大禍的科技公司，而他們更願意向煙霧中投入更多香味，而不是呼叫救火人員。
Ethical OS Toolkit 承認的是，新技術給我們所有人帶來了風險，但它似乎並不在乎在這件事情上是否所有人都有發言權。 這是一種恥辱，因為圍繞技術的對話應該涉及所有利益相關者，而不僅僅是股東，且這些對話影響人們的有很多事情，而不僅僅是道德。 當然，人們應該記住，工具包「旨在促進更好的產品開發，更快的部署和更有影響力的創新」，換句話說，它實際上並不想改變現狀，而是讓科技公司保持力量和獨立。 它只知道，如果要保證這種主導地位，科技公司偶爾需要假裝關注下道德。
最終，Ethical OS Toolkit 發揮的作用可能不止讓科技公司自我感覺良好並欺騙公眾獲取信任，但也只會多那麼一點點。工具包中缺少了指明「技術專家」們不應該創造的東西，指明受影響的人們應該有發聲的權利，以及整個世界中科技並不是最重要的。這並不是個改善世界的工具包，而是修補殘缺不全的科技行業的工具包。
哲學家 Shannon Vallor 在她的新書《Technology and the Virtues》中指出，科技的問題絕不僅僅是某項科技（或公司）是善還是惡。相反，Vallor 敏銳地討論了技術如何成為關於我們想要生活的社會類型和我們想要成為的人的類型的論證的具體化。 Vallor 強調的問題是，生活在由各種不透明的高科技設備構成的世界中「使得識別，尋求和確保道德的終極目標變得越來越困難——這是一種值得選擇的生活，是一種很好的生活。」因此，她認為所需要的是在全球範圍內培養智慧，強調：「我們不能通過創造更多、更新的的技術，擺脫我們所處的漏洞， 只要這些產品繼續被人類設計，營銷，分銷和使用，那麼技術道德的缺乏就會利用巨大的技術力量來挖坑。」
新技術究竟是梯子還是坑？
只有時間才能證明，Ethical OS Toolkit 究竟是提供了爬出坑的梯子，還是挖坑的鏟子。但我們不應該簡單地相信「技術專家」宣稱他們會造梯子，特別是當我們看到他們越陷越深的時候。我們都在這個坑裡，而科技行業本身不會把我們帶出這個坑。
評論 1：假設最終技術 X 會被發明。還假設，從某些角度來說，X 是個非常不道德的技術。
那麼，發明 X 的這個過程是否道德？
注意：這裡的假設條件是 X 的出現是不可避免的。唯一的問題就是誰來發明 X。在這個語境下，是不是至少應該從多個維度討論下，你是否應該幫助發明X？在某些限制條件下，這個話題就變成了「你應該幫助你所生活的社會，保證它與其他社會相比擁有可以競爭的優勢」。
或者用文明一些的詞語來說，就是「第一個發明該技術的公司可以強制其他人在該技術上的道德」。
也就是說，如果你發明了一項技術，那麼預測該技術的用途就會比不是你發明的情況要容易。
因此，雖然看起來矛盾，符合邏輯的結論似乎是，你應該盡一切努力去發明你認為不道德的技術，並希望你能降低它未來的危害。
如果某項技術似乎無法控制（如核武器），可以用這個例子來反駁：比特幣是一系列想法的實現。實際的實現方式可能會完全不同。例如，它有可能會通貨膨脹而不是通貨緊縮。因此，實際選擇的方式非常重要，因為比特幣有非常巨大的先發優勢。而對於科技X被發明的情況也是如此。
那麼，答案是什麼？我們是不是該盡一切努力去發明不道德的技術來降低它的影響，還是即使知道一些「不道德」的社會會發明該技術，也要抑制新技術的發展？
或許這個論斷完全是錯誤的？
評論 2：我認為你漏了重要的一點。道德並不是關於什麼該發生的，而是關於對你的行為的影響負責的。
不斷湧現的新技術的發展速度要比責任更快。比特幣就是這樣，石油和殺蟲劑也是如此。
核武器就是個非常好的例子。設想如果核技術的發展歷史不是像今天這樣，而是從它誕生那天起就被用於解決各種問題，那麼今天的能源要便宜得多，也就意味著一切東西都會便宜。這就意味著我們的生活水平會翻倍（這一點很難驗證，不過這僅僅是個思維實驗）。
所以，雖然成為第一很有誘惑力，但從大的方面來看，你總要為你的行為付出代價。合理的道德之所以成為工程的一部分，並不是因為有趣，而是因為只有這樣才能得到最優的結果。
原文：https://librarianshipwreck.wordpress.com/2018/08/24/striving-to-minimize-technical-and-reputational-risks-ethical-os-and-silicon-valleys-guilty-conscience/
譯者：彎月，責編：屠敏
TAG:CSDN |