自動化的悖論是什麼？

「自動高速巡航」假新聞之所以刷屏，因為它擊中了我們對自動駕駛乃至無人駕駛會失控這一內心深處的恐懼。

這種對自動化失控的恐懼不是無根之萍，而是已有不少先例。這些例子不僅包括無人駕駛汽車導致的交通事故，還包括自動巡航模式下的飛機失事所導致的代價更為慘重的災難性事故。

面對自動化的失控大體分為兩種。一種是技術太複雜，我們幾乎成了奴隸，而無法像主人那樣進行駕馭，只能任由事先設定的程序擺布，一旦失控——或因為先天設計的缺陷，或是因為無法預料的偶然事件比如飛機遇到鳥群或高鐵遭遇雷擊——便束手無策。另一種是原本應由人力在緊急狀態下進行處置的任務設置，因為自動駕駛太久了導致應對能力不足而慌了手腳甚至做出錯誤的應對，進而加速災難發生。

樂觀派們相信，隨著自動化技術的進步和日益完善，這兩種失控都可以降到最低限度。比如隨著大資料庫越來越豐富，演算法越來越精密，運算越來越高速，各種感測設備越來越靈敏，自動化系統應該會實現零差錯，進而導致第一種失控的可能性也趨向為零。應對第二種失控的方法更為簡單，那就是進一步擴大自動化的範圍，把賦予人力那部分的任務也幾乎削減為零。

不過在悲觀派看來，前者之傲慢自大無異於自居上帝的思維，凸顯了大數據、演算法和人工智慧迷信者的傲慢，考慮到所有的「學習」都是建立在既往數據基礎上的，人們永遠不能指望在此基礎上設計出的無論多麼智能的自動化程序，能避免來自充滿不可知因素的未來的意外。

至於第二種思路，則有可能會導致一種惡性循環出現：自動化越複雜，留給人們參與其中的空間越少，人們越缺乏對自動化工作原理的理解力和對自動化設備及系統的掌握力。當一切設備都傻瓜化了時，我們就會變成最大的傻瓜。工具，無論是否自動化，理應更好地幫助我們延伸自己的身體和心智，去更好地感知和駕馭這個世界，而不應讓我們的能力變得更退化，並導致這個世界變得對我們更封閉。

以 GPS 為例。人們普遍反映在 GPS 的幫助下，人們可以更便利地去以前沒有去過的地方。然而一段時間過後，人們也普遍發現自己越來越依賴 GPS，哪怕去那些比較近或不那麼陌生的地方，也會不自覺地開啟 GPS，與此同時自己認路和尋找路徑的能力，以及在此過程中對周邊環境進行定位和認知的能力，都出現了弱化。而且依賴 GPS 導航的駕駛者還發現自己預判危險的能力也大不如前，比如由於過於集中精力聽從導航設備里的語音指導，而沒有注意到前方的限高提示。

此外還有一些無形的損失。我們喪失了通過自身行動感知世界存在的能力。比如以前我們步行出發去一個地方，從出發點到目的地之間不斷變化的公共空間，是我們認知和了解一個城市和邂逅美好事物的主要場域，然後現在這個空間已經退化成手機上兩個點之間冗餘的存在。生活中的不確定性及由此產生的各種可能性已經被摒棄，我們更青睞的是準確與高效，直達目的地才是首要目標。

有時候這甚至意味著一種文化的喪失。加拿大的因紐特人曾經以在荒野中辨認方向和路徑的高超能力而著稱，那時他們的參考坐標是日月星辰山川河流風速氣息以及草木倒伏的方向，後來當年輕的因紐特人也越來越多用起 GPS 後，這些祖祖輩輩相傳的寶貴能力就消失殆盡了。更可悲的是，GPS 依賴症有時還會讓他們陷入此前能夠避免的險境，因為 GPS 傾向於規劃最便捷的路徑，而不顧湖上的冰面是否足夠承重，以及山丘上的小徑是否過於濕滑。

能力總是用進廢退，因為自動化所導致的學習能力和獨立判斷能力的弱化，越來越成為自動化所引發的最大悖論。這一點在醫療領域表現得尤為明顯。在各種輔助決策系統和流程自動化軟體的「幫助」下，診療過程現在更多成為了一個各種診斷資料上傳和通過演算法進行診斷的過程，而醫生則越來越多地成為了旁觀者，尤其是那些缺乏臨床經驗的醫生。甚至醫療界的「老司機們」直接觀察並與病人面對面交談的次數也在減少，這無疑縮小了他們帶領年輕醫生通過各種實際觀察和癥狀診斷積累認知和判斷能力的空間。

大數據和電子病歷因其信息的相對完備性和流程規範性，無疑有助於減少診斷時的誤判，但有時也會導致新的意義上的誤導，因為相似的癥狀並不總是意味著相同的病因，但輔助決策系統通過自己的預判斷無疑會潛移默化地將醫生的注意力引向「概率更高」的診斷，從而屏蔽了其他的診斷可能。而很多時候正是醫生們通過反覆訓練積累的隱性知識所帶來的直覺和靈光乍現，是實現醫療診斷創意性突破的關鍵。過於依賴演算法和程序性決策，將導致日益規範而千篇一律的診斷，在此過程中醫生將變得日益平庸和保守。

類似的情形也出現在建築設計領域。以前的建築設計師們特別看重設計草圖，因為這是將抽象理念和現實世界相關聯的重要一步，隨著草圖越來越清晰，設計的觀念也越來越具象。在此基礎上，輔之以 CAD 即計算機輔助設計系統，一個完整的設計方案就離出籠不遠了。而現在年輕的設計師們更傾向於一上來就啟用 CAD 系統，並美其名曰為創意自動化呈現。乍看之下，因為可以實現各種設計數據的組合和設計效果的實時展現，設計的豐富性和效率以及可靠性都得到了巨大提升。然而實踐表明，這種模式設計出來的建築，因為缺乏不確定甚至痛苦的「草創」過程中對設計者隱性知識和直覺的激活，要麼參照了以往過多的模板和數據顯得過於平庸和機械，要麼因為使用了過多「隨心所欲」的參數而顯得過於怪誕，往往既缺乏人文氣息，又缺乏實用性。

這就像數碼相機表面上賦予人們更多拍攝的自由，因其無限存儲和後期修正能力，而讓人們不必擔心耗費太多的膠捲，對攝影者技術的要求，也隨著自動聚焦自動調光調距調寬調色等各種自動化技術的提高而降低。然而悖論在於，人們似乎越來越若有所失地意識到，正是當年膠捲時代的各種限制和缺憾，才令人們更加有動力精研自己的技術，而從攝影愛好中得到的快樂和成就感也越高。

是學習能力、認知能力和以工具（無論是否自動化）作為身體延伸部分的探索世界的能力，定義了「人」的概念，也界定了人和技術的關係，如果自動化的結果是這些能力的退化和自動化深度依賴症，那就意味著我們成了自動化的奴隸。

最後需要探討的是關於所謂自動化導致人們的解放，從而可以享受更多閑暇，進而更早進入自動化烏托邦的問題。且不論解放是不是失業的委婉替代語，就所謂閑暇本身，20 世紀初美國的家庭主婦們可能更有發言權，因為她們最早意識到自動化的悖論。在沒有洗衣機和蒸汽熨斗之前，可能只需要漿洗一家之主的衣服，有了這些半自動化的機器，她們被期望把孩子們的衣服也洗滌燙熨，至於洗碗機的出現則意味著購買更多的碗碟。最後美國家庭主婦們終於意識到越來越多的勞力節省型家電的購買，就意味著越來越多新的勞動，然而已無力自拔。

除卻這層意義上的悖論外，人們近年來在神經科學領域研究的進展表明，無論是體力還是腦力勞動，因其目標感和階段性注意力的集中以及在此過程中認知與訓練的積累，讓人們更具成就感和存在感，反而在所謂的閑暇時段，人們的注意力更加分散，時間支出也更碎片化，或者會長時間做一些無意義的舉動。

總之，現在是時候考慮為自動化設置一個紅線的問題了。以犧牲人們的學習和認知能力為代價的為自動化而自動化應該適可而止了，是時候以人而非以技術為中心重新界定技術進步的目標和速率了，任何的技術進步都應該回歸賦能於人類而非令其閑置這個初心。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！