我們需要一個不那麼理性的AI
純理性AI並不完美
很慚愧，數學從來不是我的長項，如果你和我一樣，大概就能理解這種心態了——覺得數學好的人都是天才，是神一般的人物。另外，如果你欣賞、敬仰甚至崇拜這樣的人，那大概也會以同樣的態度面對那些以數學為基礎的自然學科中的成功人士。
我一直很敬畏那些能用非常深奧的科學語言來表達思想的科學家，數學家當然位列其中。我還非常喜歡閱讀物理學、宇宙學、計算機學、數學等學科領域的文章，以這種方式讓那些有能力深入思考這類問題的人帶領我去探究這些學科的奧秘。當然，這類文章通常很晦澀難懂，但即便其中有很多讓我無法理解的內容，至少作者們在探究科學的過程中展現出來的過人的邏輯分析能力，能促使我去思考開展這類科學研究的意義。
在我看來，人對數學、邏輯學、數理思想的探尋就如同對宗教信仰、對完美主義的追尋。在古希臘時代，當畢達哥拉斯、柏拉圖、阿那克薩哥拉等哲學家初步揭開了數學的奧秘的時候，人類的這種探尋也就開始了。到了21世紀，數學發展的精深程度已經超乎了一般人的想像。實際上，很多研究工作已經離不開計算機的輔助了，一個好的數學家必須能夠熟練運用計算機。去年12月，在美國聯邦快遞工作的一位電氣工程師發現了新的已知最大的素數，這個數多達2300萬位。酷吧？當然，他是用計算機找到這個數的。
一個顯而易見的問題是，當我們談論人工智慧（AI）的時候，談論的是一個基於數學發展起來的東西。我迫不及待地想知道，在數學漫長的發展演進歷程中，我們正在迅速接近的下一個里程碑式成果是怎樣的。
AI是理性發展的終極，這裡所說的理性，是指能用數學或其他符號系統（如語言、文字、字元）來表達的邏輯規則。人類文明發展到今天這個高度，智慧和理性是兩大支柱，如此說來，AI在人類文明的發展中也將佔有非常重要的地位。
在科學家們深入研發AI技術的同時，AI的商業化發展也是如火如荼。企業家正忙著開發更多、更聰明、更好玩的AI產品，以此來革新人類的生活方式。凡是到拉斯維加斯逛過消費電子展（CES）的人恐怕對此都深有體會，那些來參展的產品背後幾乎無一例外都有AI的身影，能主動跟著主人跑的行李箱、更聰明的智能音箱等已經算是小兒科了，智能家居、自動駕駛汽車、面部識別技術等等都將深刻地影響我們的生活。我們現在已經難以預測20年內生活會發生什麼樣的變化，因為AI正變得無處不在，它們將顛覆我們已有的認知。
如此說來，數學家們是相當偉大的。確實如此，但我們是不是也仍然需要給非理性留出些空間呢？實際上，我對現在AI的發展方向感到有些不安，因為這一切似乎來得太容易了。無論什麼領域，加入一些AI元素就萬事大吉了嗎？如果真是這樣，那豈不是太簡單了。實際上，我們對AI應當保持足夠的敬畏，在設計它的時候要考慮得更周全才是。
我先後開過幾家公司，目前正在經營的這家開發了幾種心理評估的方法。我們開展的一些心理測試表明，人往往是缺乏理性的，如果大家不充分認識到這一點，就沒辦法很好地經營公司，或者說，如果缺乏足夠的理性，就沒辦法在組織中生存，甚至連自己的家也照管不好。
更大的問題在於，大多數人在做一些非理性的事時，意識不到自己正處於這種狀態。人們非常善於為自己做的事尋找合理的解釋，以顯得對人對己都非常理性。更有意思的是，當我們這樣做時，也意識不到自己正在這樣做。換句話說，通常我們完全不知道自己為一些行為所作的解釋是在掩飾自己的非理性行為，但實際上，我們的內心確實為此感到羞愧，所以力求通過這些掩飾讓事情看上去比我們自己想像的更好一些。
所以，我們需要專門研究人的非理性的科學，在這方面也已經有了一些進展，像人格心理學、經濟行為學、金融行為學都是其中的一部分。
人格心理方面的研究始於弗洛伊德和榮格，他們試圖解釋人的夢境以及無意識行為。但現代科學往往忽視這類軟科學的價值，甚至認為這根本就不是科學，難以與現代科學取得的眾多成就相提並論。在這種情況下，雖然人格心理研究確實闡釋了一些人類非理性的構成因素，但因其主要致力於研究個體的精神性疾病，而沒有將人格心理研究與社會產出、經濟、商業等掛鉤，所以其發展並未得到大多數人的重視。
目前，與商業社會最接近的此類研究當屬經濟行為學和金融行為學。其研究成果認為，人們決策時遵循的「經濟人」基本假設常常是錯誤的，而且人們有時會作出理性的決定，有時則作出非理性決定。更大問題在於，他們還很少知道自己何時理性，何時非理性。所以，研究成果呼籲大家，必須放棄這種純粹基於理性的經濟學假設，轉而在混合理性的基礎做決策。
近年來，經濟及金融行為學領域已經湧現了三位諾貝爾經濟學獎獲得者，這為這門學科打開了知名度，但目前發展得還是很不夠，即便在美國，也只有幾所大學開設了這兩門課程。雖然非理性決策行為實實在在地存在於我們的社會中，但很多經濟學者對其重要性仍持懷疑態度，他們只知道照本宣科地告訴人們，要在理性的引導下作出經濟決策。經濟學者尚且如此，AI的研發人員不理解非理性的意義，不知道應當將非理性決策的因素融入AI模型及實際應用當中去，也就毫不奇怪了。在這種情況下，AI的發展還有相當長的路要走。
AI必須掌握非理性
在很多人眼中，AI具備造神的力量，因為它能創造出一種基於邏輯、理性並趨於完美的做事方式。在歐美國家，我們將這種特徵稱為神性，古希臘人從美麗的數學中挖掘神性，而今AI在數學和演算法方面做的事與此可以說是相當相似的。但是，我有一種強烈的感覺——讓AI具備神性的唯一出路在於讓它更像人，它不需要那麼那麼地聰明，但應該像一個普通人那樣具備非理性、情緒化、一根筋等等性格特點。這是一個非常重要而且長期為人忽視的問題，我一時還說不好它究竟重要在何處，但我心裡明白確實是這樣。
理性到底包含哪些元素呢？如果說是邏輯，那是歸納邏輯還是演繹邏輯？如果說是數學，又是什麼樣的數學？如果我們要論證現在的AI過於理性，就需要明確地界定這些問題。好在人類有至少3000年的歷史可供借鑒，其中每個時代的哲學家，如亞里士多德、康德、羅素等等，都給我們留下了一些思想，其中許多是清晰而合乎邏輯的，我們完全可以用它們來界定理性的標準。當然，也有世人公認的非理性的思想家、哲學家和作家，像讚美暴力的尼采、頌揚權力的霍布斯以及荒誕派劇作家尤內斯庫等等。從他們那裡，我們既能看到非理性的種種表現形式，也能意識到它對人類的重要性，即便我們可能不喜歡他們的想法，但他們取得的成果無疑是人類文明的一個重要的組成部分。
想想看，如果AI不了解人類的思維過程存在著何種不完美甚至扭曲，它又怎麼能對事物的發展趨勢做出準確的預測呢？一個基於完全理性演算法進行推演和預測的AI，怎麼可能正確理解人類在不同程度的非理性基礎上作出的決策呢？看看當今的世界政治格局，你就知道人類的理性和非理性各佔多少了。
另外，一個具備高度智慧且保持純理性思維的AI也是無趣的，因為一個從不辦蠢事，從沒有古怪瘋狂的想法，甚至從來不會感到緊張的AI，是不會取得梵高、愛因斯坦、披頭士樂隊以及埃隆?馬斯克那樣的成就的。再從另一個角度想，一個理性且瘋狂的AI會如何對待人類呢，它會不會覺得人類應當滅絕？
還有就是，AI能具備倫理觀和道德感嗎？科幻作家艾薩克?阿西莫夫提出了著名的「機器人三定律」，但實際上，需要用以約束AI的規範還有很多很多，這些規範有些可能是非理性的，有些甚至可能很傻，我們如何通過建模來向AI傳授這些規範呢？宗教信仰也是個問題，它與AI是否相容？基於純理性的AI能理解宗教信仰嗎，這種理解將怎樣影響它的決策？總之，如果AI不能理解非理性的存在價值，我們又怎能相信它會一直造福而不是會傷害人類？
愛在很大程度上是非理性的，無論父母對子女之愛、情侶之愛，還是主人對自己寵物的愛，甚至一個人對某種食物的喜愛，可以說都存在非理性因素。愛對人類來說至關重要，AI不應該在這個領域無所作為。但對一個純理性的AI來說，如何在這方面為使用者提出合理的建議呢？與之相類似的，作為人類的生活顧問，一個稱職的AI是不是也應該理解仇恨和恐懼為何物？儘管這些情緒中可能存在很多非理性因素，但不了解這些的話，AI也不能為人類提供正確的決策參考。
美術尤其是現代美術當然也充斥著非理性，立體派、印象派、達達主義等，無不如此。還有音樂，它是非理性的嗎？如果是，它的這種特徵從何而來？西方音樂、亞洲音樂、中東音樂，誰更理性，誰更非理性？如果它們都是非理性的，那與非洲音樂的非理性有區別嗎？把霍布斯的理論、孔子的著作與瓦格納的音樂放在一起比較的話，哪一個更非理性？或者說，這種比較有意義嗎？
或許有人覺得上述疑問都是自尋煩惱，沒有實在的價值和意義，但如果有一天我們想讓AI創作嘻哈音樂或是畫畫呢？到那時，只具備純粹理性的AI就傻眼了。所以，AI的研發者需要認真思考如何定義人類表達形式的理性程度。在此過程中，他們必須弄清楚的是，為什麼非理性在人類發展史中發揮了至關重要的作用。
不管你喜不喜歡，AI最終會進入人類社會的所有領域。所以，如果哪個AI研發者說他的研發只基於理性和數學，因為只有如此才能提高人類的智力水平和能力，請不要相信他。現在的計算機已經能作曲和繪畫了，如果讓AI做這些事，它們必須做得更好，這意味著它們必須從根本上理解非理性思想及其表達方式，並充分理解這種表達體系的重要意義。
人類社會擁有幾千年的宗教史，每種宗教都有介紹神的誕生的故事，這些神具有無邊法力，他們能創造奇蹟，也會給人降下神諭。當今社會，這些與神有關的故事依然口口相傳，它們已經成為人類生活、文化和日常經驗的重要背景。與此同時，還不斷有新的宗教和新的神湧現出來並吸引到眾多信徒。
宗教是理性的還是非理性的呢？我們可以稱其為理性的，因為它們是把眾人凝聚起來的重要紐帶；我們也可以稱其為非理性的，因為很多宗教故事是虛構的神話，很容易被用來誘導人們去做一些非理性的事，比如發動宗教戰爭。但即便宗教真的是非理性的，依然會有人深信不疑，也依然有一些宗教領袖能成功地藉助一些難以置信的故事來強化自己的魅力。
如果人們覺得AI不靠譜，八成是因為覺得它給出的結論或建議不合理。但如果AI創作出一個神的故事，人們會相信它是真實的嗎？答案很可能是肯定的，只要這個故事足夠有趣且邏輯能說的通，AI造的神就有可能獲得人們的擁戴。換言之，非理性的東西可能更吸引人，更讓人信服，因為它的故事性可能更強，邏輯看上去也更合理。雖然大家可能不願意接受這種結論，但它是事實。無論在和平時期還是在戰爭狀態下，無論在恐怖主義事件中還是慈善活動中，非理性是我們每天都在面對的現實，而宗教也許是一種最純粹的表達形式。不管你是不是喜歡，非理性確實在人類社會中發揮著關鍵作用。換句話說，即便一個完全憑藉非理性做事的人，在別人看來也有可能是一個相當靠譜的人。
AI的一個關鍵問題是其可靠度如何，既然它要做很多本來由人來做的事，那它的靠譜程度至少應該達到人的一般水平。只有這樣，我們才能認為AI對人來說是有用的，它提出的建議值得我們尊重和遵循，如若不然，AI就沒有存在的必要了。
我非常欽佩和尊重AI科學家們，但我不知道他們在設計AI的時候有沒有考慮到上述非理性因素。如果他們遺漏了這些，並不是因為他們不夠聰明，反而是因為他們過於聰明了。在人類的主流意識里，非理性是一個具有負面色彩的概念，非理性行為往往意味著做事盲目、衝動可怕，所以科學家在設計AI的時候，往往會有意識地將這些性格特質剔除出去。但實際上，如果科學家們在設計AI的時候能考慮納入一些非數學因素，比如衝動的情緒和瘋狂的想法，這樣的AI可能更接近成功。
讓AI更人性化
前文說過，人們已經在通過人格心理學、行為經濟及金融學來研究非理性，但這種研究的主動性還不夠，因為它們的發展仍囿於本學科的需要。人格心理學是為了研究夢境，行為經濟及金融學想知道的是，如果放棄「理性人」假設，經濟運行的結果會發生怎樣的改變。在這些研究中，沒有人專門研究非理性本身，更沒有人研究非理性與AI的關係。
當然，此類研究也是取得了一些進展的。比如行為經濟和金融學已經發現，所有人都存在認知偏差，正是這些偏差導致我們在某些決策過程中犯系統性錯誤，但對自己有這種清楚認識的人很少很少。目前已知的認知偏差有數百種，它們成為我們考察人性、決策方式以及人類行為的重要窗口。但這種考察也存在重大缺陷，因為還沒有人能歸納出一個適用於每種認知偏差的系統的模型，我的公司創建的模型已經能夠分析兩種認知偏差與財務結果之間的關係，但這與創建系統的模型還有相當長的距離。行為經濟和金融學存在的另一個問題是，它還無法適應書齋以外的現實世界，雖然我的公司在這方面取得了一些進展，但也只是非常初步的進展。
不過，意識到人存在認知偏差確實是建立非理性模型的重要開端，因此，AI的設計者和研究者們有必要學習行為經濟學，更有必要認識到認知偏差的重要性，並儘快把它們融入到自己的研究工作中去。需要儘快在AI中加入的元素包括愛恨之情、倫理道德、宗教信仰邏輯、理性與非理性心理之間的轉換、混合運用理性及非理性的能力，等等。
目前，人們一直在致力於提高AI的聰明程度，並推出了智能助理、智能家居、智能家電等產品。但我認為，這種一味強調理性的AI發展方向是錯誤的，人類真正需要的AI，應該是更人性化的AI，它應當是情商與智商兼備、足智多謀的，而不僅僅簡單地具備高智商。如果人類想讓AI幫助我們解決種種複雜的社會問題，就必須直面這一點，必須發展具備非理性的AI。實際上，在AI與非理性之間的關係得到很好地解決之前，我認為AI的發展不會獲得質變。雖然在此過程中，AI可能變得更聰明、更強大，但也會因而錯過更重要的發展機會，因為低估非理性的AI無從解決人類生活中面對的一些根本性問題。比如，當一輛由AI操控的自動駕駛汽車將不可避免地撞上一個孩子或一個大人時，它會如何取捨呢？這個例子告訴我們，讓AI掌握不合邏輯的判斷能力要比讓它學會遵循邏輯難得多。在這方面，數學家能勝任嗎？
在本文的開頭我說過，我非常欽佩數學家。但是數學家不會接觸非理性領域，因為他們認為非理性並不可取，數學是用來征服而不是解釋非理性的。對於目前深刻建立在數學基礎上的AI領域來說，指望研究者自己打破這種成見也不大現實，更有可能的情況是，由具備全球視野的局外人或者說外行來破除AI與非理性之間的藩籬，因為他們沒有這些思維定式的束縛。
在我很小的時候，對非理性事物也是很不了解，更不理解。而隨著年齡的增長，隨著心理不斷成熟，我越來越能理解和接受那些非理性的東西，這種洞察力來自生活經驗的不斷積累，這是閉門造車的人所難以掌握的。現在的AI設計者大多很年輕，他們還缺乏足夠的生活經驗，對非理性的價值和重要性認識得不夠深刻也是在所難免。當然，這些人是很棒的數學家，也都很有想法，他們一直在為人類的進步而努力著，我始終非常尊重和支持他們。但這些年輕人也確實還需要時間，需要積累，當他們的年紀足夠大之後就會意識到源於非理性的愛、信仰、道德等內容的重要性，他們最終會明白，我們這個世界面對的主要問題不是技術問題，而是社會問題和政治問題。當AI的發展目標是足夠睿智而不僅僅是足夠聰明的時候，它才會成為我們真正需要的AI。
文 | 泰德?普林斯（佩斯領導力研究院創始人及CEO）
載於《投資圈》雜誌2-3月合刊
響新時代之需｜應新投資之求
微信 IDinvestcircle
請長按此二維碼關注我們
TAG:投資圈雜誌 |