對於人工智慧，霍金給世人留下了哪些思考
3月14日，據英國BBC等多家外媒的報道，知名物理學家史蒂芬·霍金去世，享年76歲。生於伽利略祭日，卒於愛因斯坦誕辰，世間再無霍金，時間永留簡史。
斯蒂芬·威廉·霍金
物理學家，宇宙學家，數學家，思想家，哲學家。
霍金是繼牛頓和愛因斯坦之後最傑出的物理學家之一，被世人譽為「宇宙之王」，作為劍橋大學數學及理論物理學系教授，當代最重要的廣義相對論和宇宙論家，榮獲英國劍橋大學盧卡斯數學教席，這是自然科學史上繼牛頓和狄拉克之後榮譽最高的教席。
1956年夏季，以麥卡賽、明斯基、羅切斯特和申農等為首的一批有遠見卓識的年輕科學家在一起聚會，共同研究和探討用機器模擬智能的一系列有關問題，並首次提出了「人工智慧」這一術語，它標誌著「人工智慧」這門新興學科的正式誕生。
人工智慧這門學科發展到今天已經超過60年時間。
2017年12月，人工智慧入選「2017年度中國媒體十大流行語」，熱度可見一斑。
簡單來說，對人工智慧的定義大多可劃分為四類，即機器「像人一樣思考」、「像人一樣行動」、「理性地思考」和「理性地行動」。
霍金的主要著作有《時間簡史》、《果殼中的宇宙》，主要研究領域是宇宙論和黑洞。不過，近年來霍金在人工智慧等領域的研究也值得關注，今天我們在緬懷這位偉人的同時，來看看最近幾年裡，他是如何看待眼下大熱的人工智慧（AI）的。
2014年的霍金：人工智慧或是人類歷史上最後事件。
2014年12月，他在接受英國廣播公司（BBC）的採訪時說：「人工智慧的短期影響取決於由誰來控制它，而長期影響則取決於它是否能夠被控制。」
霍金承認，機器人和其他的人工智慧設備也許會給人類帶來巨大的好處。如果那些設備的設計非常成功，就能給人類帶來巨大的好處，他說那將是人類歷史上最大的事件。然而他同時也提醒說，科幻的魅力會蒙蔽我們的雙眼。人工智慧技術發展到極致程度時，我們將面臨著人類歷史上的最好或者最壞的事情。
2015年的霍金：號召禁止人工智慧武器。
在這一年，霍金、特斯拉CEO埃隆·馬斯克和蘋果聯合創始人史蒂夫·沃茲尼亞克等上百位專業人士聯名上書，號召禁止人工智慧武器。
公開信稱，如果任何軍事力量推動人工智慧武器的開發，那麼全球性的軍備競賽將不可避免。人工智慧武器不像核能一樣——需要高昂的成本和難以獲得的原材料，一旦開發人工智慧很容易在各軍事力量中普及。
公開信說，人工智慧武器的禁令必須儘快頒布，以避免軍備競賽，這更甚於「控制人口數量的意義」。
2016年的霍金：人工智慧崛起中產階級或大量失業。
這年的12月，在英國《衛報》的一篇專欄中，霍金表示：「工廠的自動化已經讓許多傳統製造業工人失業了，而人工智慧的崛起會將失業範圍擴大到社會上的中產階級。未來，留給人類的只有護理、創新和監督等少數崗位了。」
如果這一趨勢繼續下去，會有什麼後果嗎？霍金認為機器人搶走人類工作後會造成社會更大的不公，自動化將「加速擴大全球範圍內已經日益嚴重的經濟不平等，互聯網和各種平台讓一小部分人通過極少的人力獲取巨大的利潤。這是不可避免的，這是一種進步，但也會對社會造成巨大破壞並最終「撕裂」整個社會」。
2017年的霍金：最後的忠告。
在11月份舉辦的第五屆騰訊WE大會上，霍金以遠程視頻的形式亮相WE大會，並談論了對人工智慧的一些看法。
在視頻中霍金認為，人類很有可能會造出超級人工智慧，這些人工智慧程序能夠全面超越人類，並有可能完全取代人類成為一種新的生命物種。霍金表示，「我擔心人工智慧將全面取代人類。如果有人能設計出計算機病毒，那麼就會有人設計出能提升並複製自己的人工智慧。這就會帶來一種能夠超越人類的全新生命形式。」
2017年12月13日，在長城會舉辦的「天工開悟，智行未來」活動中，霍金表示，現在還不能確定，人工智慧的崛起對人類來說是好是壞，但可以確定的是，人類要竭盡全力，來保證人工智慧的發展對於人類及環境有利。這可以說是霍金在公開報道中最後一條關於人工智慧的看法了，也可以說是最後的忠告了。
電影《我，機器人》劇照
在《我，機器人》一書中，艾薩克·阿西莫夫提出了著名的「機器人三大定律」：
第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手旁觀；
第二定律：機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外；
第三定律：機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存。
可以說，阿西莫夫的這「三大定律」不斷激發了人們對於人工智慧安全性的新思考。技術最終將解放人類，前提是這個技術是受控可控的，必須牢牢地掌握在人類自己手中，而不是失控的技術，否則霍金的那些悲觀預測也許真的要應驗。
對於人工智慧，霍金給世人留下了哪些思考呢？
1
在我的一生中，我見證了很多社會深刻的變化。其中最深刻，同時也是對人類影響與日俱增的變化就是人工智慧的崛起。人工智慧可能是人類文明史上最偉大的事件，它要麼是人類歷史上最好的事，要麼是最糟的。如果我們不能學會如何避免風險，那麼我們會把自己置於絕境。
如果有人設計計算機病毒，那麼就有人設計不斷自我完善、直到最終超越人類的人工智慧，其結果將是一種新的生命形式。
人工智慧的真正風險不是它的惡意，而是它的能力。一個超智能的人工智慧在完成目標方面非常出色，如果這些目標與我們的目標不一致，我們就會陷入困境。」
2
人工智慧對人類的影響，可以從短期、長期兩方面來分別討論。
短期擔憂——智能自主武器、隱私
人工智慧的全方位發展可能招致人類的滅亡。比如最大化使用智能性自主武器。
目前，世界上九個核大國可以控制大約一萬四千個核武器，它們中的任何一個國家都可以將城市夷為平地，放射性廢物會大面積污染農田，最可怕的危害是誘發核冬天，火和煙霧會導致全球的小冰河期。
這一結果使全球糧食體系崩塌，末日般動蕩，很可能導致大部分人死亡。我們作為科學家，對核武器承擔著特殊的責任。正是科學家發明了核武器，並發現它們的影響比最初預想的更加可怕。
除此之外就是隱私的擔憂。由於人工智慧逐漸開始解讀大量監控數據，這些都會被機器人洞察的一覽無餘。
3
長期擔憂——人工智慧系統失控的潛在風險
人工智慧遵循的一個邏輯是，「計算機在理論上可以模仿人類智能，然後超越」。這一天很快會到來。
未來，人工智慧可以發展出自我意志，一個與我們衝突的意志。
我們無法知道我們將無限地得到人工智慧的幫助，還是被藐視並被邊緣化，或者很可能被它毀滅。但事實就是：聰明的機器將能夠代替人類正在從事的工作，並迅速地消滅數以百萬計的工作崗位。
人類由於受到漫長的生物進化的限制，無法與之競爭，將被取代。這將給我們的經濟帶來極大的破壞。
4
在過去二百年中，人口增長率是指數級的，目前這一數值約為1.9%。 這聽起來可能不是很多，但它意味著，每四十年世界人口就會翻一番。 2022年，我將慶祝自己80歲的生日，而在我人生的這段歷程中，世界人口比我出生時膨脹了四倍。
這樣的指數增長不能持續到下個千年。到2600年，世界將擁擠得「摩肩擦踵」，電力消耗將讓地球變成「熾熱」的火球。這是岌岌可危的。
我相信我們可以避免這樣的世界末日，而最好的方法就是移民到太空，探索人類在其他星球上生活的可能。人類作為獨立的物種，已經存在了大約二百萬年。我們的文明始於約一萬年前，其發展一直在穩步加速。如果人類想要延續下一個一百萬年，我們就必須大膽前行，涉足無前人所及之處！
5
在某種程度上，今天的情況就如同1492年前的歐洲。當時的人們很可能堅信，哥倫布的探險註定是徒勞無功。 然而，新世界的發現，對舊世界帶來了深遠的影響。對於那些被剝奪權利地位、走投無路的人來說，新世界成為了他們的烏托邦。
人類向太空的拓展，甚至將會產生更深遠的影響，這將徹底改變人類的未來，甚至會決定我們是否還有未來。它不會解決地球上任何迫在眉睫的問題，但它將提供解決這些問題的全新視角，讓我們著眼於更廣的空間，而不是拘泥眼下。
6
當我們進入太空時，會有怎樣的發現呢？
會找到外星生命，還是發現我們終將在宇宙中踽踽獨行？我們相信，生命在地球上是自然而生的，是在漫長的進化後，實現了與地球資源的高度契合。因此，在其他條件適宜的星球上，生命的存在也必定是可能的。
去年，我們推出了長期研發計劃——「突破攝星」，目標是讓星際旅行變成現實。「突破攝星」是人類初步邁向外太空的真正機會，為了探索和考量移居太空的可能性。
這項創新背後的想法，是以光束來驅動納米飛行器的前進。這樣產生的速度雖然不及光速，但也能達到其五分之一，約合每小時1億英里。這樣的系統可以在一小時內抵達火星，幾天內到達冥王星，一周內就可以追上並超過旅行者號探測器，並在僅二十年後到達半人馬座阿爾法星系。
7
人工智慧的成功有可能是人類文明史上最大的事件。但人工智慧也有可能是人類文明史的終結，除非我們學會如何避免危險。
我相信我們團結在一起，來呼籲國際條約的支持或者簽署呈交給各國政府的公開信，科技領袖和科學家正極盡所能避免不可控的人工智慧的崛起。所以，監管和立法在AI的發展過程中十分重要。
8
通過達爾文式的演化過程，侵略性深深根植於我們的基因之中。然而，如今的技術發展已經加快到了某種程度，使這種侵略性可能會以核戰爭或生物戰爭的形式毀滅人類。我們需要用邏輯和理性來控制這種與生俱來的本能。
你可能並不是一個討厭螞蟻的人，但也會無意中踩死螞蟻，而如果你負責一個水力發電的綠色能源項目，項目所在的區域內也可能會有許多螞蟻巢穴被水淹沒，對螞蟻來說就非常不幸。我們要避免人類處於這些螞蟻的境地。
9
人類面臨的最大威脅是我們自身的弱點，即貪婪和愚蠢。這些人性的基本屬性，將使在人工智慧時代的境況將變的更加糟糕，因為當機器被設定程序後就知道適可而止，知道就流勇退，但是人類很難，除非是那些極高修為的人，才能突破人性的弱點，但是機器人可以輕而易舉的迴避這些弱點。
10
我們還應該扮演一個角色，確保下一代不僅僅有機會還要有決心，在早期階段充分參與科學研究，以便他們繼續發揮潛力，幫助人類創造一個更加美好的的世界。
言信則行正|業如川不止
TAG:言川科技 |