人工智慧新書life3.0 生命3.0 簡析內容18

繼續為各位呈現我關於生命3.0一書的讀書筆記。

回到一開始的問題，如果我們順利的駛超人工智慧了解和採納我們的目標，那麼它將始終保持不變嗎？先以我們自己為例，當我們長大的時候，智力會顯著增長，但我們並不總是保留著自己童年時的目標，相反我們經常在學習新事物之後大大的改變目標，沒有證據表明目標的演化在超過某個智商門檻之後就停止了。

實際上隨著經驗和見解的增加，改變目標的傾向反而會增加，為什麼會這樣呢？我們剛才分析了AI會從硬體軟體以及對世界的認知這三個方面提高自己實現終極目標的能力，而對於世界的認知升級，會使他對那些有誤導性的缺乏意義的或者沒有被明確定義的目標有新的認識。

比如說我們創造出一個超人工智慧給它設定的目標是儘可能地增加人們去世後通往天堂的靈魂數量，一開始AI還可能嘗試勸說更多的人去教堂做禮拜以及增強人們的惻隱之心，但是假如他獲得了關於人類和人類意識的完整的科學認知，他很可能驚訝地發現唉人死後並沒有靈魂，同樣的我們基於目前對世界的理解給予了AI其他目標，比如最大限度地發揮人的生命的意義，這些最終都可能被AI認定為誤導性的缺乏意義的或者沒有被明確定義的目標。

此外，為了更好地塑造世界AI，可能像人類一樣也試圖理解自己是如何運作的，換言之就是自我反思。如此一來，他將會理解我們在原數據層面給出的目標，於是可能選擇不理會或者顛覆這些目標，就如同人類發現自己基因的目標就是複製，於是我們發明了避孕套，從而一方面滿足了自己，另一方面通過欺騙阻止的基因實現自己的目標，這其實是利用了基因的漏洞把我們的大腦獎勵系統黑了一把。同樣的道理，我們現在直入AI的目標就相當於AI的基因，他未來完全有可能發現這些目標非常無聊，於是找到我們編程中的漏洞，然後將該目標顛覆掉。或許啊真的存在一種方法，使得超人工智慧可以永遠保留人類的目標，但我們現在還不知道怎樣做到，甚至不知道有沒有可能做到。

總之，AI的目標校準問題有三個部分，現在一個都沒有解決，我們需要在超人工智慧出現之前儘快的找到答案。剛才我們已經談論了如何讓機器了解採納以及保留我們的目標，但我們是誰呢？

我們在談論誰的目標，希特勒和聖方濟各（宗教人物）的目標，那可是南轅北轍，應該由某個人或某個團體來決定未來超人工智慧所採納的目標嗎？是否存在一些全人類經過妥協達成的共識性目標。這個問題和目標校準問題一樣，必須在超人工智慧出現之前得到解決，否則將是災難性的。一個很聽話的超人工智慧，其目標將與它的所有者自動校準，自己則缺乏道德指南或禁忌冷酷高效的執行所有者的目標，無論這些目標有多麼的傷天害理。

哲學家們就夢想著用無可爭議的原則和邏輯從零開始推導出道德規範，也就是我們應該如何行事的原則。

可惜幾千年過去了，我們達成的唯一共識就是沒有共識。比如康德強調說他可以從所謂的第一原則推導出以下結論，手淫比自殺更糟糕，同性戀是可恥的，可以殺死私生子等等，相信現代人都不認可這些結論。儘管如此，還是有一些道德主題存在著廣泛的共識，同時跨越了文化和時代，比如真善美，我們認為這些道德原則其實遵循著更基本的原則，例如求真就是我們之前提到的更新對於世界的認知，你越了解真實的世界，就越有助於實現自己的目標。關於美，其中一部分內容也和更基本的目標有關，比如人們對於異性的審美標準往往和對方的生殖能力相契合。至於上崗，大多數文化和宗教都出現了所謂的黃金法則，可以用己所欲施於人來概括。深層次的目標就是通過增進合作促進人類社會，當然就包括了基因的和諧和延續。所以說，那些存在廣泛共識的道德主題都有一個相同的目標，那就是促進我們的生存和繁榮。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！