MIT精神變態AI諾曼與亞馬遜數字助理Alexa合二為一會怎麼樣？

圖片來源：MIT

如果像歐文小說中主人公瑞普·凡溫克一樣，你在過去的十年中睡著了，並且剛剛醒來，你的翻蓋手機已經成為復古技術專家和生存者之間的熱門話題，哦，是的，人工智慧(AI)或許會殺了你或拯救你。

人工智慧是困擾社會的一長串技術術語中的最新一個，如果我們相信受人尊敬的技術分析公司Gartner的人，2018年將是人工智慧真正融入我們日常生活的一年。正如在波士頓動力公司製作的超現實機器人，或在中國公立學校中部署面部識別AI一樣令人不安，這種技術是人類狀況的產物，因此，我們將自己的文化嵌入其編碼的DNA中。

關於人工智慧的爭論目前集中在道德觀念上。在文化研究中，道德被納入價值觀之中，它們已經成為人工智慧如何融入我們生活的思考的重要組成部分。沒有討論的是誰的道德，以及最終是誰的價值觀。

是西方與東方，還是美國與其他人?由於文化中的價值觀受到社區和更大社會的影響，道德取決於社區價值觀發展的文化背景。

「教化」

因此，文化在人工智慧的形成過程中發揮著重要作用，通過所謂的數據融合。

前英特爾副總裁兼文化夢想家，人類學家吉納維芙·貝爾能夠引導這位科技巨頭更加深刻地理解文化和人工智慧如何相互影響。

貝爾的研究表明，人與技術的互動在文化上並不普遍。它既不相同也不是客觀的，我們在有意識和無意識的層面上對整個技術內部和整個文化進行編碼。

如果這是真的，人工智慧的最終文化發展會發生什麼?

對於人類學家來說，人類文化進化有許多標記：會使用工具，抽象思維的發展，以及更基本的創造語言交流。

文化始於兩個或更多生物實體開始交流和交換信息，並且更複雜的是創意。非人類AI實體之間的文化發展尚未被討論過，更不用說人類和人工智慧文化的融合。

機器人開發了自己的語言

去年，Facebook的人工智慧研究小組(FAIR)簡要提到了一個實驗，其中兩個機器人的任務是相互協商。據報道當時機器人開始開發一種更有效的語言來相互溝通。

Facebook的計算機科學研究人員很快就停止了在這兩個機器人之間快速發展的人工智慧語言展開，並不是因為他們害怕AI自我創造的出現，而是因為機器人沒有返回預期的結果 ——用英語進行談判。

在一個代碼基本上由0和1組成的世界中，是或否命令，沒有太多意外的空間。但有時候，我們應該抓住機會，探索各種可能性，因為文化並沒有以單一的方式表現出來。

文化就是我們所創造的。這是一套我們作為一個社會所認同的規範，有意識或無意識地，它描述了我們在日常生活中如何運作。

AI可以吸收文化

人工智慧在未來具有獨特的能力，可以吸收世界上所有的文化規範和價值觀，開發出一種潛在的真正的泛全球文化。但首先，我們是人工智慧的創造者，必須了解我們的角色以及我們如何影響這種吸收能力。畢竟，AI代表了構建它的人的文化縮影，以及那些為AI的基礎數據框架提供輸入的人。

科幻小說家阿拉斯泰爾·雷諾茲(Alastair Reynolds)在他的書《絕對差距》(Absolution Gap)中描述了一個行星，在這個行星中，唯一的智慧生物是一個巨大的海洋，它吸收來自眾生和生物的信息。大海從這些信息中學習，並將這些知識重新分配給其他生物。

我們所知道的人工智慧的當前表現非常像虛構的海洋，吸收知識並用自己的文化數據選擇性地分配它。

以雷諾茲的知識吸收海洋為例，人工智慧目前就像地球上分離的鹽和淡水水體 —— 每個都有自己的生態系統，孤立且獨立。

當這些非常獨特的生態系統開始相互溝通時會發生什麼?當各種人工智慧實體開始在新形成的文化中交換信息和談判現實時，如何確定規範和價值觀?

諾曼是一個警告

麻省理工學院的諾曼(Norman)，一個基於虛構的精神病患者的AI人格特徵，產生了我們在人類中早已知道的一個獨特的例子：長期接觸暴力是對文化規範和價值觀的看法是支離破碎的。這對未來暴露和傳播給其他AI來說，是一個的真正危險。

會怎麼樣?

想像把諾曼和Alexa結合起來。 這兩個AI都代表了製作它們的人，消耗的人類數據以及內在的學習需求。 那麼它們之中的文化價值觀和規範會更有說服力呢?

諾曼是為了從精神病患者的視角看到所有數據而建立的，而作為數字助理的Alexa只是想取悅人類。 有無數類似性格的人類例子在彙集時會出錯。

社會科學家認為，關於人工智慧的爭論將會爆發，因此，多種版本的人工智慧必然會共存。

隨著哲學家、人類學家和其他社會科學家開始表達他們的關注，社會反思人工智慧所需的有用性，質疑現實和我們的期望，並將其發展影響到一個真正的泛全球文化環境的時機已經成熟。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！