能定餐館的 Duplex 沒說自己是 AI，這會是人工智慧的道德困境嗎

最近遭受到道德困境的不只是基因編輯，還有人工智慧。

在今年夏天的 Google I/O 大會上，Google 向大眾展示了一項名為 Duplex 的 AI 新功能——代替你預約理髮或者餐館。

這項功能之所以這麼受人關注和讓人激動，最大的原因就它接近以假亂真的讓 AI 用自然語言和真實的人類交流，而人類甚至完全沒有意識到電話對面並不是真人而是來自 Google 的 AI。

最近，這個服務終於在 Pixel 用戶群組中小範圍進行測試了。根據 VentureBeat 的報道，目前 Google 正在緩慢推送這項服務，而不是直接正式開放上線，目前只在「精選城市」中的 Pixel「精選用戶」中測試，凡是支持這個服務的人上輩子大概都是被選召的孩子吧。

此外。這個服務目前功能上也非常有限——哪怕是對比 Google I/O 上演示版本。因為目前的測試中並不支持理髮的預訂（Google I/O 則專門演示了一段預約理髮的視頻），只集中在餐館預訂，此外一些餐館也因為一些不明原因無法支持。

當 Duplex 開始預約的時候只會告訴對方「這個電話來自 Google，並可能會被記錄。」僅此而已，之後它就會按部就班的開始餐館的預約，並在處理完成之後掛斷電話。

而這顯然跟之前的宣傳不符，The Verge 表示，在 Google 今年 6 月份發布到 Youtbe 的宣傳片中，Duplex 會清楚的表示它是一個人工智慧服務，會表示這通電話是通過 Google Assistant 呼叫並為客戶進行預訂。

對於為何會出現這樣不同的處理，The Verge表示根據熟悉早期測試的人士說，這個測試並不完全由 AI 構成，即一部分呼叫來自真實的 Google 員工，而其他的部分則是來自 Google 的 AI 呼叫。所以 Google 沒有透露出這個人工智慧助理的信息。

顯然，人和 AI 的界限在這裡被模糊了，因為 Duplex 聽起來已經和真人非常接近了，它會有停頓，會有各種各樣的語調和語氣詞。但對於大眾來說，這個測試會被理解為完全使用 AI 來進行，而在人和 AI 的對話中，人們非常需要 AI 表明自己的身份。

準確而智能，透明而誠實

另外，Google 也在自己的博客向我們展示了 Duplex 究竟是如何工作的。

Google 表示這是一項通過手機來執行「真實世界」任務的新技術，而其中的核心就是面對自然語言的挑戰：自然語言難以理解，自然行為難以建模，需要快速處理以及使用恰當的語調進行自然語言發聲，都是其中的難點所在。

而 Google 也明確表示了透明度在其中是一項重要的部分，Google 需要明確的告知意圖而對方理解前後文，未來接個月 Google 還會在這方面繼續進行調整。

而讓 Google Duplex 的對話聽起來很自然則要歸功於遞歸神經網路（RNN），為了應對這些挑戰採用了 TensorFlow Extended（TFX）進行構建。而為了提高精度，Goole 還通過匿名電話的會話數據在語料庫上訓練 Duplex 的地櫃神經網路。他們還為每個場景專門對理解模型進行了訓練。最後通過理解、互動和時間完成Duplex 在「口語」上的進步。

最後 Google 表示，Google Duplex 朝著人類像和他人一樣與技術互動邁出了一步，自然語言與技術之間的交流在特定場景中成為現實。 Google 希望這些技術進步最終將有助於改善人們與計算機日常交互的體驗。

但就像最開頭的說的，與真人的界限的模糊更需要 AI 來先驗明正身，而不是裝作和真人無異對於人類來說是一件很重要的事情，或者說這件事需要這樣的一個儀式感。隨著技術的演化前進，AI 可能很快就在大部分語音接聽領域達到接近人類的水平，屆時關於人工智慧的倫理問題將會更加直白的擺到桌上。

從結果上講，人類並不願意和與真人幾近無異的 AI 進行對話，這會給他們一種不安全感，類似的事情其實也發生在外貌上，著名的恐怖谷理論看來不僅僅可以用在外貌上，在聲音上其實也有著相似的狀況。

而牛津互聯網學院的數字道德實驗室博士 Thomas King 就直接表示Google 的這項測試其實就是個騙局，假定人類和 AI 已經無法區分，那對於一個接線員它會認為自己一直在和一群機器對話（所以接線員也換成 AI 不就好了？），那他還能保持和以前一樣的溝通方式嗎？沒有禮貌和更粗魯是不是也沒有關係？哪怕接到了一個來自真人的電話，但這種想法或許已經在他腦海中揮之不去了。

科幻電影《HER》

對於人類來說，如何思考人與科技的關係已經是一個可以說已經是一個日經的話題，我們也不缺乏相關的科幻電影對其的想像，比如施瓦辛格主演的《第六日》就討論了人與克隆人的倫理衝突問題，而 2004 年《機械公敵》把阿西莫夫三定律帶到了大眾視野，電影《HER》則進一步探討了人類和人工智慧的情感的問題。

但等到 Duplex 把人類與人工智慧的關係在現實中擺出來時，人類可能才發現自己有多麼敏感和自我保護。對於 AI 沒有標明身份這件事上，我們已經衍生出了很多問題和想法，在人與人工智慧產生聯繫的過程中，雙方的地位、責任以及更多的事情都會變得難以認定。

某些時候，如果我們忽略一些 Bug 問題，其實計算機是比人類更完美的一種形態，他們能確實的反應出你的行為和如實給出你要的結果，但隨著人工智慧模擬真人越來越像，我們可能反而更加容易和 AI 產生矛盾和摩擦，導致與我們預期的結果不符或者受到其他損失。

因為，人類就是如此不完美的生物啊。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！