微軟 AI 設計原則：成為弱者，再帶來驚喜

編者按：AI設計的思路是什麼？更完美？更能想用戶之所想？本文作者Cliff Kuang在「The company studied personal assistants–human ones–to understand how to make a great machine assistant」一文中講述了一個微軟從5年前開始的智能助理研究故事，並認為智能助理研究的重點不在於解決問題能力的強弱，而是如何處理與用戶的關係。

在我們對於人工智慧如何改變世界的討論中，你可能不會注意到它已經以一種微妙的方式融入進我們的生活。舉個例子：軟體PowerPoint Designer當前版本所呈現的一個特性。你每一次創建新幻燈片的嘗試，Designer都在以不可見地方式掃描你的內容，試圖找出更好的方法讓這些演示在數以百萬計的幻燈片中脫穎而出。點擊設計標籤，與你隨意放置的圖片和項目符號不同，你會發現有三個不同設置，裡面有更好的字體選擇以及基於幻燈片基調的圍繞圖像邊框。這在幾年前看起來可能很前衛的做法，如今使用起來卻如此簡單。但是這種簡單操作掩蓋了一些陌生而迷人的東西：當微軟第一次測試Designer時，它看起來是絕對的、難以言喻的一種操作。

喬恩·費里德曼與羅娜特·勞倫斯

「在第一次的測試過程中，根據Designer做出的文字與動畫設計讓人覺得電腦比自己更清楚需求。」喬恩·弗里德曼解釋道，身為微軟設計董事合伙人他領導著微軟Office系列。還有一個依然奇怪的事情：如果你按照Designer的建議修改，那麼最終的結果是覺得自己再也無法忍受這種操作了。看起來，電腦並沒有考慮到你接下來的演示是將如何。相反，它只是在一步步地掌握主動權。最終，微軟解決了這個問題，推出了一種更有幫助、更中立的功能，這一功能推出了更符合上下語境的相關建議。但是在這些變化背後，存在一個該公司所控制的人工智慧設計原則：人類是所有故事中的英雄。

當你把這些原則全部羅列出來的時候，這些原則似乎顯而易見：「人類是英雄」「平衡情商和智商」「尊重社會價值觀」「尊重環境」「與時俱進」。但是在這些原則背後存在一個不同尋常的起源故事，它會告訴你許多關於如何設計的事情。這些原則並不是一開始就完全形成的。相反，它們是一個從五年前開始的進展的最終結果，在這裡，微軟花費無數的時間與精力試圖通過觀察真人助手如何獲得客戶的信任而打造一個更好的人工智慧助手。

PowerPoint Designer

探索觀察信任的形式

五年前，設計團隊注意到他們正在測試的原型產品出現了一些很奇怪的事情，這時微軟正忙著與蘋果的Siri進行競爭。他們有兩種不同邏輯的基本助手：一種是用戶幫助訓練助手，另一種是簡單猜測一個人需要什麼並導出結果。事實證明，用戶對前者的態度要寬大的多，而不會對後者特別感興趣即使它表現得同樣好。是訓練助理這件事情讓用戶更能寬容地對待智能助理的錯誤。

「為了研究這一動態，我們開始採訪真人助手，讓他們回想與其他人之間的關係以及自己的任務是如何隨著時間推移而推進的。」 微軟產品規劃與研究高級總監羅娜特·勞倫斯解釋說。這項研究後來演變成研究助理的新工作、觀察他們與新客戶建立關係的過程、並要求他們記錄下自己的感受。但是要弄清這些關係的真相的確棘手。通常情況下，人們立即表達清楚自己的感受的能力很差，所以研究方法圍繞著讓這些人思考音樂或藝術來捕捉他們的情緒和感情。「這是一門很健全的科學，如果你讓一個人去思考音樂以及音樂帶來的情感，人們就會更能感觸到自己的潛在感情。」勞倫斯解釋道。

這項研究是在漫無目的的曠野外進行機器學習研究的轉折點。這是一個Google Now正在開始測試功能的時代，它對人的通勤情況進行預測，或者對人們可能在公共汽車站等多久進行預測。勞倫斯的團隊注意到，用戶可能會感覺這些功能很神奇，但是如果程序錯上一兩次，他們就會選擇將其全部關閉。發現用戶對如此小概率錯誤事件的反映態度，勞倫斯的團隊意識到獲取信任十分棘手，卻也十分重要：除非人類與機器之間建立起了某種聯繫，否則他們永遠不會在機器犯錯以後給予一個恢復正常的機會。

這種看法與他們正在做的助理研究項目相吻合。經過時間的一次又一次證明，助理們的成功並不是因為他們比客戶聰明，而是因為他們的不聰明。而這將直接應用於機器助手的行為設定。「它從人那裡拿走的任務越多，你就越需要注意那些情緒，比如『它會讓我感覺更強大更聰明？還是我僅僅覺得這個系統很聰明』」勞倫斯解釋道。「讓人們在使用一個系統的過程中感覺系統更強大會建立起一種這不再是你的搭檔的感受，從而引起人們對機器是否在為自己工作的擔憂。」

微軟真實的測試了人們對仿製「助手」的反映，一個人坐在假屏幕後面，表現得向一個界面大腦。他們研究用戶對一種看似強大或順從的系統所做出的反映，並監測他們的心率和瞳孔放大情況。這一切都是由現實的助手所證明：你可以袒露自己的局限來獲得信任，從而讓客戶的專業技能引領你前進。但是獲取信任的真正秘訣是什麼？潛心學習更好技能，直到你能以他們從未想過的體貼程度帶給他們驚喜。比如說，在合適的時間，為客戶準備好給兄弟姐妹的完美禮物。或是推薦看起來正好適合他們的酒店。一個好的助手會給你選擇權，然後讓你選擇，而不是強加於你的意見之上。

PowerPoint Designer

隨著時間推移而變化的屏幕  

這些教訓以微軟今天如何設計人工智慧為基礎。首先一個原則是人類應該成為恆星。另一個原則是，這種關係應該隨著時間的推移而發展。為此，微軟正試圖建立一種不同的人工智慧適應模式。這並不是為了讓所有人讚歎於機器所擁有的知識，而是通過向用戶提供可選擇的選項來悄悄獲取用戶的信任。然後，當時機成熟的時候，提供比用戶想像中更聰明的東西。

「給人們提供那些驚人的能力的相反情況可能是超負荷的，依然會有30%的錯誤可能性。」 弗里德曼說道。「這些模型還沒有達到建立高可信度然後進行信任飛躍的階段。我們嘗試著調整節奏，努力建立起一種關係，因為你必須以此映照人與人之間的關係是如何建立的。」

他給出的例子是，當有人在寫一篇研究論文時，識別出一個人的注意力不集中，並從他人的社交圖中提煉出相關的內容庫就做的很好。或者是在有人在製作PPT時，看看有哪些同事做了類似的演示以及哪些幻燈片值得借鑒就做得很好。「如果你還沒有相關內容的許可權，系統可能會幫助你進行操作。」弗里德曼補充說道。所有這些例子都暗示了過去20年用戶體驗發展的相反面。隨著與用戶關係的發展，屏幕不僅僅是一系列可用性屏幕，它也會隨著時間的推移而改變。

勞倫斯說，關鍵在於，電腦能做什麼與它應該做什麼之間存在一種張力。「如何做到尊重用戶？恰當的設計是留心分析它們如何知道自己知道什麼，並給你選擇的權利。」勞倫斯說道。但是培養正確的關係不僅僅是創造機器，並觀察人類如何喜歡它們。相反，應該回到更深層的真相中：當沒有機器參與的時候，人們互相形成關係的方法。

編譯組出品。編輯：郝鵬程

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！