15年研發經驗博士手把手教學：從零開始搭建智能客服
作者 | 邢少敏
編輯 | Vincent
近年來，伴隨著消費升級和企業服務意識強化，大量人工客服需求應運而生。第四範式不久前對外免費開放智能客服平台（鏈接：https://bot.4paradigm.com） ， 幫助各行各業的開發者都能上手使用上智能客服技術。本次課程將全面講解這套智能客服系統的底層演算法與開發實踐，其技術實現原理和細節，將對希望用智能客服來解決業務問題的用戶有一定指導意義。更多乾貨內容請關注微信公眾號「AI 前線」，（ID：ai-front）
視頻時長約
1小時
，聲音較小，請佩戴耳機觀看
大家晚上好，首先非常感謝大家來參加本次的討論。今天給大家帶來的題目是怎麼樣去構建一個智能客服系統。也很感謝極客邦提供的這次機會，讓大家可以一起探討一下這樣的一個問題。
我是來自第四範式的邢少敏，首先允許我花一點時間介紹一下第四範式是一家什麼樣的公司。第四範式是一家人工智慧技術與服務的提供商，主要是基於機器學習為企業找到一些業績的增長點，已經為銀行、保險、互聯網等領域上百多家企業打造了人工智慧產品及解決方案。
第四範式成立以來一直致力於降低人工智慧的應用門檻，我們的企業願景是讓 AI for everyone，讓每一個人都能擁有駕馭人工智慧的能力，正是基於這樣的一個企業願景，我們在不久前對外免費開放了我們的智能客服平台（https://bot.4paradigm.com） ，這是業界首個免費的智能客服平台，僅需 2 分半鐘即可完成接入。自免費對外發布以來，半個月時間已經有上千家客戶在使用。今天這個話題也是圍繞智能客服的技術來展開。
其次是做一個簡單的自我介紹。
我在第四範式做智能客服的研發，畢業於北京航空航天大學，大約有 15 年左右的研發經驗，涉獵的領域也比較廣泛：有對話系統、智能客服、自然語言處理、機器學習等。我最早是在 IBM Jazz 技術平台上的工程師，後來去了環信做智能客服的負責人，曾經帶領團隊研發了環信的智能客服系統。目前我在第四範式主持智能客服的研發工作，帶領團隊研發了智能客服開放平台。
今天分享的提綱主要是分為四個部分，希望通過分享我在智能客服領域的經驗，對各位開發者對理解和應用這個技術有一定幫助。
第一部分是簡單的描述一下智能客服產生的背景、歷史、應用場景、發展現狀等；
第二部分介紹一下智能客服的一般的工作流程，主要的技術模塊和工作原理等；
第三部分跟大家分享一下整個智能客服的研發過程中所遇到的一些技術難點；
第四部分分享一下第四範式在智能客服的研發過程中所做的一些工作，以及遇到的一些問題，我們的技術特點，產品特點，研發現狀和未來的方向等。
智能客服技術概述
我們首先開始第一個部分的分享，第一部分是智能客服技術概述。
首先是智能客服產生的背景：為什麼要有智能客服這樣的一個產品，或者說研究方向呢？主要有以下這幾個原因：
我們日常生活中會遇到大量的客服問題，比如說你打電話給聯通、移動等，或者說在淘寶上買東西，這些問題大部分都是一些重複的問題，而且頻率也特別高，非常的耗人工；
對於一個客服密集型的企業來說，大量的人工客服，造成了企業的客服成本非常的高；
人工客服是沒有辦法做到 24 小時全天候的服務；
在客戶和客服的對話的過程中產生了大量的有價值的數據，這些數據也沒有被很好的利用起來。
基於以上的這些原因，我們就會產生一個想法：能不能有一個機器人來回答這些重複的問題，它能 24 小時的工作不用休息，降低客戶成本，還能挖掘聊天記錄裡面的一些有價值的知識點。這就是智能客服產生的背景。
那智能客服的這個市場規模大致有多大呢？我們沒有辦法知道一個準確的估計，但是我們可以從一些第三方的調研報告裡面得出一些大致的判斷，估算一下它的市場規模：
這是一個第三方在 2016 年做的 2017 年 SaaS 客服的一個市場規模預測，它預測 2017 年 SaaS 客服的市場規模將達到 680 億人民幣。SaaS 客服只是客服中一種，除了 SaaS 客服之外還有企業自建的客服，還有私有部署的客服等等。假如說智能客服可以解決 30% 的客服的問題，這還只是一個非常保守的估計，智能客服的市場規模也是非常大的。
接下來我們看一下如果說要做一個智能客服，那做智能客服的一個基本的目標，或者說它的技術目標是要做到什麼樣的程度呢？它是要完全的替代人工，還是要部分的替代人工呢?
一般情況下，一個智能客服的目標就是我們這張圖裡描述的這些：一個客服的機器人負責回答客戶的一些高頻簡單問題，將疑難問題交給人工客服團隊來回答。那這個一定比例是多大比例呢？我這邊寫了一個百分之 X，也就是說這個比例不太確定，它是根據不同的場景以及不同的技術條件，不同廠商的技術能力而不同的，有的廠商是 80%，有的是 90%，有的甚至 95%，這都是不確定的。
總之智能客服做的一個技術目標就是：
一定比例的解決客服的簡單的高頻問題，將疑難問題仍然交給人工客服團隊。
這是目前智能客服一個基本的技術目標，是一個比較現實的目標。那麼想讓客服的機器人來完全取代人工客服，這個目標到目前為止，在絕大部分場景下還是沒有辦法實現的。不過到現在為止，整個智能客服系統的發展非常快，應用也劃分了很多的細分領域。這個不一定是一個完全準確的分類，只是說從我個人角度來講，它可能是大致能分為這麼幾類。
第一大類是對話操作系統級別的系統。那麼這一類系統比較有代表性的有亞馬遜的 Alexa，這些系統都希望做操作系統級別的人機對話，就是把人機對話直接做成一個操作系統，那在這個系統上開發各種各樣不同的智能硬體、軟體等等這些應用。
第二大類，就是智能客服，智能客服裡面又細分成兩類：一類是企業內部的智能客服，為了企業自身的業務發展需要研發的智能客戶系統；還有一類是對外服務的智能客服，並且以 SaaS 的方式對外服務。
第三大類就是個人助理類，最有名的就是蘋果的 Siri，還有微軟的 Cortana 等。智能家居現在做得比較火熱的就是一些智能音箱，比如說亞馬遜 Echo 等。還有些公司是做一些智能交互的服務，這些智能交互服務主要是自然語言處理和意圖識別方面的服務，其他的廠商可以基於這些智能交互服務做一些自己的應用。
另外還有一些教育類的教育機器人，知識問答類的機器人和開放領域聊天類的機器人。
最後一類是開放平台，這個開放平台也可以叫 Bot Factory，比較有代表性的，有 Google 的 API.AI、Facebook 的 Wit.AI、還有微軟的 Luis.AI 等等。這些開放平台主要是做任務對話方面的一些定製。
在以上多個細分領域的應用中，智能客服系統最常見的功能有哪些？目前最常見的形式是在人工客服系統基礎上，擴展出智能客服的功能，最常見的功能有
單輪問答、功能對話和人機協作。
單輪問答，單輪問答就是說，一問一答，但是沒有記錄上下文，每一次問答和下一次問答都沒有任何的關係；
多輪對話，意思是說，是帶著上下文來問答，每個問答可能跟它的上文是有一定關係，或者是它記錄了上文的一些信息；
人機協作，人機協作是一種比較有效的一種智能客服功能，現有的方式主要有兩大類：一類是機器人加人工進行問答，另外一大類是機器人推薦答案，人工選擇回答 。
那麼機器人和人工如何進行協作呢？我們這裡舉幾個例子：比如說上班的時候人工來回答，下班的時候機器人來回答；普通的客戶機器人來回答，VIP 客戶人工來回答；或者是說分渠道來選擇，比如說微信渠道來的機器人回答，手機渠道來的人工回答；還有就是機器人優先，機器人答不出來，轉給人工回答。
當然並不限於我們在這裡舉出的這幾個例子，還可以根據業務需求，定製複雜策略：機器人推薦答案給人工，人工客服來選擇和編輯答案、或者給出另外一個答案，機器人在這裡起到了一個人工客服小助理的角色，這也是最常見的人機協作方式。
智能客服工作原理
剛才我們是給智能客服做了一個概述。接下來，我們介紹一下智能客服的工作原理。
一個常見的智能客服，就包括以下這些模塊並且按照一個類似的流程進行工作。
首先可能會有一個 ASR（語音識別）模塊，也可能沒有，這取決於具體廠商的一個選擇，這個語音識別模塊會把語音轉換成文字。
如果沒有語音識別模塊，直接就是文字，會首先對這個文字做一個問句的理解，或者說做一個查詢的理解，理解完以後，再對意圖做一個識別；最後，我們把這個問句的理解和意圖識別的結果帶到對話管理系統裡邊，對話管理系統會決定到底是給哪一種機器人發過去，這些機器人最後給出答案，將答案返回。
對話管理系統可以選擇一個機器人將問題發過去，也可以同時將問題發給所有的機器人，當它們都回復答案時，進行答案選擇再返回，使用哪種方式取決於廠商自己的一個選擇。
上圖中這四種機器人分別對應了四種不同的模塊：
第一種是任務管理類的模塊，比如說訂機票，它屬於一個特定的任務，這種機器人就類似蘋果的 Siri，是任務處理類；
第二種是知識庫問答，也就是諮詢問答類的，只是做一些諮詢類的工作，一般情況下，它並不處理實際的一些任務；
第三類是知識圖譜問答，知識圖譜是知識庫常見的是提供一個問答對結構和一個樹型結構，知識圖譜提供一個圖結構，可以認為是一個廣義上的知識庫問答。
第四類是聊天機器人的技術，聊天並不是客服的首要功能，客服主要是解決問題的，不是來聊天的，為什麼在一個智能客服系統裡面會有聊天這麼一個功能呢？原因在於，一是在用戶沒有輸入知識庫內容的時候，這個聊天機器人會被客戶當成是測試廠商機器人技術能力的評測對象；二是在某些場景下，會讓整個客服對話沒那麼單調。在實際的智能客服系統裡面，一般也可以選擇讓用戶可以關閉聊天功能。
接下來我們把這張圖展開，一個模塊一個模塊的講，因為一般很多客戶主要還是使用文字客服，語音識別屬於另外的一個領域了，所以我們這裡暫時不展開語音識別的內容。
自然語言理解主要做一些什麼事情呢？比如說用戶的問題如果是多句話，那麼我們做一個「分句」，對每一句話來尋找答案，最後呢，將答案組合起來，發給用戶；「分詞」很常見，分詞後才能理解，才能進行標註，進行實體識別，這是常規的一些處理，然後就是句法分析、指代消解，再有就是詞權重、語義相似度等等，做這些分析都是為後面的演算法做準備，這是第一部分的預處理工作，就是自然語言理解或者自然語言處理的內容。
第二部分的預處理工作就是意圖識別。意圖識別主要是用戶的這句話暴露了用戶什麼樣的意圖，比如說我們這個例子里：「今天天氣怎麼樣」，這個意圖實際上就是用戶要問天氣。那麼如果用戶說「幫我定一張去上海的機票」，這個意思就是用戶要訂機票。
那麼意圖識別一般是怎麼實現的？就是有模板和分類器兩種方式。模板的方式，比如說：「北京今天天氣怎麼樣？」我們會建一個叫「city」的詞典，這裡面會有北京、上海、天津等城市；我們會把今天、明天、後天等等也做一個詞典，詞典名字叫做「date」。這樣如果滿足剛開始有一個「city」，中間有任意字元串，然後再有一個「date」，然後再有「天氣」這個詞，就滿足了一個模板，那麼我們基本上可以認為它是一個詢問天氣怎麼樣的意圖，這是模板的方法。
分類器的方法很容易理解，我們在某一個特定領域裡面收集大量語料，人工去標註這些語料是屬於哪種意圖的，用分類器模型來做一些二分類或者多分類的分類器，用來判斷意圖。但是分類器方法需要大量人工標註的數據，以及如何去收集多個領域裡面的語料的問題。
接下來整個系統裡面就進入了功能模塊。我們先看功能模塊的第一個最常見的模塊，這也是智能客服系統裡面常見的一個功能，就是知識庫問答的功能。
知識庫問答的技術本質也是用一些跟搜索引擎相似的技術，分為兩個階段：第一個階段是侯選集召回，第二個階段是重排序。
首先是侯選集，侯選集召回有很多種方式，和搜索引擎相比，相對簡單，原因是搜索引擎要召回的量特別的大，但是知識庫，因為是人工導入的，它的召回的就沒有那麼複雜。
第二是重排序，其實我們可以用文本相似度、檢索相關度，如果有足夠數據的話，還可以用神經網路的語義相似度等，來做重排序工作。這些工作也可以用多模型融合的方式來做，將多個模型的結果綜合考慮得到最終結果。這些都跟搜索引擎的技術沒有特別本質的區別，也會有些微小的差別，這是知識庫這塊的工作。
接下來是跟知識庫比較相關的一種工作，知識圖譜問答。
知識圖譜問答最難的一點在於數據的整理，其次是工具方面。有很多開源的工具，我們列出來這幾種（見上圖），大家也可以自己去研發一些知識圖譜的工具。
假設我們解決了數據來源和更新的問題，同時也有了工具，接下來要做的事情就是查詢轉換的工作。
因為一般的知識圖譜工具都會有一些自己的查詢語言，那麼我們所要做的工作實際上就是把自然語言通過某種方式轉換成知識圖譜的工具所支持的查詢語言。
查詢轉換也有常見的兩種方式，一種是可以用模板，做一些查詢轉換的工作；如果有足夠多的數據，也可以用機器翻譯的方式來做。
這裡還有一些我們自己的系統支持的知識圖譜問答的例子。我們現在的系統已經具備了通用知識圖譜的能力，行業知識圖譜或者自定義的知識圖譜很快會上線。大家就可以看到，這是第二個模塊，知識庫和知識圖譜可以整合成一個模塊來做，統稱為知識庫問答。
那麼第三大塊就是對話技術。對話技術就是我們前面所說的任務對話等等，比較典型的有三大類：
第一大類是一種用狀態機，或者和狀態機類似的填槽方式。這種方式的主要特點是將整個的對話過程抽象成一個有限狀態機，每一輪對話，或者每幾輪作為一種狀態，隨著對話狀態的進行，這個狀態機在不斷的遷移，最終對話結束，狀態機也結束。這裡面的所有狀態，以及所要執行的動作都是事先約定好的，所以狀態機它比較適合一些場景簡單的對話，對於場景複雜的對話，狀態機這種方式就已經不太適應了。
第二大類就是馬可夫決策過程（Markov Decision Process, MDP）的方式，它和狀態機的區別在於它裡面增加了動作，狀態機裡面的動作是我們事先約定好的，是固定的動作，已經事先知道對話到了那時候，於是就固定的採取這樣的動作，但是 MDP 這種方式，狀態不確定，動作也不確定，所以說我的狀態和動作是需要根據我的上一個狀態和將要採用的動作做了以後的回饋（Reward）來進行決策的，所以說這個決策過程在特定領域裡有足夠的語料的時候可以做出很好的效果，但是我們得想辦法去找到合適的領域，以及找到足夠的語料才能做這樣的事情。
最後一類是端到端的模型。端到端的模型主要出發點是：我有一個問題，把問題輸入到一個模型裡面之後，這個模型是幫我解決了我們之前整個對話過程所有流程的所有問題，而這個模型是需要從數據裡面去學習，包括自然語言處理、意圖識別，包括整個系統裡面方方面面的各種東西都要學習到。這個模型對於我們來說它是個黑盒，我給它一個問題，它也能給我答案，我並不需要仔細的去研究裡面是怎麼做得，我只需要設計訓練這麼一個模型就行了。
那麼這三種方式是現在的比較常見的三類對話技術，第一大類，像狀態機和填槽這一類是商用系統的主流；第二大類是學術界的主流，但是工業界也在積極的嘗試，有的也已經落地，或者接近落地；端到端這種模型，主要還是停留在學術界的研究階段，我並沒有看到哪一個商業系統已經做到了端到端的模型的產品化，還沒有成為商用主流的技術。
左上角是一個狀態機示意圖，右下角是一個 MDP 模型示意圖。
最後一個模塊，就是聊天機器人。
在智能客服系統裡面通常都會有聊天機器人的模塊。這個模塊主要有兩種做法：
第一種就是檢索式，比如答案是事先編輯好的，並不會隨便生成，在檢索式裡面又會分為兩大類：第一類是用大量的語料和模型來訓練，收集大量的語料，把問題和答案給一個神經網路的模型，用這個模型幫我去找到問題和答案之間的相關度，這樣的話，就能夠用大量的語料訓練出聊天機器人模型，這是最常見的一種方式；
第二種方式是基於規則來做，使用類似於之前介紹過的 Alice 機器人所用到的 AIML 標記語言，寫大量的 pattern，以及在這個 pattern 下所需要的答案，寫大量這樣的人工規則就可以做一個檢索式的機器人，但是這僅限於少量的小規模應用，如果需要編輯大量的規則，規則之間可能會有衝突等問題，所以主流的這種聊天機器人的方式是我們說到的第一種，用統計模型和大量的語料來訓練聊天機器人。
第二種是生成式的聊天機器人，我需要把我的答案直接生成出來，這種方式是需要限定在一定的領域裡面。開放領域裡直接生成式的聊天機器人會有一些敏感詞的問題，因為語料一般是網上收集的，想做到所有語料都人工審核成本是巨大的。所以說生成式需要把它限定在一個特定的領域裡面，生成式分為兩種：一種是純粹的生成，一種是基於一些模板來生成。
基於一些模板來生成，是說對答案事先定製好一些模板，生成的答案只是在模板里填空，這樣的話就能控制答案；第二種生成是純粹的生成式，但是只能把它用在特定的一些場景下，並不用它來做全開放的聊天機器人答案的生成，只能夠用它來做一些限定領域的，比如對聯的生成、古詩詞的生成等，這些風險相對較小。
講到這裡，我們基本上已經把最開始的那張流程圖裡的所有的技術點講的差不多了。
智能客服的技術難點
第三部分就是跟大家一起探討一下智能客服的技術難點：我們在做智能客服這樣的一個系統的時候，可能會遇到哪些的技術難點？主要有這麼幾類：
第一個難點是：
數據冷啟動的問題。
數據冷啟動就是說在絕大多數情況下，我們實際上是沒有足夠的數據來訓練模型的，這個時候，我們怎麼做？
在面對這種數據冷啟動的問題，很多模塊的設計裡面都會考慮怎麼樣去在缺少數據的情況下把這個事情做起來，大致有兩種辦法：一是先用一個通用的模型，等到數據足夠多的時候優化這個模型；第二種是先用規則的方法做，先把這個模塊做起來，等到數據足夠多的時候，再來啟用模型的方法，這兩種方法都可以走的通，但是要根據具體的情況來具體分析。
第二個難點是：
多輪對話的問題。
尤其是多領域的對話，多領域的多輪對話仍然是一個難題。在一個單領域裡面，我可以把對話技術做得很好，比如說像最簡單的訂機票可以做得很好。但是如果說在很多不同的領域裡面，這邊是訂機票、查物流、那邊又是去做一些其他的什麼電商相關的事情，這個多領域的對話怎麼辦？我們是沒有辦法在多個領域都拿到足夠的數據，在這種情況下多輪對話是一個比較困難的問題。
第三個難點是：
人機協作。
人機協作這塊現有的方式前面已經提到過了，現有的方式實際上沒有辦法最大化機器人的價值，也就是說機器人在整個智能客服的系統裡面它起的仍然是一個輔助的作用，而不是主要的作用。
為了發揮這個機器人的作用，我們需要去探索一些新的方式，比如說我們能不能做到人為輔助，然後機器人來主要回答這個用戶的問題呢？這也是我們現在正在研究的一個新的方向，對於這些技術難點其實我們也可以共同來討論有什麼樣的解決方案。
第四範式智能客服
那剛才我們講了很多，一個智能客服系統，它是需要什麼樣的能力呢？總結一下：
首先需要有自然語言處理的能力，一個智能客服系統其本質就是一個自然語言的對話系統。而機器學習、深度學習等都只是實現自然語言對話系統的手段。
其次要有意圖識別的能力，要有一些知識庫問答、知識圖譜問答、任務型對話等能力。一般情況下，還需要對智能客服系統提供聊天的功能，這才是一個比較完整的智能客服系統。
然而對於企業級開發者來說，智能客服的接入是有一定的門檻的。
實際上，開發一套智能客服系統，需擁有自然語言處理、意圖識別、知識圖譜、單輪 / 多輪對話等引擎作為支撐，其中涉及自然語言處理、語義相似度、狀態機、高維機器學習、深度學習等諸多底層演算法……
這樣的門檻讓很多沒有人工智慧人才與技術儲備的企業難以獲得智能客服。此外，現有的很多智能客服系統都是封閉的，你並不了解它裡面是怎麼工作的，它也不會去向外開放，這就讓用戶沒有辦法在它上面做二次開發。為了改變這種行業困境，第四範式研發了智能客服的開放平台，幫助企業級開發者零成本、零門檻地搭建自己的智能客服系統。
首先看一下第四範式智能客服的一個概念圖：
我們會有基礎服務層，基礎服務層裡面會有自然語言理解的各種服務，因為這是我們系統的一個示意圖，所以它裡面只寫了很少的幾個部分，實際上我們所做的遠遠不只這 5 個部分，自然語言理解有很多的事情，我們都做了。第二個是意圖識別的服務，這兩個作為一個基礎服務層為上層的功能模塊來服務。
再往上就是四個功能模塊：任務對話、知識庫、知識圖譜，還有聊天機器人。在這之上是全渠道低門檻接入，我們現有五個渠道，後面還會擴展更多的渠道，是一個真正的全渠道接入的智能客服。
還有一點，有一個反饋自學習層，這個反饋自學習是根據客戶對答案的反饋，以及人工客服對答案的反饋進行自我學習，一是調整、問答質量，二是對知識庫做一些生成。
圖中是我們所提供的四個功能模塊。我想重點想講一下我們整個產品有什麼樣的特點：
第一個特點就是針對之前講的，客戶覺得接入門檻高的問題，我們全渠道都是分鐘級接入，現有的渠道（APP、微信公眾號、Web 端、微博等），以及未來的一些渠道都可以在幾分鐘之內快速接入，就是讓用戶快速的擁有智能的能力；
其次我們有一個自學習的模塊，自學習就是我前面所提到的，它在整個過程中會去學習一些反饋，這些反饋達到一定量的時候它會反映在這個問答的結果上，或者說對知識庫做一些調整；
再次，我重點想講一下開放平台，首先我們的智能客服產品是一個免費的 SaaS 服務，它的基礎服務是永久免費的，如果一家公司想要使用我們的智能客服系統，並且它的需求在我們的研發計劃之內，那麼它可以永久免費的使用我們的服務。
那麼為什麼我們要做這樣一個免費的開放平台呢？第四範式的企業願景是把 AI 的能力賦能給企業客戶甚至是個人。因此我們希望做一個開放平台，允許企業的開發者、甚至是第三方的廠商，在這個已經很成熟的基礎的技術平台上，做出自己企業需要的智能客服系統，或者做出自己細分領域的解決方案，只有這樣，智能客服這個市場需求量極大的技術才能真正遍地開花。
接下來這三張圖是通過不同的接入方式接入以後的實例：
下面兩張圖分別是安卓的手機接入和 IOS 的手機，因為安卓和 IOS 採用的是 SDK。它最典型的場景是集成完以後，在這個手機 APP 上點一個類似於「聯繫客服」這樣一個按鈕，就會出現下圖中這樣的一個聊天窗口，用戶就可以和機器人對話。
最後再分享一下第四範式智能客服的開放平台網址：
鏈接：https://bot.4paradigm.com
建議用 Google 瀏覽器打開。
今天的分享就到此結束了。非常感謝大家的時間，謝謝。
作者介紹
邢少敏
，第四範式智能客服負責人 & 資深數據科學家，畢業於北京航空航天大學，獲博士學位。15 年研發經驗，對話系統、智能客服領域專家，在自然語言處理、機器學習、深度學習、互聯網系統技術架構等領域擁有豐富經驗。前 IBM 資深工程師，IBM Jazz 技術平台核心工程師。前環信智能客服技術負責人，從 0 開始帶領團隊研發了環信智能客服系統。目前主持第四範式智能客服的研發工作，帶領團隊開發了智能客服開放平台。
※阿里新一代實時計算引擎：Blink
※想入門AI？先掌握這些數學知識再說！
TAG:InfoQ |