自動回復的新境界！看看谷歌的AI是怎麼寫郵件的！

Google日前於Google IO大會上展示了Smart Compose技術，能夠在使用者撰寫電子郵件時，只需輸入前半段語句，系統就會自動預測並推薦適合的後半段內容，能夠有效增加文字輸入速度並提高生產力。這種技術最大的挑戰，就是該如何讓AI了解自然語言，並能夠產生恰當的語句。

從自動回復進步到自動編寫

先前Google曾推出Smart Reply，能分析Gmail信箱收到的電子郵件，並自動產生多組回復範本，方便使用者快速點選並回信。而這次推出的Smart Compose，則是將功能提升到新的境界，它能夠在用戶輸入電子郵件的過程中，即時預測接下來的語句，並以類似自動完成的方式，協助用戶完成後半段語句。

不過兩者畢竟還是有著許多不同。傳統的自動完成是通過記錄先前曾經輸入過的語句，並在偵測到輸入相同內容時，將後半段語句顯示出來，在輸入地址等長用固定語句時能發揮很大的功能，但是它並沒有能夠「憑空產生語句」的功能。Smart Compose則是通過AI與機械學習的方式，來產生有意義的回復。

Smart Compose在設計主要有3大考量，首先系統的反應速度要很靈敏，需要在0.1秒之內即時產生回復。再來需要提供不同類型郵件內容的準確分析，以滿足超過14億Gmail使用者的需求。

最後則是為了確保使用者的隱私，所以限制開發人員接觸郵件內容，這也意味著開發人員要在無法閱讀郵件的前提下，設法訓練深度學習系統。

Smart Reply能分析郵件，自動產生適合的回復內容

GIF

Smart Compose能在用戶撰寫郵件時，即時產生適當的語句

通過TPU提高性能

為了要滿足即時顯示預測語句的目的，開發人員捨棄Sequence-to-Sequence序列式自然語言分析，改成融合Neural Bag-of-Words（BoW）與RNN Language（RNN-LM）等語言產生模型（Language Generation Model）的技術，能在犧牲少量預測精準度的情況下提升速度。

在決定模型之後，下一步就是要調整模型的超參數（Hyperparameter，在系統開始學習之前設定的參數），並透過數十億則範例來訓練系統，並使用TPU進行訓練工作，來縮短訓練所需花費的時間。

在系統訓練完成後，若使用一般處理器進行運算，產生語句預測大概也需花費數百毫秒的時間，仍無法滿足使用上的需求。因此Google仍然依賴TPU進行運算，能讓所需的時間縮短至數十毫秒，並大幅提升單一伺服器能夠同時處理的工作數量。

系統在產生預測時，會將先前的郵件中的信息編碼並嵌入到演算過程

TPU能在機械學習的訓練與實作中大幅提升運算性能

開發團隊表示他們會持續改善預測語句的品質，並採用最先進的訓練方式進行實驗，一旦這些新的技術能夠滿足低延遲等條件，就能正式應用於Smart Compose。此外開發團隊也著手於個人化的語句模型，以求更加精準模擬每個使用者的文筆風格。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！