Facebook利用人工智慧調整網路伺服器性能

至頂網報道

來源：ZDNet

機器學習近年來已被用於調整機器學習本身的性能，那麼為什麼不用機器學習來提高網路伺服器的性能呢？

Facebook的研究人員就是這樣做的，他們周一發表了有關用機器學習調整運行在社交網路伺服器基礎設施上的伺服器設置文章。

Facebook與所有互聯網服務一樣也運行所謂的A/ B測試，目的是評估伺服器在各個變數發生變化時的運行情況。有些人調整過不同版本的網頁，例如改變按鈕的外觀或文本的布局，他們就知道，調整（例如在一個商業網站上的調整）可以優化諸如點擊率或購物車使用之類的東西。

Facebook的科學家在這項研究中研究了實時生產系統（JIT：Just- in-time）編譯器選項的改變對性能的影響，編譯器將Python轉換為Facebook用於提供HTTP請求的開源Web伺服器內的本機x86伺服器代碼，即「HipHop虛擬機」。

例如，可以將JIT設置為執行給定代碼塊的內嵌之類的操作。這樣的調整會令代碼更大些，因此需要進行A / B測試，原因是更大的代碼會消耗更多的伺服器內存，因而有必要確定是否值得這樣做。

文章的作者用了名為「貝葉斯分析」的方法，貝葉斯分析是一種機器學習演算法，基本思想是強調使用過去或先前的信息來確定最佳解決方案。貝葉斯分析在過去十年里被廣泛用來優化「超參數」機器學習，例如用來確定批量的大小或學習速度參數的大小。由於貝葉斯優化可以代替人手做超參數設計的苦差事，有人將用了貝葉斯優化的機器學習稱為「自動化」機器學習。

文章的作者在使用JIT編譯器的設置運行A / B測試時在各種不同的地方用了貝葉斯。這樣做最大的好處是速度。由於必須在生產環境中進行測試以觀察不同設置的影響，因此希望能夠快速完成測試，以便將更改進一步用於網路伺服器。

作者在文章里表示，典型的A / B測試是在每一次只測試一個配置的改變，而貝葉斯優化則「允許我們用更少的測試共同調整更多的參數並找到更好的值。」

這裡的關鍵是「共同」這個詞：貝葉斯機制可以從給定的A / B測試推斷出其他參數，以縮小「可行的「配置，因而無需進行相應的實際A / B測試就能排除某些配置選擇。作者用了廣泛搜索能力的字眼，稱「連續空間里參數值的測試不僅為我們提供了關於這些參數結果的信息，而且還提供了關於附近點的信息。」 貝葉斯模型可以從前期測試結果中獲得了新的經驗數據，這些經驗數據又可以用於進一步縮小搜索潛在最優配置的範圍，因此整個A / B測試逐步地就越來越高效了。

Facebook這項貝葉斯優化研究的新貢獻是處理雜訊。作者指出，在A / B實驗中測試伺服器設置與優化機器學習網路不同，這時的測試結果和測量均存在很多噪音，在現實世界中，設置的變化對伺服器性能的影響可以是各種各樣的，而且還存在「雜訊」約束，例如伺服器內存的使用需要在合理的範圍之內。文章的作者提出了在貝葉斯演算法中解決這種雜訊的方法，他們得出的結論是，用新方法比用其他類型的貝葉斯方法更容易得到最優解。

用了此方法的A / B測試方法存在一個有趣的小問題，有些配置從不會被用到：因為貝葉斯優化分析的預測完全排除了那些配置，相應的變數已在測試中被移除。文章的作者則認為這是個好處，可以減少用戶進行大量不同實驗的煩惱。

-END-

至頂網

一個談新技術和新商業模式的信息服務平台，致力於記錄和推動數字化創新，服務CIO、CTO等技術和商業的決策者、從業者。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！