Linux內核添加異構內存管理將帶來加速GPU的新方式，還有可能帶來其他類型的機器學習硬體

一項旨在讓機器學習或其他基於GPU的應用得以大幅提升性能的內存管理功能已開發了很長一段時間，不過現在它即將進入到Linux內核的某下一個版本中。

異構內存管理（HMM）讓設備的驅動程序可以為受制於自身內存管理的進程來鏡像地址空間。正如Red Hat的開發人員傑爾姆·格利瑟（Jér?me Glisse）解釋（https://lkml.org/lkml/2017/4/21/872），這項功能讓GPU之類的硬體設備更容易直接訪問進程的內存，沒有複製任何內容所帶來的額外開銷。它也並不侵犯現代操作系統所提供的內存保護功能。

勢必會從HMM獲得最大好處的一類應用就是基於GPU的機器學習。諸如OpenCL和CUDA之類的機器學習庫的速度到時有望得到HMM的提升。HMM做到這點的方式與針對基於GPU的機器學習進行的提速幾乎一模一樣，也就是說讓數據留在原地、靠近GPU，在那裡直接處理數據，然後傳輸儘可能少的數據。

對於CUDA這種英偉達面向基於GPU的處理的庫而言，這種類型的提速不僅會惠及英偉達GPU上面的操作，那些GPU目前還是加速數據處理的硬體的絕對主力。然而，設計OpenCL這種框架是為了編寫適用於多種類型硬體（CPU、GPU和FPGA等）的代碼，那樣隨著這些硬體不斷成熟起來，HMM有望提供廣泛得多的好處。

讓HMM適用於Linux中面臨幾個障礙。首先是內核支持，而在相當長的時間裡，內核對HMM的支持一直情況不明朗。早在2014年，HMM最初是作為Linux內核補丁集（patchset）提出來的，Red Hat和英偉達都是關鍵開發商。涉及的工作量並不小，但是開發人員認為，可以提交代碼，說不定可以加入到未來發布的幾個內核版本。

第二個障礙是視頻驅動程序支持，英偉達一致在單獨搞這項工作。據格利瑟聲稱，AMD GPU可能也會支持HMM，所以這種特別的優化不會僅限於英偉達GPU。AMD一直在提升其在GPU市場的實力，因此可能會在同一塊晶片上整合GPU處理和CPU處理（http://www.infoworld.com/article/3099204/hardware/amd-mulls-a-cpugpu-super-chip-in-a-server-reboot.html）。然而，軟體生態系統仍然明顯青睞英偉達；將來需要另外幾個像HMM這樣與廠商中立的項目，以及與CUDA所提供的性能不相上下的OpenCL性能，才可能獲得切實的選擇。

第三個障礙是硬體支持，因為HMM需要有一種可再現的頁面故障（replayable page faults）硬體功能才能發揮作用。目前只有英偉達的Pascal高端GPU系列支持這項功能。從某種意義上來說，這是好消息，因為它意味著英偉達只需要為某一個硬體提供驅動程序支持――它需要完成的工作量較小，就可以讓HMM正常使用起來。

一旦HMM實施到位，使用GPU實例的公共雲提供商將面臨壓力：需要支持最新最好一代的GPU。不是僅僅把老式的英偉達Kepler顯卡換成最先進的Pascal GPU就完事。由於後續的每一代GPU會顯得更脫穎而出，像HMM這樣的支持優化將帶來戰略優勢。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！