甲骨文宣布開源 GraphPipe，一種機器學習模型的新標準

（點擊

上方公號

，快速關注我們）

來源：oschina

www.oschina.net/news/99006/oracle-open-sources-graphpipe

這個高性能標準協議應該能使企業更容易從任何框架部署和查詢機器學習模型。

機器學習有望改變行業現狀。但是，它在企業中的應用速度比大家預期的要慢，因為這些組織很難自己部署和管理機器學習技術。部分挑戰是機器學習模型通常使用定製技術進行訓練和部署，從而難以跨伺服器或不同部門進行模型的部署。

為此，甲骨文希望通過開源且高性能的標準網路協議來傳輸張量數據(tensor data) —— 這樣的一種技術手段來解決上述挑戰。這項新標準，

甲骨文稱之為 GraphPipe

，可使企業更容易從任何框架部署和查詢機器學習模型。

官方對 GraphPipe 的解釋為，這是一種協議和軟體集合，旨在簡化機器學習模型部署並將其與特定於框架的模型實現分離。

GraphPipe 旨在解決三個特殊挑戰：

• 
  

  首先，模型服務 API 沒有標準，這意味著業務應用程序通常需要定製客戶端與已部署的模型進行通信。
  



• 
  

  接下來，構建模型伺服器非常困難，並且幾乎沒有開箱即用的部署解決方案。
  



• 
  

  最後，企業現在通常使用的解決方案（如 python-JSON API）無法提供關鍵業務應用程序所需的性能。
  

GraphPipe 包括

• 
  

  一組 flatbuffer 定義
  



• 
  

  根據 flatbuffer 定義一致的模型的指南
  



• 
  

  來自各種機器學習框架的模型的示例
  



• 
  

  用於通過 GraphPipe 查詢模型的客戶端庫

GraphPipe 功能特性

• 
  

  基於 

  flatbuffers

   的微型機器學習傳輸規範



• 
  

  適用於 

  Tensorflow

  ，

  Caffe2

   和 

  ONNX 的

  簡單高效參考模型伺服器(reference model servers)



• 
  

  Go，Python 和 Java 的高效客戶端實現

使用這些工具，企業應該可跨多個伺服器進行模型的部署，或者使用通用協議從不同的框架創建模型集合。GraphPipe 可以幫助為依賴遠程運行模型的物聯網應用程序部署機器學習。

【關於投稿】

如果大家有原創好文投稿，請直接給公號發送留言。

① 留言格式：

【投稿】+《 文章標題》+ 文章鏈接

② 示例：

【投稿】

《不要自稱是程序員，我十多年的 IT 職場總結》：

http://blog.jobbole.com/94148/

③ 最後請附上您的個人簡介哈~

看完本文有收穫？請轉

發分享給更多人

關注「P

ython開發者」，提升Python技能

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！