Softbank領投9300萬美元B輪，AI「無窮動」初創公司Petuum背後的故事

據CNBC和TechCrunch等多家媒體報道，專註於開發機器學習基礎架構平台的AI初創公司Petuum Inc. 獲得9300萬美元的 B 輪投資，由軟銀旗下的投資公司領投。Petuum 的融資總額已達1億8百萬美元，成為獲投資額度最?的AI初創公司之一。

「無窮動」一詞源於帕格尼尼小提琴曲《無窮動》，全曲有2212個音，演奏時間卻僅有三分鐘，急速優美就如魔法一般。「無窮動」和AI初創公司Petuum之間有什麼關係呢？我們來看看Petuum創始人邢波博士和這家AI"無窮動"初創公司背後的故事。

＝＝＝＝＝

2010年，卡內基梅隆大學（Carnegie Mellon University）計算機系終身教授Eric Xing邢波博士決定休年假（Sabbatical leave），到Facebook擔任訪問教授。他想以此為契機，換一個角度看自己的世界，重新審視他所從事的人工智慧的研究開發工作。

在Facebook, 邢波博士首次近距離看到科技巨頭如何在公司內部和他們的產品中採用人工智慧（AI）和機器學習（ML）技術。儘管工業界看上去對於AI的大規模應用是雄心勃勃，但他很清晰地看到了一個問題– 因為AI技術的前沿性，它的廣泛應用面臨著重重障礙。

邢波博士認識到，對於AI和機器學習技術商業化的需求巨大。與其各公司自己開發具體的AI解決方案，不如打造一個可以標準化，可定製和自由選擇的AI技術基礎架構。這個架構將允許大規模開發和推廣，從而大大降低AI技術的應用成本。之前科技巨頭可以得天獨厚地擁有人工智慧技術和人才，而有了這個可定製的AI平台架構後，任何規模和行業的公司都可以輕鬆開發AI應用。

為了打造這樣一個跨部門，甚至跨行業的AI應用平台，邢波博士需要找到一種將單個計算機上運行的程序規模化、提高几個數量級的方法。這種方法需要讓普通的程序員也可以輕鬆使用複雜的AI程序。他需要弄清楚如何使眾多計算機完美合作 – 就像交響樂中的所有樂器一樣，一起來演奏一首完整的樂曲。

解決方案之一是並行計算，讓軟體程序在許多計算機上同時運行，而不是在一個昂貴的特殊工作站上運行。然而，對於這種大規模的並行計算， 如果採用傳統的方式，會導致效率低下，結果不一致穩定，因為計算機花費更多的時間在彼此協調上，而不是在構建解決方案上。邢波博士認為這些計算機就像樂隊一樣，需要一個指揮和樂譜，來告訴他們什麼時候需要協調，如何保持一致。

這類通用型的解決方案，很難在現有的任何一家科技公司找到，因為它們的重點不在於研發，而在於推出一次性的具體應用。因此邢波博士把這個問題帶回了學術界，回到CMU，和他的學生們以及同事們一起，設立單獨的課題，並嘗試新的並行和調度理論，來攻克AI和ML技術商業應用規模化的問題。

邢波博士和團隊試圖尋求一種讓計算機同步的方法 – 那麼到底應該是定期、同步還是非同步地交換信息呢？現有的方法都不能解決這個問題，因此邢波博士帶領團隊繼續在程序和概念上尋求創新。

經過一年多的摸索，邢波博士和團隊提出了一個重大的概念性飛躍：AI程序與傳統的確定性程序（如資料庫程序）不同，因此應該採用不同的結構。傳統的程序是交易和執行性的，按照一系列的步驟推進，而AI程序應該像人們解決數學問題一樣，通過迭代和學習，並在必要時修正誤差，並採取前所未有的演變來獲得答案。這種偏離傳統計算理論的方法，使邢波博士和他的團隊創立了同步計算的新理論 - 同步並行（SSP）參數伺服器。

SSP參數伺服器將允許計算機通過實現有界非同步技術進行協調。將多台計算機的虛擬記憶整合到伺服器上之後，同步窗口將被限制，也限制了工作機與主機之間的數據交換。相比並行化計算機之間的同步交換，這將使處理速度顯著提高。相比非同步交換，它能有效避免錯誤。

這個模型系統像一個完美指揮的交響樂隊一樣，各台計算機在不和諧或不協調之前能夠自動形成統一。這一理念將邢波博士團隊開發的AI模型框架與他對音樂的熱愛緊緊地聯繫在了一起，從而提出了一系列概念性的飛躍。

邢波博士的團隊將他們的同步模型之一稱為「結構化非同步動態調度程序」，通常縮寫為「strads」。而「strads」也是由Stradivarius家族最好的弦樂器製造大師製作的小提琴的縮寫。邢波博士立即想到了他最喜愛的Niccolò Paganini的小提琴作品和約翰·施特勞斯二世的交響曲，兩者都是永恆的Perpetuum Mobile無窮動作品，其特點是連續的，重複的音符流，快速和諧地浮出水面。產生的音樂靠近演奏發揮的極限，但同時由於指揮大師的編排而顯得簡單而乾淨。

這正是邢波博士關於計算機如何同步實現大規模AI應用的願景 — 通過perpetuum mobile無窮動，使用參數伺服器來指揮各計算機，並告訴他們什麼時候進行協調，從而使得AI程序可以同時運行在無數的計算機上，不斷學習，迭代和與其伺服器交換信息。

隨著這項AI系統技術在企業應用層面的突破，邢波博士帶領的CMU研究人員和學生團隊成為了一個有使命的公司：構建一個大規模AI應用的基礎性架構和平台。通過提高計算效率和易用性，同時降低成本，消除AI應用的障礙，讓每個行業和公司都可以輕鬆地應用AI技術。

準備好向前邁進了，邢波博士決定從CMU再次休長假，來充分探索他和團隊的這些新發現。為此，他決定採用一個完美體現他的技術思想的音樂術語，來描述他們要打造的無窮動協同界面，命名他的新公司為Petuum。

- 原文來自Medium

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！

本站內容充實豐富，博大精深，小編精選每日熱門資訊，隨時更新，點擊「搶先收到最新資訊」瀏覽吧！

請您繼續閱讀更多來自 千讀 的精彩文章: