科研人員研發出終身度量學習演算法

近日，中國科學院瀋陽自動化研究所機器人學研究室研究員叢楊團隊提出了一種終身度量學習演算法，相關成果發表於IEEE Transactions on Cybernetics。

在線度量/相似性學習具有有效處理大規模數據的優勢，已經在數據挖掘、信息檢索和計算機視覺等領域獲得成功的實際應用。不同於大量存在的離線學習度量模型的批量學習方法，在線學習能利用一個或者一組樣本迭代的更新度量模型，同時能更適合序列數據的任務。然而，目前大部分的在線度量學習模型只能在固定度量任務的基礎上實現在線學習，不能增加新的任務。

瀋陽自動化所研究團隊利用終身學習來模擬「人類學習」，即將當前的度量擴展到新的任務同時保持當前度量任務不變。例如，在2D圖像識別系統中，一個度量學習系統能很好地識別一個圖片中是否包含已知類別的目標，但用戶經常期望這一能力可以擴展到新的任務，即檢測一個新的類別目標。

終身度量學習（LML），意圖從舊的任務中學習共享的度量參數同時保持以前任務的表現。在所有任務都位於一個低維共享子空間的假設上，LML學得一個稱謂「終身字典」的知識庫作為所有度量模型的共享基，同時所有學得的模型都可以作為終身字典的稀疏組合。具體而言，終身字典首先從第一個訓練任務通過聚類的形式初始化，當新的第t 1個任務到達系統時，LML通過遷移終身字典中的基知識來學習新的度量模型，同時利用當前和以前的任務來更新終身字典。

實驗結果表明，該模型能夠很好應對度量任務不斷增加的場景，並取得了和多任務度量學習相似的結果。

該項研究獲得國家自然科學基金和機器人學國家重點實驗室的支持。

終身度量學習模型

來源：中國科學院瀋陽自動化研究所

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！