計算機視覺到底怎麼給圖像分類？這5中方法供你選

圖：pixabay

本文編譯自medium，作者是Shiyu Mou。該作者介紹了圖像分類的5種技術，總結並歸納了演算法、實現方式，並進行了實驗驗證。文章略長，閱讀時長約15分鐘，請各位圈友耐心閱讀。

圖像分類問題就是從固定的一組分類中，給輸入圖像分配標籤的任務。這是計算機視覺的核心問題之一，儘管它看似簡單，卻在實際生活中有著各種各樣的應用。

傳統方式：功能描述和檢測。

也許這種方法對於一些樣本任務來說是比較好用的，但實際情況卻要複雜得多。

因此，我們將使用機器學習來為每個類別提供許多示例，然後開發學習演算法來查看這些示例，並了解每個類的視覺外觀，而不是試圖直接在代碼中指定每一個大家感興趣的類別是什麼樣的。

然而，圖像分類問題就是一個非常複雜的工作，它總是借用諸如卷積神經網路（CNN）這樣的深度學習模型來完成。但我們也知道，通常我們在課堂中學習到的，諸如KNN（鄰近演算法）和SVM（支持向量機）這樣的許多演算法，在數據挖掘問題上做得非常好，但似乎它們有時也不是圖像分類問題的最佳選擇。

因此，我們想要比較一下我們在課堂中學到的演算法與CNN和遷移學習演算法的性能。

目標

我們的目標是：

1.將KNN、SVM和BP神經網路，與通常在用於工業中圖像分類問題的演算法進行比較，例如CNN和遷移學習。

2.獲得深度學習的經驗。

3.通過Google的TensorFlow來探索機器學習框架。

演算法和工具

我們在這個項目中使用的5種方法分別是KNN、SVM、BP神經網路、CNN，以及遷移學習。

整個項目主要分為3種方法。

第一種方法：使用KNN、SVM和BP神經網路，這是我們在課堂上學到的演算法，功能強大而且易於實施。我們主要使用sklearn來實現這些演算法。

第二種方法：雖然傳統的多層感知器（MLP）模型成功地應用於圖像識別，但由於節點之間的完全連通性受到維度災難的影響，因此不能很好地擴展到更高解析度的圖像。所以在這一部分我們使用Google的TensorFlow深度學習框架來構建一個CNN。

第三種方法：重新訓練預先訓練的深層神經網路的最後一層（稱為Inception V3），同樣也是由TensorFlow來實現。Inception V3是為ImageNet大型視覺識別挑戰而進行的訓練，數據從2012年開始採集。這是計算機視覺中的標準任務，其中模型嘗試將整個圖像分為1000個類別，如「斑馬」、「斑點狗」和「洗碗機」。為了重新訓練這個預先訓練網路，我們需要確保我們自己的數據集尚未被預先訓練。

如何實現

第一種方法：

預處理數據集，並用sklearn來運行KNN、SVM和BP神經網路。

首先，我們使用openCV包定義了兩種不同的預處理函數：第一個稱為圖像特徵向量，調整圖像大小，然後將圖像平坦化為行像素列表。第二個稱為提取顏色直方圖，使用cv2.normalize從HSV顏色間距中提取3D顏色直方圖，然後平坦化結果。

然後，我們構造需要解析的幾個參數，因為我們要測試這個部分的準確性，不僅是針對整個數據集的，還要測試具有不同數量標籤的子數據集，我們將數據集構造為解析到我們程序中的參數。與此同時，我們還構造了用於k-NN方法的相鄰數作為解析參數。

做好這些之後，我們開始提取數據集中的每個圖像特徵並將其放入數組中。我們使用cv2.imread來讀取每個圖像，通過從圖像名稱中提取字元串來拆分標籤。在我們的數據集中，我們使用相同的格式設置名稱：「類標籤」.「圖像號」.jpg，因此我們可以輕鬆地提取每個圖像的類標籤。然後我們使用之前定義的2個函數來提取2種特徵，並附加到數組rawImages和特徵中，而我們之前提取的標籤則附加到數組標籤。

下一步是使用從sklearn包導入的函數train_test_split拆分數據集。具有後綴RI、RL的集合是rawImages和標籤對的拆分結果，另一個是特徵和標籤對的拆分結果。我們使用數據集的85％作為訓練集，15％作為測試集。

最後，我們運用KNN、SVM和BP神經網路函數來評估數據。對於KNN，我們使用KNeighborsClassifier；對於SVM，我們使用SVC；對於BP神經網路，我們使用MLPClassifier。

第二種方法：

使用TensorFlow構建CNN。TensorFlow的目的是讓你構建一個計算圖（使用任何類似Python的語言），然後用C ++來執行圖形操作，這比直接用Python來執行相同的計算要高效得多。

TensorFlow還可以自動計算優化圖形變數所需的梯度，以便使模型更好地運行。這是因為圖形是簡單數學表達式的組合，因此可以使用導數的鏈式規則來計算整個圖形的梯度。

TensorFlow圖由以下部分組成：

用於將數據輸入圖表的佔位符變數。

要進行優化的變數，以便使卷積網路更好地得以運行。

卷積網路的數學公式。

可用於指導變數優化的成本衡量標準。

一種更新變數的優化方法。

CNN架構由不同層的堆疊形成，其通過可微函數將輸入量轉換成輸出量（例如類別分數）。

所以在我們的實現操作中，第一層是保存圖像，然後我們構建了3個具有2×2最大池和修正線性單元（ReLU）的卷積層。

輸入是一個具有以下尺寸的四維張量：

圖像編號。

每個圖像的Y軸。

每個圖像的X軸。

每個圖像的通道。

輸出是另一個四維張量，具有以下尺寸：

圖像號，與輸入相同。

每個圖像的Y軸。如果使用的是2×2池，則輸入圖像的高度和寬度除以2。

每個圖像的X軸。同上。

由卷積濾波器產生的通道。

然後我們在網路末端構建了2個完全連接的層。輸入是形狀為[num_images，num_inputs]的2維張量。輸出是形狀為[num_images，num_outputs]的2維張量。

然而，為了連接卷積層和完全連接層，我們需要一個平坦層，將4維張量減小到2維，從而可以用作完全連接層的輸入。

CNN的最後端始終是一個softmax層，它將來自全連接層的輸出歸一化，使得每個元素被限制在0和1之間，而所有元素總和為1。

第三種方法：

Retrain Inception V3物體識別模型有數百萬個參數，可能需要幾周才能完全訓練。遷移學習是一種技術，可以通過為一組類別（如ImageNet）採用訓練有素的模型來快速完成此項工作，並從新類別的現有權重中進行訓練。雖然它不如全訓練運行得那麼好，但對於許多應用來說，這是非常有效的，並且可以在筆記本電腦上運行，只要運行三十分鐘即可，無需GPU。對於這部分的實現，我們可以按照下邊的說明進行操作：

https://www.tensorflow.org/tutorials/image_retraining。

首先，我們需要獲得預先訓練的模型，刪除舊的頂層，並在我們擁有的數據集上訓練一個新的模型。在一個沒有貓品種的原始ImageNet類中，要對完整的網路進行訓練。遷移學習的神奇之處在於，經過訓練以區分某些對象的較低層可以重用於許多識別任務，而無需任何更改。然後我們分析磁碟上的所有圖像，並計算其中每個圖像的瓶頸值（bottleneck values）。點擊這裡查看bottleneck的詳細信息（https://www.tensorflow.org/tutorials/image_retraining）。每個圖像在訓練過程中被重複使用多次，所以計算每個瓶頸值都需要花費大量的時間，因此可以加快緩存這些瓶頸值，從而不必重複計算。

該腳本將運行4000個訓練步驟。每個步驟從訓練集中隨機選擇十個圖像，從緩存中發現其瓶頸，並將它們饋送到最後一層以獲得預測。然後將這些預測與實際標籤進行比較，從而通過反向傳播過程更新最終層的權重。

開始實驗

數據集

牛津IIIT寵物數據集（http://www.robots.ox.ac.uk/~vgg/data/pets/）

有25個品種的狗和12個品種的貓。每個品種有200張圖像。

我們在項目中只使用了10個貓品種。

我們在這裡使用的類型是["Sphynx"（加拿大無毛貓，也稱斯芬克斯貓），"Siamese"（暹羅貓），"Ragdoll"（布偶貓），"Persian"（波斯貓），"Maine-Coon"（緬因貓），"British-shorthair"（英國短毛貓），"Bombay"（孟買貓），"Birman"（緬甸貓），"Bengal"（孟加拉貓）]。

所以我們在數據集中共有2000張圖像，彼此的尺寸各不同。但是我可以將它們調整為固定大小，如64 x 64或128 x 128。

預處理

在這個項目中，我們主要使用OpenCV進行圖像數據的處理，比如將圖像讀入數組，並重新形成我們需要的尺寸。

改進圖像訓練結果的一個常見方法是以隨機方式變形，裁剪或增亮訓練輸入，這具有擴展訓練數據的有效大小的優點，而這歸功於相同圖像的所有可能的變化，並且傾向於幫助網路學習應對在分類器的現實使用中將發生的所有失真問題。

詳情請參閱鏈接：https：//github.com/aleju/imgaug。

評估

第一種方法：

第一部分：預處理數據集，並用sklearn應用KNN、SVM和BP神經網路。

在程序中有很多參數可以調整：在image_to_feature_vector函數中，我們設置的尺寸是128x128，我們之前也嘗試過像8x8,64x64,256x256這樣的大小。從而我們發現圖像尺寸越大，精度越好。但是，大的圖像尺寸也會增加執行時間和內存消耗。所以我們終於決定圖像尺寸為128x128，因為它不是太大，但同時也可以保證精度。

在extract_color_histogram函數中，我們將每個通道的bin數設置為32,32,32。像上一個函數一樣，我們也嘗試了8,8,8和64,64,64，並且更高的數字可以產生更高的結果，但同時也伴隨著更高的執行時間。所以我們認為32,32,32是最合適的。

而至於數據集，我們嘗試了3種數據集。第一個是具有400個圖像，2個標籤的子數據集。第二個是具有1000個圖像，5個標籤的子數據集。最後一個是具有1997個圖像，10個標籤的整個數據集。並且我們將不同的數據集解析為程序中的參數。

在KNeighborsClassifier中，我們只更改了鄰居數，並將結果存儲為每個數據集的最佳K。然後將我們設置的所有其他參數初始為默認值。

在MLPClassifier中，我們設置了一個含有50個神經元的隱藏層。我們測試了多個隱藏層，但最終結果似乎沒有什麼明顯的變化。最大迭代時間為1000，容差為1e-4，以確保其收斂。並將L2懲罰參數α設置為默認值，隨機狀態為1，求解器為「sgd」，學習速率為0.1。

在SVC中，最大迭代時間為1000，類的權重值為「平衡」。

我們的程序的運行時間不是很長，從2個標籤數據集到10個標籤數據集需要大約3到5分鐘。

第二種方法：

用TensorFlow構建CNN

計算模型的梯度是需要很長時間的，因為這個模型使用的是大型數據集的整體。因此，我們在優化器的每次迭代中僅僅使用少量的圖像。批量大小通常為32或64。數據集分為包含1600張圖像的訓練集，包含400張圖像的驗證集和包含300張圖像的測試集。

有很多參數是可以進行調整的。

首先是學習率。只要它足夠小，可以收斂和足夠大得不會使程序太慢，一個好的學習率還是很容易找到的。我們選擇了1×10 ^ -4。

第二個是我們向網路提供的圖像的大小。我們嘗試了64 * 64和128 * 128。事實證明，圖像越大，我們得到的準確性越高，但代價是運行時間也相應地增加。

然後是層和它們的形狀。但實際上有太多的參數可以調整，所以想要找到這些參數的最佳值是一件非常困難的工作。

根據網上的許多資源，我們了解到，建立網路的參數的選擇幾乎都取決於經驗。

起初我們試圖建立一個相對複雜的網路，其參數如下所示：

我們使用3個卷積層和2個完全連接的層，而這些都是相對複雜的。

但是，結果是——過度擬合。只有經過一千次迭代，我們的程序才能獲得100％的訓練精度，而只有30％的測試精度。起初我很困惑為什麼我們會得到一個過度擬合的結果，並且我試圖隨機調整參數，但是結果卻始終沒有變好。幾天後，我碰巧看到一篇文章，談到中國研究人員進行的一個深入學習項目（https://medium.com/@blaisea/physiognomys-new-clothes-f2d4b59fdd6a）。他們指出，他們進行的研究是有問題的。「一個技術性的問題是，想要訓練和測試像AlexNet這樣的CNN，而結果不會過度擬合，僅僅使用不到2000個例子是不足以做到的。」所以，這個時候我才意識到，首先我們的數據集實際上是很小的，其次就是我們的網路太複雜了。

要記得我們的數據集是剛好包含2000張圖像。

然後我嘗試減少內核的數量層和大小。我嘗試了很多參數，下圖就是我們使用的最終結構。

我們只使用2個小形狀的卷積層和2個完全連接的層。可結果並不是很理想，4000次迭代後得到的結果仍然是過度擬合，但是測試結果比以前好了10％。

我們仍然在尋找一種處理方法，但是顯而易見的原因是我們的數據集不足，而我們沒有足夠的時間進行更好的改進。

最終結果就是，經過5000次迭代之後，我們大概達到了43％的精度，而運行時間卻超過半個小時。

PS：實際上，由於這個結果，我們感到有些不安。 所以我們發現了另一個標準的數據集—CIFAR-10（https://www.cs.toronto.edu/~kriz/cifar.html）。

CIFAR-10數據集由10個類別的60000個32x32彩色圖像組成，每個類別有6000張圖像。裡面含有50000個訓練圖像和10000個測試圖像。

我們使用上面構造的相同網路，經過10小時的訓練，我們在測試集上得到了78％的準確度。

第三種方法：

重新訓練Inception V3，與此相同，我們隨機選擇幾個圖像進行訓練，並選擇另一批圖像進行驗證。

有很多參數是可以進行調整的。

首先是訓練步驟，默認值是4000，如果我們可以早些得到一個合理的結果，我們嘗試更多或嘗試一個較小的。

學習率是控制訓練過程中最後一層更新的大小的。直觀地說，如果越小，那麼學習將需要更長的時間，但最終可以幫助提高整體精度。**train batch**size會在一個訓練步驟中控制檢查了的圖像的數量，並且由於學習率是應用到每個批次中的，所以如果你想要讓更大的批次來獲得相同的整體效果的話，我們將需要減少它們的數量。

因為深入學習任務繁重，運行時間通常相對較長，所以我們不希望經過數小時的訓練之後得知，我們的模式實際上是很糟糕的。因此我們經常檢驗驗證的準確性。這樣我們也可以避免過度擬合。通過分割可以將80％的圖像放入主要訓練集中，保持10％作為訓練期間的驗證，頻繁運行，然後將最終10％的圖像用作測試集，以預測分類器在現實世界的表現。

結果

第一種方法：預處理數據集，並用sklearn來運行KNN、SVM和BP神經網路。

結果如下圖所示。因為SVM的結果非常差，甚至低於隨機猜測，所以我們沒有提供其運行結果。

從結果我們可以看出：

在k-NN中，原始像素精度和直方圖精度相對相同。在含有5個標籤的子數據集中，直方圖精度比原始像素高出那麼一點，但是在所有原始像素中，原始像素顯示出更好的結果。

在神經網路MLP分類器中，原始像素精度遠低於直方圖精度。而對於整個數據集（含有10個標籤）來說，原始像素精度甚至低於隨機猜測。

所有這兩種sklearn方法都沒有給出非常好的性能，在整個數據集（含有10個標籤的數據集）中識別正確類別的準確度只有約24％。這些結果表明，使用sklearn方法進行圖像識別的效果不夠好。他們在具有多種類別的複雜圖像的分類中並具備良好的性能。但是，與隨機猜測相比，他們確實做了一些改進，但這還遠遠不夠。

基於此結果，我們發現為了提高準確性，必須採用一些深入學習的方法。

第二種方法：使用TensorFlow構建如上所述的CNN，由於過度擬合，我們無法獲得良好的效果。

訓練通常需要半小時的時間來進行，但是由於結果過度擬合，我們認為這個運行時間並不重要。與方法1進行比較，我們可以看到：雖然CNN的結果過度擬合，但我們仍然會得到一個方法1更好的結果。

第三種方法：重新訓練 Inception V3

整個訓練進度不超過10分鐘。而我們可以取得非常好的成績。基於此，我們實際上可以看到深度學習和遷移學習的巨大能量。

演示：

結論

基於上述的比較，我們可以得出這樣的結論：

KNN、SVM和BP神經網路是不能夠很好地完成諸如圖像分類這樣的特定任務的。

雖然我們在CNN部分得到的結果過度擬合，但仍然比在課堂中學到的處理圖像分類問題的其他方法要好得多。

遷移學習在圖像分類問題上具有非常高的效率。無需GPU即可在短時間內準確快捷地完成訓練。即使你有一個小的數據集，它也可以很好地防止過度擬合。

我們學到了一些非常重要的圖像分類任務經驗。這樣的任務與我們上課時所做的其他任務完全不同。數據集相對較大而不稀疏，網路複雜，因此如果不使用GPU，運行時間會相當長。

裁剪或調整圖像大小使其更小。

隨機選擇一個小批量進行每次迭代訓練。

在驗證集中隨機選擇一個小批量進行驗證，在訓練過程中經常報告驗證的得分情況。

嘗試使用圖像增強將一組輸入圖像轉換為一組新的，更大的，略有更改的圖像。

對於圖像分類任務，我們需要一個比200 x 10的更大的數據集，CIFAR10數據集包含6萬張圖像。

更複雜的網路需要更多的數據集來進行訓練。

注意過度擬合。

點擊這裡查看Github中開源代碼：

https://github.com/Fdevmsy/Image_Classification_with_5_methods

來源：Medium

作者：Shiyu Mou

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！

本站內容充實豐富，博大精深，小編精選每日熱門資訊，隨時更新，點擊「搶先收到最新資訊」瀏覽吧！

請您繼續閱讀更多來自 機器人圈 的精彩文章: