Github 代碼實踐：Pytorch 實現的語義分割器

本文為雷鋒字幕組編譯的Github項目，原標題A Pytorch Implementation of Detectron，作者為 roytseng-tw。

翻譯 | 楊婉迪 陳明霏 整理 | 凡江

使用Detectron預訓練權重輸出 *e2e_mask_rcnn-R-101-FPN_2x* 的示例

從Detectron輸出的相關示例

使用Detectron預訓練權重輸出 *e2e_keypoint_rcnn-R-50-FPN_s1x*的示例

這個代碼是按照Detectron的安裝架構來實現的，僅支持部分功能性，你可以通過點擊此鏈接（https://github.com/roytseng-tw/Detectron.pytorch/blob/master/README.md#supported-network-modules）來獲取更多相關信息。

通過這個代碼，你可以……

根據草圖訓練模型；

通過使用Detectron中得到預訓練權重(*.pk)來進行推斷；

這個儲存器最早是建在jwyang/faster-rcnn.pytorch上的，但是經過多次的修改，這個結構已經變了很多了而且現在更類似於Detectron。為了直接從正式的預訓練權重文件中重新得到結果，我刻意將所有東西弄得和Detectron的運行方法相似或者一致了。

這個工具有以下特徵：

這個完全是Pytorch代碼，當然了，也有一些CUDA代碼。

它支持多圖像的批處理加工訓練。

它支持多GPUs 訓練。

它支持三種合併方法，但是需要注意的是只有roi align能被改進去匹配 Caffe2的安裝。所以，儘管去用就好了。

它可以高效利用內存。對於數據的批處理，這兒有兩種可選擇的技術去減少顯存使用量：1）根據類別分組：同批次的一組圖像是有相似的類別比率 2)根據類別剪裁：剪裁圖像太長了。 類別分組是在Detectron運行，所以用來默認，類別剪裁是來自jwyang/faster-rcnn.pytorch，所以它不能用來默認。

除此之外，我提供一個定製化的模型nn.DataParallel ，它能夠使不同批次混亂的型號出現在不同的繪圖處理器上。你可以在My nn.DataParallel 這節找到更多關於這個的詳細內容。

支持的網路模型

主要架構：

ResNet series: ResNet50_conv4_body, ResNet50_conv5_body, ResNet101_Conv4_Body, ResNet101_Conv5_Body, ResNet152_Conv5_Body

FPN: fpn_ResNet50_conv5_body, fpn_ResNet50_conv5_P2only_body, fpn_ResNet101_conv5_body,fpn_ResNet101_conv5_P2only_body, fpn_ResNet152_conv5_body, fpn_ResNet152_conv5_P2only_body

ResNeXt也被運行了但是還沒有測試。

Box head: ResNet_roi_conv5_head, roi_2mlp_head

Mask head: mask_rcnn_fcn_head_v0upshare, mask_rcnn_fcn_head_v0up, mask_rcnn_fcn_head_v1up4convs, mask_rcnn_fcn_head_v1up

Keypoints head: roi_pose_head_v1convX

注意：這個命名和那個用在Detectron的是相似的。只是刪掉前置的add_，如果有的話。

支持的數據集

現在只有COCO是被支持的。但是，整個數據集庫運行幾乎是和 Detectron的是一樣的，所以用Detectron支持添加更多的數據集是很簡單的。

配置選擇

架構單一明確的配置文件是放在configs下的。 一般的配置文件lib/core/config.py里所有的選項都基本是和Detectron相同的默認值。所以把架構單一的configs轉化到Detectron是非常輕鬆的。

怎樣把配置文件從Detectron轉化出來

1. 刪除 MODEL.NUM_CLASSES 。在JsonDataset初賦值過程中被設置。

2. 刪除 TRAIN.WEIGHTS，TRAIN.DATASETS 和TEST.DATASETS。

3. 在模型類型的選擇中，

（比如： MODEL.CONV_BODY，FAST_RCNN.ROI_BOX_HEAD ……） 如果在數串中存在 add_，則將其刪除。

4. 如果想給模型載入更多的ImageNet 預訓練權重，添加指向預訓練權重文件的RESNETS.IMAGENET_PRETRAINED_WEIGHTS 。如果沒有就把MODEL.LOAD_IMAGENET_PRETRAINED_WEIGHTS設置成 False

更多的細節

一些選項是不能使用的因為相關的功能性還沒有實現。但是有一些不能被使用的原因是我用不同方法安裝了程序。

這裡有一些沒有影響但值得注意的選項：

SOLVER.LR_POLICY, SOLVER.MAX_ITER, SOLVER.STEPS,SOLVER.LRS ：就目前情況，訓練指令被這些命令行參數控制：

--epochs：要訓練多少 epochs 。一個 epoch意味著要遍歷整個訓練集並且將默認值設為6。

--lr_decay_epochs:每一epochs都是衰減學習率的。 衰減是發生在每個 epoch的開始。 Epoch 是 以0索引開始的，默認值是 [4, 5]。

要獲得更多地命令行參數，請參考python train_net.py --help

SOLVER.WARM_UP_ITERS, SOLVER.WARM_UP_FACTOR, SOLVER.WARM_UP_METHOD： 在紙上做預熱訓練Accurate，Large Minibatch SGD：在一小時內訓練 ImageNet 是不能被運行的。

OUTPUT_DIR ：使用命令行參數來代替--output_base_dir 去明確化輸出目錄。

當更多地選項被提供：

MODEL.LOAD_IMAGENET_PRETRAINED_WEIGHTS = True：是否載入 ImageNet的預訓練權重。

RESNETS.IMAGENET_PRETRAINED_WEIGHTS = ""：預訓練網路的權重文件路徑。如果是以 "/" 開始的，那它就是一個絕對路徑。否則就會被當作是一個和ROOT_DIR相關的路徑。

TRAIN.ASPECT_CROPPING = False, TRAIN.ASPECT_HI = 2，TRAIN.ASPECT_LO = 0.：根據類別選項的剪裁去限制圖像類別比率範圍的選項。

RPN.OUT_DIM_AS_IN_DIM = True，RPN.OUT_DIM = 512 ，RPN.CLS_ACTIVATION = "sigmoid" ：RPN的正式運行有相同的輸入和輸出特徵通道，它們使用sigmoid作為激活函數作為對fg/bg class類的輸出預測，在jwyang"s implementation，它把輸出路徑數字確定為512而且使用softmax為激活函數。

我的nn.DataParallel

TBA

開始

克隆這個倉庫：

git clone https://github.com/roytseng-tw/mask-rcnn.pytorch.git

命令

在 python3下測試。

python安裝包

pytorch==0.3.1 (cuda80, cudnn7.1.2)

torchvision==0.2.0

numpy

scipy

opencv

pyyaml

pycocotools — COCO數據集專用，也可以通過 pip安裝。

tensorboardX —可以在Tensorboard上記錄losses。

一個 NVIDAI GPU 和 CUDA 8.0 或者更高。一些操作只有gpu 安裝。

注意：不同版本的 Pytorch安裝包有不同的顯存使用量。

編寫

編寫CUDA代碼：

cd lib # please change to this directory

sh make.sh

如果你在使用 Volta GPU, 在lib/mask.sh 文件中取消注釋這一句並且記住在上面這行後打上一個反斜杠。CUDA_PATH 路徑默認為/usr/loca/cuda 。如果你想要在不同路徑下使用CUDA庫，根據實際情況改變這行語句。

這條語句將會編譯你需要的所有模塊，包括NMS、 ROI_Pooing、ROI_Crop 和 ROI_Align模塊。 （事實上GPU NMS模塊從未被使用過...）

特別注意的是，如果你使用CUDA_VISIBLE_DEVICES 來設置GPU，確保在編譯代碼的時候至少有一個GPU可見。

數據準備

在repo下創建一個數據文件夾，

cd

mkdir data

COCO：下載coco圖片數據 以及從coco網站（http://cocodataset.org/#download）上獲得的注釋

確保根據下面的文件結構將文件放置好：

coco

├── 注釋

| ├── instances_minival2014.json

│ ├── instances_train2014.json

│ ├── instances_train2017.json

│ ├── instances_val2014.json

│ ├── instances_val2017.json

│ ├── instances_valminusminival2014.json

│ ├── person_keypoints_train2014.json

│ ├── person_keypoints_train2017.json

│ ├── person_keypoints_val2014.json

│ └── person_keypoints_val2017.json

└── 圖片

├── train2014

├── train2017

├── val2014

└── val2017

下載instances_minival2014.json和instances_valminusminival2014.json的鏈接

隨便將數據集放在任意想放的地方，然後將數據集軟連接到data/ 文件夾下：

ln -s path/to/coco data/coco

推薦將圖片輸入SSD網路來使訓練效果更加好。

根據我的經驗來看， COCO2014針對相關的圖片數據有一些不同尺寸(h,w)的掩碼注釋。可能 instances_minival2014.jsoninstances_valminusminival2014.json 包含了錯誤的掩碼注釋。然而COCO2017 數據集並沒有這個問題.。據說 COCO train2017數據集 與 (COCO train 2014 + COCO minival 2014)相當 ，並且 COCO test 2017數據集 與COCO valminusminival 2014數據集相當。 因此，使用 COCO 2017 訓練-驗證切分集來重做結果是可以的。

預訓練模型

我使用ImageNet數據在 Caffe中為骨幹網路預訓練權重。

ResNet50, ResNet101, ResNet152

VGG16 (vgg骨幹網路現在還沒有完成)

下載它們並把它們放在 /data/pretrained_model路徑下。

你可以使用下面的命令行語句將它們全部下載下來：

- 額外需要的安裝包：argparse_color_formater, colorama

python tools/download_imagenet_weights.py

註： Caffe的預訓練權重比Pytorch 預訓練的效果要稍好一些。我們使用Caffe 預訓練上面鏈接的模型來重做結果。順便提一點，Detectron（一個開源目標檢測庫）也使用Caffe預訓練得到的權重。

如果你想用pytorch預訓練模型，請記住將圖片數據從BGR矩陣轉化為RGB矩陣，並且也用pytorch預訓練模型過程中相同的數據處理方法（去均值以及標準化）。

訓練

基於res50骨幹網路從頭開始訓練mask-rcnn網路

python tools/train_net.py --dataset coco2017 --cfg configs/e2e_mask_rcnn_R-50-C4.yml --use_tfboard --bs --nw

使用 --bs 來將默認的批處理規模 （例如8）改變為適合你GPU的合適值。類似地還有--nw（數據載入線程在config.py中默認為4）。

使用 —use_tfboard 在Tensorboard上展示損失函數的對數值。

在每個訓練期結束的時候，通過完全相同的設置對訓練效果進行概括性展示。

python tools/train_net.py --dataset coco2017 --cfg configs/e2e_mask_rcnn_R-50-C4.yml --resume --load_ckpt --bs

w/ 和 w/o --resume的區別：如果規定了--resume，優化器狀態將會被從 checkpoint文件中載入下來，否則將不會載入。

訓練 keypoint-rcnn網路

python tools/train_net.py --dataset keypoints_coco2017 ...

Detectron預訓練權重的調整

python train_net.py --dataset coco2017 --cfg cfgs/e2e_mask_rcnn_R-50-C4.yml --load_detectron --bs

註：優化器狀態 (SGD的動量) 沒有被載入(或被實現)。

推斷結果

python tools/infer_simple.py --dataset coco --cfg cfgs/e2e_mask_rcnn_R-50-C4.yml --load_detectron --image_dir --output_dir

--output_dir 默認為infer_outputs。

衡量標準

keypoint_rcnn

e2e_keypoint_rcnn_R-50-FPN

訓練命令行： python tools/train_net.py --dataset keypoints_coco2017 --cfg configs/e2e_keypoint_rcnn_R-50-FPN.yaml --bs 8

以8張圖片為一個批訓練集，將數據集訓練6個周期，從第5個和第6個訓練周期開始後學習率以0.1倍速衰減。每個周期迭代 (113198 / 8) （向下取整）= 14149次。

數據集: keypoints_coco_2017_val

任務：框定盒

任務：關鍵點

表格中的值為Detectron e2e_keypoint_rcnn_R-50-FPN_1x網路得到的AP值，該網路以16張圖片為批訓練集迭代訓練90000次，在第60000次和第80000次迭代開始後學習率以0.1倍速衰減。

可視化

從頭開始基於coco_train_2017數據訓練 e2e_mask_rcnn_R-50_C4 網路，以4張圖片為一批進行處理，訓練了1 個訓練周期：

Github原址 https://github.com/roytseng-tw/Detectron.pytorch/blob/master/README.md

更多文章，關注雷鋒網(公眾號：雷鋒網)，添加雷鋒字幕組微信號（leiphonefansub）為好友

備註「我要加入」，To be an AI Volunteer ！

從Python入門-如何成為AI工程師

BAT資深演算法工程師獨家研發課程

最貼近生活與工作的好玩實操項目

班級管理助學搭配專業的助教答疑

學以致用拿offer，學完即推薦就業

新人福利

關注 AI 研習社（okweiwu），回復1領取

【超過 1000G 神經網路 / AI / 大數據資料】

如何上手使用 Facebook 的開源平台 Detectron？

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！