廣告
算力限制場景下的目標檢測實戰(zhàn)淺談
2019-01-21 23:39:47·
最后還要通過任務(wù)本身的實際測試去根據(jù)實測問題調(diào)整驗證集。如果有問題還要再回去前面某個點上再調(diào)一遍。
剛剛的例子暫時告一段落吧，現(xiàn)在拋出第二個問題，畢竟預告里面提了要說一說，其實答案相比大家心中已經(jīng)有了答案。
根據(jù)之前的背景，這兩個問題中數(shù)據(jù)特征空間差異是巨大的，所以，其實兩個問題不可能直接進行遷移學習，但是，這里方法論是適用的，這里偷個懶，就不再展開介紹如何重新適配了一遍了，相信有了第一個任務(wù)的經(jīng)驗，這個任務(wù)做起來并不難，迭代次數(shù)也會大幅下降。
而通過講解，相信開篇的問題也可以得到一定的解答。
總結(jié)
首先，基礎(chǔ)知識很重要，需要掌握大量的基礎(chǔ)性調(diào)參經(jīng)驗，這里強烈推薦大家去查閱學習曠視大神魏秀參的博客。
其次，需要嚴格做到對比實驗方法，幫助自己準確獲得這一次調(diào)整帶來的性能提升，并就此思考這次調(diào)整所帶來改變的原因。因為一旦有多維參數(shù)發(fā)生變化，就很難確定到底是哪一維的問題，不能準確的確定原因。另外，這里雖然排除了多維參數(shù)交叉作用的成分，但是可以通過螺旋迭代方法進行彌補。
特別需要提醒大家的是，精細的實驗設(shè)計會導致嘗試路徑和次數(shù)很長，非常需要耐心。這時是很有必要先大膽降維，避免多個因素不知從何下手；而遇到瓶頸時則可以大膽猜測并假設(shè)問題，小心設(shè)計實驗進行驗證，很大概率會有驚喜。
最后，輔助性的工作/工具至關(guān)重要，是保證快速迭代的基礎(chǔ)。所以選擇一個方便上手的框架至關(guān)重要，維護框架的細節(jié)也非常重要。這里值得建議的是，能用多卡加速就用多卡加速，然后有必要關(guān)注一下硬盤讀寫瓶頸，建議換SSD固態(tài)硬盤。不過有一點值得慶幸，小模型的單模型訓練速度很快，多因素嘗試的時候，迭代速度還可以接受。
最后，一個良好的筆記軟件以及使用習慣可以幫你梳理嘗試過程中的邏輯和細節(jié)。不然，間隔幾個小時的訓練工作完成之后，只怕你已經(jīng)忘記上次調(diào)整的是什么了。
問題回答
后邊回答環(huán)節(jié)問題較多，回答的時間比較倉促，這邊挑三個出來簡單再說一下。
第一是關(guān)于超參數(shù)方面的，也就是學習率batch size，iteration等等超參數(shù)的配置。這里也是需要嚴格的對比實驗設(shè)計來嘗試的。同時，超參數(shù)是一般情況下變化不大，總的嘗試次數(shù)（batchsize * iteration）基本是隨著數(shù)據(jù)集總量來的。所以一般確定了的超參數(shù)，在數(shù)據(jù)量變化不大的時候可以保持不動。
第二是關(guān)于檢出率和召回率如何兼顧？這個問題現(xiàn)場時候我理解錯了，講的更多的是如何挑選一個好的評價標準。事實上，如果回到本文所最長提到的邊際效用遞減曲線來說，兼顧檢出率和召回率，就是找到一個最靠上的模型和超參數(shù)。具體找到這個模型，就是文中所講的方法論來做了。
第三是輕量級模型下，用imagenet預訓練有沒有意義？回到特征空間的背景，因為輕量級模型的網(wǎng)絡(luò)結(jié)構(gòu)容量本身較小，所能容納的特征量不大。但是imagenet的數(shù)據(jù)集特征空間非常大，遠超了輕量級模型的能力。會導致預訓練模型中對特征的描述和目標問題領(lǐng)域相距過大，預訓練學出來的特征后邊都會被新問題訓練過程中覆蓋掉。所以，數(shù)據(jù)不夠時合理的解決方法是，可以使用特征相比比較相似的數(shù)據(jù)集進行預訓練，例如車輛檢測問題中，數(shù)據(jù)量不夠，可以使用kitti、bdd100k等數(shù)據(jù)集進行一定的遷移工作。
廣告 編輯推薦
最新資訊
-
“汽車爬坡試驗方法”將有國家標準
2026-03-03 12:44
-
十年耐久監(jiān)管時代：電池系統(tǒng)開發(fā)策略將如何
2026-03-03 12:44
-
聯(lián)合國法規(guī)R59對機動車備用消聲系統(tǒng)的工程
2026-03-03 12:08
-
聯(lián)合國法規(guī)R58對后下部防護裝置的工程化約
2026-03-03 12:07
-
聯(lián)合國法規(guī)R57對摩托車前照燈配光性能的工
2026-03-03 12:07
