日本无码免费高清在线|成人日本在线观看高清|A级片免费视频操逼欧美|全裸美女搞黄色大片网站|免费成人a片视频|久久无码福利成人激情久久|国产视频一二国产在线v|av女主播在线观看|五月激情影音先锋|亚洲一区天堂av

  • 手機(jī)站
  • 小程序

    汽車測(cè)試網(wǎng)

  • 公眾號(hào)

    • 汽車測(cè)試網(wǎng)

    • 在線課堂

    • 電車測(cè)試

算力限制場(chǎng)景下的目標(biāo)檢測(cè)實(shí)戰(zhàn)淺談

2019-01-21 23:39:47·  
　
現(xiàn)在我們要開始裁剪網(wǎng)絡(luò)結(jié)構(gòu)了，雖然這部分最前沿的研究工作表示完全可以有NAS來(lái)完成。比如Google 2017年的NasNet 和2018年的MNasNet，不過(guò)我倒是覺(jué)得一般情況下一般人可能也部署不起能快速進(jìn)行網(wǎng)絡(luò)結(jié)構(gòu)搜索的分布式搜索框架。右圖即為NasNet 搜索出來(lái)的網(wǎng)絡(luò)結(jié)構(gòu)，確實(shí)看起來(lái)也不像是設(shè)計(jì)出來(lái)的。
 
我們還是在baseline 的基礎(chǔ)上逐步手工調(diào)整吧，可能確實(shí)相比搜索達(dá)不到最優(yōu)，但是因?yàn)橛雄E可循，有經(jīng)驗(yàn)的時(shí)候還是有可能會(huì)比nas 上使用強(qiáng)化學(xué)習(xí)學(xué)出來(lái)的過(guò)程快一點(diǎn)。不過(guò)這塊不敢說(shuō)大話，說(shuō)不好未來(lái)有可能就不行了。
 
根據(jù)mobilenet-v1 論文，有幾個(gè)方向可以調(diào)整：寬度、深度、分辨率。
 
先說(shuō)寬度，這塊有兩篇比較相關(guān)的論文，主要是ADC和AMC，是同一個(gè)組做的。這兩篇論文可以做到逐層選擇最優(yōu)的層寬度，效果還不錯(cuò)。這里我們還是跟mobilenet-v1一樣進(jìn)行等比例的寬度壓縮，不過(guò)有的時(shí)候也可能會(huì)進(jìn)行一些相應(yīng)層的區(qū)別性調(diào)整。
 
深度，就是加減層。這里的問(wèn)題是，既然是壓縮為什么還要加層，因?yàn)榭赡軐挾认聛?lái)了，計(jì)算量已經(jīng)大幅下來(lái)了，增加深度還可以在計(jì)算量和運(yùn)行時(shí)間上達(dá)標(biāo)。
 
深度這里還有一個(gè)很重要的就是選擇幾個(gè)stage 的問(wèn)題，一般的分類網(wǎng)都是32x downsampling ，5個(gè)stage，曠視在2018年提出DetNet 中使用了16x downsampling ，4個(gè)標(biāo)準(zhǔn)stage。這樣的好處是，224x224 輸入下檢測(cè)頭的featuremap 是14x14 的，可以兼顧細(xì)節(jié)和語(yǔ)義，同時(shí)速度也不慢。
 
對(duì)于語(yǔ)義信息和細(xì)節(jié)信息保持更好的檢測(cè)方法，F(xiàn)PN 是個(gè)不錯(cuò)的選擇，但是FPN 在算力限制的條件下略顯笨重，實(shí)時(shí)運(yùn)行壓力有點(diǎn)大。
對(duì)于分辨率，我們則大膽的假設(shè)這是一個(gè)可以暫時(shí)忽略的維度，原因是高分辨率可能帶來(lái)的只是小目標(biāo)和邊框精度的提升。一般的，可以在一個(gè)可行的分辨率下面專注于其他超參數(shù)的調(diào)整。
 
這里還會(huì)涉及一些其他微調(diào)，例如使用其他形狀或者大小的卷積核，提升感受野等。例如有孔卷積和5x5 卷積。不過(guò)有孔卷積在移動(dòng)設(shè)備的性能一般般。
接下來(lái)就是在各種調(diào)整中找一個(gè)最優(yōu)的tradeoff 點(diǎn)了，如圖是我在mobilenet-v2 這個(gè)網(wǎng)絡(luò)結(jié)構(gòu)上嘗試的結(jié)果，嘗試了一些不同寬度、深度和微調(diào)結(jié)構(gòu)等調(diào)整。左半側(cè)的點(diǎn)基本是3/8這個(gè)寬度的，右半側(cè)的點(diǎn)是3/4這個(gè)寬度的。箭頭指向的是簡(jiǎn)單按stage裁剪完深度之后的baseline。
分享到：
 
反對(duì) 0 舉報(bào) 0 收藏 0 評(píng)論 0
滬ICP備11026917號(hào)-25