日本无码免费高清在线|成人日本在线观看高清|A级片免费视频操逼欧美|全裸美女搞黄色大片网站|免费成人a片视频|久久无码福利成人激情久久|国产视频一二国产在线v|av女主播在线观看|五月激情影音先锋|亚洲一区天堂av

  • 手機(jī)站
  • 小程序

    汽車(chē)測(cè)試網(wǎng)

  • 公眾號(hào)

    • 汽車(chē)測(cè)試網(wǎng)

    • 在線(xiàn)課堂

    • 電車(chē)測(cè)試

算力限制場(chǎng)景下的目標(biāo)檢測(cè)實(shí)戰(zhàn)淺談

2019-01-21 23:39:47·  
　
舉個(gè)小例子，這里針對(duì)mobilenet-v2 有一個(gè)小的點(diǎn)是我著重去調(diào)整的，就是1/4 這個(gè)尺寸下，第一個(gè)bottleneck極小只有4，是否這個(gè)值太小會(huì)導(dǎo)致對(duì)特征的描述太弱，而調(diào)大它對(duì)網(wǎng)絡(luò)整體計(jì)算量影響并不大，則可以嘗試。
 
這里總結(jié)一下，簡(jiǎn)單說(shuō)就是在當(dāng)前狀態(tài)找一個(gè)最需要調(diào)整的維度，有哪些維度就靠經(jīng)驗(yàn)和他山之石了。另外，一般情況下，如果某個(gè)變量會(huì)明顯提高，那么就著重優(yōu)化一下它唄，也就是前文所說(shuō)的在邊際效用遞減曲線(xiàn)上上升趨勢(shì)比較明顯的變量值得著重考慮。
 
而哪一個(gè)是最需要調(diào)整的呢，如果靠經(jīng)驗(yàn)都想不出的時(shí)候，那就隨便挑一個(gè)，因?yàn)檎娴目赡苡衅嫘?。其?shí)我的感覺(jué)是，這個(gè)人肉搜索過(guò)程其實(shí)完全可以看做是一個(gè)隨機(jī)梯度下降的過(guò)程，每次自己都是用自己的評(píng)價(jià)函數(shù)找到了一個(gè)最佳維度然后往最優(yōu)迭代。并且有的時(shí)候嘗試的調(diào)整可以超出預(yù)期的值一定范圍，例如裁窄網(wǎng)絡(luò)之后加深的時(shí)候可以超量多加一些層，看看趨勢(shì)。這個(gè)就可以好比是使用大的學(xué)習(xí)率或者時(shí)模擬退火算法了。
 
而人肉調(diào)整的好處是，我不需要每次都按相同的學(xué)習(xí)率調(diào)整，有的時(shí)候可以走一大步，節(jié)省不少迭代次數(shù)。
好，好不容易找?guī)讉€(gè)模型，但是事情還沒(méi)完，現(xiàn)在需要翻回頭去在現(xiàn)在的結(jié)構(gòu)上，再次調(diào)整之前的參數(shù)了。而在這些參數(shù)確定之后，還要再次回頭把挑出來(lái)的網(wǎng)絡(luò)結(jié)構(gòu)再驗(yàn)證一次。因?yàn)檫@里存在多變量聯(lián)合作用影響結(jié)果的情況，以及評(píng)價(jià)標(biāo)準(zhǔn)缺陷或者訓(xùn)練過(guò)程隨機(jī)因素導(dǎo)致的偶然因素。不過(guò)這里的工作量相比之前已經(jīng)不大了，因?yàn)榍懊嬉呀?jīng)排除掉了一些明顯不行的選項(xiàng)嘛。
分享到：
 
反對(duì) 0 舉報(bào) 0 收藏 0 評(píng)論 0
滬ICP備11026917號(hào)-25