darknet-配置參數burn-in

darknet的cfg檔案中有一個配置參數: burn_in

burn_in=1000
           

這個參數在caffe中是沒有的，一旦設定了這個參數，當update_num小于burn_in時，不是使用配置的學習速率更新政策，而是按照下面的公式更新

lr = base_lr * power(batch_num/burn_in,pwr)
           

其背後的假設是：全局最優點就在網絡初始位置附近，是以訓練開始後的burn_in次更新，學習速率從小到大變化。update次數超過burn_in後，采用配置的學習速率更新政策從大到小變化，顯然finetune時可以嘗試。