天天看點

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

目錄

一、經典網絡

二、Residual Networks(ResNets)

三、Inception

四、使用開源的實作建議以及遷移學習

五、資料增強

六、計算機視覺現狀

總綱

經典的網絡

  • LeNet-5
  • AlexNet
  • VGG

ResNet

Inception

一、經典網絡

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

二、Residual Networks(ResNets)

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

 一般前後次元設計成相同的,如果不同的話,那就添加一個w來設定成相同的次元

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

三、Inception

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

1×1網絡:壓縮信道 

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

 Inception的基本思想是:該網絡不需要認為決定使用哪個過濾器,或是否需要池化,而是由網絡自行确定這些參數,你可以為網絡添加所有可能的值,然後把這些輸出都連接配接起來,讓網絡自己學習它需要什麼樣的參數、采用哪一個濾波器

但是代價就是計算成本

 如何計算計算量:

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

 隻要合理設定頸瓶層,那麼既可以縮小運算規模,也不會降低網絡性能

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

 但是,Inception網絡層如何做到代替人工來确定卷積層中的過濾器、确定是否需要池化層等等,這個是怎麼做到的呢???等看論文的時候再去了解吧,網上都沒有一個比較好的解釋

四、使用開源的實作建議以及遷移學習

因為論文裡面的參數很難調整,即使是專業的學生也是很難複制他人的成果。

但是很多人都會将自己的研究成果開源,那麼找一個開源的代碼來說就很不錯!!!

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

 遷移學習

不如從别人已經訓練很久的權重的參數開始訓練自己的權重!進展就會相當快!

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

如果你的資料集很小的話:

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

 如果你的資料集表較大的話:

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

 如果你有大量的資料的話: 

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

五、資料增強

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

 六、計算機視覺現狀

吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀
吳恩達深度學習(筆記+作業)·第四課·第二周 深度卷積網絡執行個體一、經典網絡二、Residual Networks(ResNets)三、Inception四、使用開源的實作建議以及遷移學習五、資料增強  六、計算機視覺現狀

繼續閱讀