天天看點

多層感覺機(MLP)

  最終還是沒有憋住,寫下了這篇博文,最近真的是感慨很多啊,真的很想找個人說說。還有那麼多的東西要看要學。

  最近一直在搞神經網絡方面的東西,看了MLP的講解,但都是講解結構,我就是想知道MLP到底是幹啥的,有什麼用,一直沒找到,碰巧在一篇部落格中看到便在此記錄一下自己的了解。這裡不講解它的結構和曆史,想了解的可以看這裡和這裡,本篇隻是為了從高維的角度給出一個整體的認識。

  

  作用:它就是一個傳統的神經網絡,就是為了解決單層感覺機無法解決的非線性問題(單層感覺機隻能對線性資料進行分類)。做圖檔處理的大都是用caffe,它就相當于caffe裡面的p2p層。

  多層感覺機最初是為了做分類的,但是它也可以處理回歸問題,隻要在最後将softmax等分類器改成sigmoid回歸就行。它的訓練方式也是“BP反向傳導”。

  

  很好的一個圖檔:

  

多層感覺機(MLP)

  

  但是它的隐藏層之間的連接配接方式是“全連接配接”的,是以造成(1)訓練的參數過多(2)由于(1)造成它的層數不可能過多,限制了它的能力也有限,不能解決比較複雜的問題。于是,局部連接配接的卷積神經網絡便出來了,很好的解決了這些問題。

  

繼續閱讀