1.1概述
全連接配接層 Fully Connected Layer 一般位于整個卷積神經網絡的最後，負責将卷積輸出的二維特征圖轉化成一維的一個向量，由此實作了端到端的學習過程（即：輸入一張圖像或一段語音，輸出一個向量或資訊）。全連接配接層的每一個結點都與上一層的所有結點相連因而稱之為全連接配接層。 由于其全相連的特性，一般全連接配接層的參數也是最多的。
1.2.1 主要作用
全連接配接層的主要作用就是将前層（卷積層、池化層等層）計算得到的特征整合成一個值，其優點在于減少特征位置對于分類結果的影響，提高了整個網絡的魯棒性。
1.2.2 個人了解
如上圖所示，一個網絡在全連接配接層之前，生成了
5×3×3
的特征映射，我們需要隻需要使用5個卷積核去和激活函數的輸出進行卷積運算，再将五個輸出的值相加，即可得到一個全連接配接層的輸出值。如果結果是N維的向量，則需要
N×5
個
3×3
的卷積核。再加上求和運算對應的權值，參數的數量是非常大的，是以一般隻在網絡的之後使用全連接配接層。
1.3 全連接配接層和卷積層的差別
卷積神經網絡（CNN）由輸入層、卷積層、激活函數、池化層、全連接配接層組成，即 （INPUT-CONV-RELU-POOL-FC）。
1.3.1 卷積層：用它來進行特征提取。
例如，輸入圖像是
32 * 32 * 3
，3是它的深度（即R、G、B），卷積層是一個
5 * 5 * 3
的filter(過濾器)，這裡注意：感受野的深度必須和輸入圖像的深度相同。通過一個filter與對入圖像進行卷積，我們可以得到一個
28*28*1
的特征圖。
1.3.2 全連接配接層
全連接配接層的每一個結點都與上一層的所有結點相連，用來把前邊提取到的特征綜合起來。
由于其全相連的特性，一般全連接配接層的參數也是最多的。全連接配接層的權重矩陣是固定的，即每一次feature map的輸入必須都得是一定的大小（即與權重矩陣正好可以相乘的大小），是以網絡一開始輸入圖像的尺寸必須固定，才能保證傳送到全連接配接層的feature map的大小跟全連接配接層的權重矩陣比對。
下圖中連線最密集的2個地方就是全連接配接層，這很明顯的可以看出全連接配接層的參數的确很多。
1.4 全連接配接層與前向計算
在前向計算過程，也就是一個線性的權重求和的過程，全連接配接層的每一個輸出都可以看成前一層的每一個結點乘以一個權重系數W，最後加上一個偏置值b得到，即 。如上圖中第一個全連接配接層，輸入有5044個神經元結點，輸出有500個結點，則一共需要5044*500=400000個權值參數W和500個偏置參數b。
1.5 全連接配接層與反向傳播
1、對上一層的輸出（即目前層的輸入）求導
2、對權重系數W求導
3、對偏置系數b求導
省略具體的數學步驟，具體的計算細節可以點選這個連結
還有一個很生動的講解：戳這裡