天天看點

通過提取神經元知識實作人臉模型壓縮:MobileID可在移動裝置上快速運作

MobileID 是一種非常快速的人臉識别系統,其可以從 DeepID2 中提取知識。給定一張被檢測和已對齊的人臉圖像,該軟體可以輸出一個低維的人臉表征(face representation),該表征可以可靠地保留其身份資訊。更多細節可參考我們的論文《Face Model Compression by Distilling Knowledge from Neurons》。

通過提取神經元知識實作人臉模型壓縮:MobileID可在移動裝置上快速運作

安裝并編譯 Caffe 和 t-SNE 庫。

下載下傳預訓練的模型 mobile_id.caffemodel:

Place "mobile_id.caffemodel" into "./models/"
Place "lfw.zip" into "./data/gallery/" and unzip

運作特征提取腳本:

sh ./extract_features_gallery.sh

運作可視化腳本:

matlab ./gen_tsne_gallery.m

MobileID 系統是在 CelebA 資料集上訓練的,在 LFW 資料集上測試的。當配備聯合貝葉斯(Joint Bayesian:http://www.jiansun.org/papers/ECCV12_BayesianFace.pdf)時,它能在保證高速的同時還實作出色的表現,如下所示:

通過提取神經元知識實作人臉模型壓縮:MobileID可在移動裝置上快速運作
通過提取神經元知識實作人臉模型壓縮:MobileID可在移動裝置上快速運作

注:CelebA 資料集和 LFW 資料集之間沒有身份重疊。

論文:通過從神經元中提取知識實作的人臉模型壓縮(Face Model Compression by Distilling Knowledge from Neurons)

通過提取神經元知識實作人臉模型壓縮:MobileID可在移動裝置上快速運作

近來的先進人臉識别系統都建構于大型深度神經網絡(DNN)或它們的組合之上,其中會包含數以百萬計的參數。但是,DNN 高昂的計算成本使得我們難以将其部署到移動裝置和嵌入式裝置中。這項工作解決了用于人臉識别的模型壓縮問題,其中一個大型教師網絡(large teacher network)或其組合所學習到的知識會被用作訓練一個緊湊的學生網絡(compact student network)的監督。和之前通過軟化标簽機率(soften label probabilities)(這種方法難以拟合)來表征知識的方法不同,我們通過使用更高隐藏層的神經元來表征知識,其可以保留和标簽機率一樣多的資訊,但是能做到更加緊湊。通過利用學習到的人臉表征的基本特征(阈知識),我們提出了一種神經元選擇方法來選擇與人臉識别最相關的神經元。使用被選擇的神經元作為監督來模拟 DeepID2+ 和 DeepID3(這是目前最佳的人臉識别系統)的單個網絡,一個帶有簡單網絡結構的緊湊學生網絡可以在 LFW 上分别實作比其教師更好的驗證準确度。當使用 DeepID2+ 的組合作為教師時,一個模仿學生可以實作比其更好的表現并實作 51.6 倍的壓縮率和 90 倍的推理速度提升,使得可将這種笨重的模型應用于便攜式裝置。

原文釋出時間為: 2017-07-04

本文來自雲栖社群合作夥伴極市網,了解相關資訊可以關注極市網。

繼續閱讀