人工智能應用于網絡安全上的局限與未來

近日，NIST研究測試了184名人類和4種最新人臉識别算法的識别準确率，并将研究結果釋出在美國科學院學報。人類識别員由3組人構成：一組是87名經過訓練的專業人員，一組是13名所謂的“超級識别者”（天賦出衆的人）；還有作為對照組的84名沒經過專門訓練的普通人。

不出意外，經過訓練的專業組的表現明顯優于未受過任何教育訓練的對照組。但令人驚訝的是，如果單打獨鬥的話，無論是人類專家還是機器算法，都給不出最準确的結果。隻有人類專家搭配上最好的算法，才能得到最好的表現。

NIST電子工程師 P. Jonathon Phillips 評論道：“我們的資料顯示，最好的結果出自面部審查員與最好算法的組合。兩名人類面部識别專家搭檔确實能提升準确率，但不如一名人類專家與最佳算法的組合表現好。”

Vectra安全分析主管 Chris Morales 解釋說：“NIST的研究采用了名為卷積神經網絡的深度學習。因為其分析是基于像素而不是基于整幅圖像，該深度學習被證明在圖像識别上相當有效。說白了，它看到的不是整個森林，而是一棵一棵的樹。”

NIST研究人員想要弄清的問題，是多少個人或多少台機器結合起來，才能在對比兩張照片以确定是否同一人時達到最低錯誤率——完全正确當然最好。該研究的結果是，人與機器的組合比單個人的準确率要高，也就形成了更高的生産力。之是以會産生這樣的結果，是因為人和機器各自具備的優缺點不同，協同工作時正好能揚長避短互相彌補。

研究人員發現，最好的機器與最優秀的人，其表現相差不大。另外，人類面部審查員與機器學習結合能取得最佳準确度得分 1.0 (不出錯)。而想要在不用機器學習的情況下取得同樣的1.0表現，則需要4名經過訓練的面部審查員或3名超級識别者。

如果這些結果代表着AI在網絡安全應用上的普遍現象，也就意味着我們可能正快速接近一個臨界點。目前，算法并不比經過訓練的專業人士好多少，但如果機器學習學習算法為人所用，它們就能提升性能并減少所需人力。

雖然AI本身不是什麼新鮮事物，但過去幾年其應用和功能有了長足進展。如果上述研究是在3年前做的，最好的計算機算法可能也僅僅與未經訓練的普通學生表現相當。如今，頂尖算法的表現已經與經驗豐富的專業人士毫無二緻了。

其中蘊含的意思就是，雖然我們尚不能完全依賴機器學習算法決策，但如果算法品質持續改善，那一天終将到來。我們目前就已經達到能用AI減少人力資源依賴的程度了。最好的結果不是來自專家團隊搭配機器學習，而是單個專業人士與最好算法的配合。

Tim Sadler，機器學習電子郵件安全公司Tessian共同創始人兼CEO。他表示：“新問題的最優解決方案往往是有人和機器共同找出來的。但是，随着越來越多的資料被打上标記，随着越來越多的研究人員投身AI研究，機器學習模型總體上在往更準确更自治的方向走，越來越不需要人類‘操作員’的存在了。其中一個例子就是醫療影像診斷。該領域裡，如今深度學習模型已經在癌變組織早期診斷中大幅超越了放射科醫生，即将變身AI萬能診斷師。”

不過，Tim Sadler 并不認為人臉識别算法已經達到醫療影像診斷中AI所企及的高度。

人臉識别技術還很新，盡管機器學習正快速颠覆該領域，但很明顯這項技術并不完美，比如家族特征有時候就能蒙過人臉識别技術的驗證。人臉識别專家和機器學習算法的緊密合作還将持續數年，在類似的颠覆出現之前，專家還将繼續修正機器的錯誤，并正确标記資料。

NIST的研究專門針對的是人臉識别，但基本的原則适用于生物特征識别和網絡安全中的各種機器學習用例。首先，機器學習算法通過輸入收集有關某情形的各種細節，然後将該資訊與所存儲的資料進行比較，判斷這些資訊代表着什麼。計算機根據所收集的資訊排演各種可能操作，預測哪一種是最有可能成功的。

AI在網絡安全領域越來越舉足輕重，尤其是在使用者身份驗證面臨更多挑戰的當下。但是，AI技術必須能夠自适應複雜困難場景，比如人臉被部分遮擋，或者光線不足以保證圖像精度而錯誤接受率又很低之類的。

英國阿爾斯特大學教授，IEEE進階會員 Kevin Curran 博士舉出了蘋果 Face ID 中AI應用的例子：

Face ID 通過往人臉上投射3萬個紅外點陣來産生3D網格面。由此産生的人臉識别資訊本地存儲到蘋果的A11仿生晶片中的安全區域。前置紅外傳感器是是傳感深度的關鍵。早期人臉識别功能，比如三星去年推出的産品，太容易被面具和2D照片騙過了。蘋果宣稱，其 Face ID 不會屈從于這些小伎倆。不過，有人已經宣稱，用3D列印頭部的方法可能騙過 Face ID。但我們并未看到該黑客手法經過測試。

該NIST研究僅僅展現了人臉識别算法的有效性，其結果不能自動應用到其他機器學習算法上。但無論如何，基本結論還是可以用到實體安全和網絡安全領域的很多其他AI用例上的。

AI改進的腳步很快。雖然AI技術不能完全替代人類，但多個AI聯用或人類專家搭配AI使用，能提供最大的有效性。情勢已經很明顯了：人與機器的正确結合具備提升性能和減少開支的潛力。

原文釋出時間為：2018-06-6

本文作者：nana

本文來自雲栖社群合作夥伴“

安全牛

”，了解相關資訊可以關注“

”。