從「風控」到「封控」，
數字内容差個「守門員」
作者 | 曾響鈴
文 | 響鈴說（xiangling0815）
草莽紛争之後，數字内容平台如何走遠？
很可能像被「十二道金牌」追回的嶽飛，扼腕長歎的那樣——十年之力，廢于一旦。
嶽飛的十年勝利，毀于奸臣之手，可恨可歎，無可避免。
但在網際網路合規化大潮下，網際網路内容平台的「十年勝利」，如果毀于「内容風控不力」，不僅可惜，更是可悲。因為，這本可以避免。
8月3日，國家計算機病毒應急進行中心（以下簡稱「應急中心」）新通報一批違規移動APP名單，包括《新浪金融》《覓上》《海豚家》等在内的17款APP「榜上有名」。
據了解，這離應急中心通報上一批違規APP尚不足月，而這已經是2022年以來的第12次通報。
在網際網路内容合規化大潮下，守護網絡内容安全的這「十二道金牌」，告訴我們，在當下數字内容風控的重要性和緊迫性，毋庸多言。
01
流水的數字内容
數字内容如「流水」，有幾大特征。
首先，數字内容如流水般，沒有常形，很難捉摸，導緻數字内容風控難度随之變大。
從最開始的圖文，到後面的語音、視訊内容，可以看到數字内容這種「因器變而形變、因物異而适其異」的特性。
而随着技術發展，黑灰産數字内容，從生産到僞造的手段也越來越高——從零幾年的發帖機，到現在的智能語音生成、智能圖像僞造，甚至視訊換臉等，增加了内容風控難度和成本。
其次，相較傳統印刷内容，數字内容生産規模大、增速快，且能夠在網際網路快速流動、擴散和滲透，控制不當，「流水」就會變成「洪水」。這也就意味着，數字内容風控從人力密集型（人工稽核）進入到計算密集型。
資料顯示，人類進入網際網路前的5000年，文字記載内容總共為5艾（1艾位元組=1，152，921，504，606，846，976位元組）。但僅2006年，全球全年産生的數字内容，就超過280艾。
近年來，在「高清、三維、視訊化、使用者創造内容（UGC）」的驅動下，數字内容進一步爆發，宛如「洪水」。2018年到2020年，中國數字内容産業年複合增長率高達9.33%，超過同期中國生産總值。數字内容稽核，已非單憑人力就能勝任的時代。
最後，技術與産業發展，助推數字内容空前豐富，讓數字内容成為數字經濟的「富礦」，同時也成為黑灰産眼中的「肥肉」，數字内容風控呈現出24小時不間斷的「長期強對抗」态勢。
數字内容的時代洪流，沖刷出一條條大江、大河，催生出諸如抖音、快手等網際網路巨頭企業。同時，也在不斷沖刷網絡内容安全的河堤，且平台勢能越強，帶來的内容安全隐患也就越大。數字内容平台，如果成了被利用的「間接作惡工具」，将給企業正常營運帶來麻煩和損失。
今年4月-7月，在為期三個月的「清朗·整治網絡直播、短視訊領域亂象」中，106個直播短視訊平台下架關停，快手、哔哩哔哩、虎牙等被約談、罰款，抖音、淘寶、微信視訊号等16家重點直播、短視訊平台上，56.3萬個違規直播間被處置，235.1萬條違規短視訊被清理，12萬個違規使用者賬号被關閉......
來自新一代數字内容風控服務商網易易盾的資料顯示，成立六年來，網易易盾終端覆寫量超25億，累計檢測資料量超2萬億，處理移動安全風險超1400億，抵禦外挂超威脅700億......
可見，數字内容風控依然任重道遠。而随着内容平台對數字内容風控逐漸重視，相關需求正在不斷上升。數字内容平台發展，如何做到内容「不失控」，已事關企業生死存亡。
02
鐵打的内容風控
不管是将一匙酒倒進一桶污水，還是把一匙污水倒進一桶酒裡，得到的最終都是一桶污水，這就是管理學上著名的「酒與污水定律」。
可見，污水和酒的比例不決定這桶東西的性質，起作用的是那一勺污水，有它在，再多的酒都會成為污水。
這跟内容風控一樣。對數字内容平台來說，即使它有一萬條優質内容，但隻要有違規内容，它就可能面臨處罰、下架乃至關停的風險。
國家應急中心2022年1-7月的12次通報已經敲鐘——内容風控将會越來越重要，内容平台因數字内容獲益，理應承擔更多的内容治理責任，背後邏輯很好了解。
一方面，就企業來說，企業存在的最大價值，是解決社會問題，而非制造社會問題。數字内容平台，過去幾年的發展解決了很多社會問題，這為其帶來了商家。
不過，一些平台也存在大量「色、醜、怪、假、俗、賭」等違規内容，則給其帶來危機。這些内容不但對平台發展無益，會造成使用者體驗下降、使用者流失、平台聲譽受損，同時也會嚴重威脅平台使用者的切身利益，甚至引發社會問題，影響企業發展。
另一方面，對各大行業來說，随着數字化轉型深化，數字經濟如火如荼，數字内容和數字内容風控未來将成為企業标配——數字内容如潮，一波接一波，但不管後續形式、平台如何發展與進化，内容風控将是企業遠航的「壓艙石」，也是内容平台「鐵打的營盤」。
但數字内容風控，并非一蹴而就，而是一場實時強對抗、長鍊條立體式的長期戰，需要大量的人力和技術投入，任何一環掉鍊子都可能導緻前功盡棄。
簡單來講，數字内容風控涵蓋使用者使用全生命周期，包括使用前的使用者賬戶注冊（避免垃圾注冊）、使用中内容智能識别與安全檢測（避免使用中體驗和使用者權益受影響），比如社交反欺詐、遊戲反外挂以及營銷反作弊等，以及抵擋無時無刻可能存在，來自網絡各個角度對應用的攻擊等，這從第三方安全風控公司網易易盾提供的數字内容安全解決方案中，也能感受到數字内容風控需要「面面俱到」。
（△網易易盾數字内容安全解決方案）
這就意味着，不管從成本還是技術上來看，僅靠單一内容平台很難内部消化。是以第三方安全廠商、安全風控公司正在成為企業保駕護航的新剛需。這從網易易盾服務的「朋友圈」越來越大也能得到佐證。目前，網易易盾已服務數千家行業頭部企業，其中不乏人民網、外交部、中信證券、小米、vivo、愛奇藝、知乎、B 站、TapTap、中手遊等知名企事業機關，服務間接覆寫99%以上網民。
數字内容風控，也早在2018年就成為市場空間超百億的行業。安全行業體系标準建設也在持續推進，安全政策營運更是成為新職業——由網易易盾參與起草的《網絡與資訊安全管理者國家職業技能标準》已于2020年正式釋出，這也為行業培養安全政策營運人員提供了支撐。
03
内容平台如何「風控」免「封控」？
顯而易見，網際網路内容平台正在進入「少犯錯即成功」的時代，内容平台如何風控避免封控，需要認識到數字内容風控的幾大特點。
第一，門檻看似低，其實非常高。技術需要持續疊代，場景非标性強，需要大資料支撐。
基于上述特征，數字内容風控也有較強的規模效應，未來主流發展趨勢，隻能是大平台化作戰，而非企業獨自為戰。即數字風控服務商需要「見多識廣」。
就像飛書誕生于抖音集團（原位元組跳動）内部OKR應用；釘釘誕生于阿裡内部協作；網易易盾的誕生，也離不開網易多元網際網路業務的「喂養」。
網易從提供部落格、郵件類産品開始即重視内容風控，且其業務所涉的遊戲、電商、社交、娛樂等都需要内容風控。這些内部需求和實踐，讓網易擁有20多年資料積累，也讓網易易盾在内容風控上「見多識廣」。
這些，又為網易易盾算法團隊沉澱出一系列高效率的場景化資料精煉流程和算法訓練方案。建構了數百種細分類識别的模型，最高99.99%的分類模型精準度，持續獲得包括浙江省科學技術進步獎一等獎在内的各類官方權威認可。
第二，要麼不出事，要麼出大事，試錯成本高，穩定性高于一切。
數字内容風控事故隻有0和1的差別，企業不能存在僥幸心理，也不能充當「小白鼠」，因為一次事故，可能就會打斷企業發展的勢頭，甚至将多年積累毀于一旦。
2019年7月底，處于快速增長期的小紅書突然「被下架」，整改後時隔70多天方才重新上架，元氣大傷——2019年下架前的6月，小紅書月活約為9300萬，到9月底月活使用者降為7288萬。這樣的例子很多，此外還有像抖音集團（原位元組跳動）旗下因内容被關停的「内涵段子」們也不少。
是以，選擇一個被驗證過的内容風控服務商很重要。被網易内部從郵件、部落格到社交娛樂、遊戲、購物驗證過的網易易盾，被上千行業頭部企業「拿去就用」也就不奇怪了，這跟釘釘和飛書被别的企業「拿去用」是一樣的道理。
第三，數字内容風控是一場持久戰，貫穿企業全生命周期，需要全方位、持續改善，包括人工稽核、機器識别和安全政策三方面，一個環節都不能少。
目前第三方内容風控服務商标配是「機器識别+人工稽核」。其中「機器識别」承擔「将識别能力标準化」的部分，即基于深度學習及大規模樣本訓練，對内容進行分析，分辨其中可能存在的色情、低俗、廣告、涉政、暴恐、謾罵、灌水等可能性的内容，進行标紅和分類預處理，最後交由「人工稽核」來負責定性的部分。
還有少數服務商提供的是「機器識别+人工稽核+安全政策」服務，業内較早做的是網易易盾。其提供的「安全政策」可以類比為「機器識别」與「人工稽核」之間的橋梁，既幫人工團隊将其處理的特征和知識，抽象出來反哺給機器，讓機器識别更"聰明"；又根據通用問題，開發一些政策工具持續篩選機器識别後的資料，使其結果輸出更精準。
由于做得比較早（2012年内部開發，2016年開始對外服務，在2019年網易易盾該方案已成為行業通用解決方案），相比其它企業，網易易盾是少數擁有「政策營運團隊」的内容風控服務商，相比市場上普遍的「機器+人工」模式，網易易盾補足了「營運」這個重要環節，成為能提供一站式全生命周期的專業數字内容風控服務的「少數派」。
總而言之，數字内容風控，就像内容平台參與的一場特殊的足球賽，你可以自己不得分，但你不能失守，被對方破門。否則不管是1：0還是100：0，結局都是輸！而平台從内容風控到「被封控」，很大程度上取決于一個「守門員」。
*本文圖檔均來源于網絡
*此内容為【響鈴說】原創，未經授權，任何人不得以任何方式使用，包括轉載、摘編、複制或建立鏡像。
科技向令說視訊号開通啦
來和我一起補腦吧！▲上下滑動檢視更多▼
曾響鈴
1钛媒體、品途、人人都是産品經理等多家創投、科技網站年度十大作者；
2 虎嘯獎評委；
3 作家：【移動網際網路+ 新常态下的商業機會】等暢銷書作者；
4 《中國經營報》《商界》《商界評論》《銷售與市場》等近十家報刊、雜志特約評論員；
5 钛媒體、36kr、虎嗅、界面、澎湃新聞等近80家專欄作者；
6 “腦藝人”（腦力手藝人）概念提出者，現演變為“自媒體”，成為一個行業；
7 騰訊全媒派榮譽導師、多家科技智能公司傳播顧問。
重點關注領域
1人工智能 |區塊鍊 |汽車産業鍊| 内容創業 |新零售
2 電商 |新媒體營銷 |企業級服務| 家居業 |社群O2O
3智能手機 |網紅| 體育IP |網際網路金融 |無人機
4共享經濟 | 直播、短視訊 |傳統企業轉型
最新著作