繼文化部、公安部等對直播平臺的內(nèi)容安全進行專項整治之后，廣電總局再度下發(fā)通知抵制網(wǎng)絡(luò)直播的低俗內(nèi)容。2016年是網(wǎng)絡(luò)直播爆發(fā)的元年，近300家直播平臺出現(xiàn)印證了蛋糕的規(guī)模，但內(nèi)容安全無疑成了一個隱形的燙手山芋。

與直播同樣受關(guān)注的還有人工智能，自AlphaGo名聲大噪之后，人們在對人工智能表示恐懼和擔(dān)憂的同時，人工智能技術(shù)的應(yīng)用也漸入佳境。那么人工智能可以解決網(wǎng)絡(luò)直播的內(nèi)容隱憂嗎？至少在國外已經(jīng)出現(xiàn)了國外已經(jīng)誕生了mollom、WebPurify、Sightengine等第三方反垃圾服務(wù)，國內(nèi)也有網(wǎng)易易盾、Gootion、達觀、騰訊萬象等一眾產(chǎn)品。

互聯(lián)網(wǎng)內(nèi)容安全，為何直播成了眾矢之的？

據(jù)CNNIC第38次中國互聯(lián)網(wǎng)發(fā)展狀況統(tǒng)計報告顯示，截至今年6月，我國網(wǎng)絡(luò)直播用戶規(guī)模達到3.25億，占網(wǎng)民總體的45.8%。迅速火起來的直播平臺，已然成為當下影響力最大的內(nèi)容生產(chǎn)者，這便不難理解廣電總局等多次下發(fā)通知的原因所在。

2012年國內(nèi)的直播平臺還只有區(qū)區(qū)25家，如今的龐大規(guī)模和移動直播平臺的草莽式發(fā)展不無關(guān)系。一方面，縱觀整個直播市場， “美女”、“秀”、“色”等具有窺私欲和荷爾蒙刺激的元素成為諸多直播平臺的標配。且在監(jiān)管慢半拍的情況下，早期的直播平臺多以色情、暴力等低俗內(nèi)容吸引觀眾，盡管經(jīng)歷了幾番嚴打，類似的情況依舊存在。

另一方面，即便是一些直播平臺的用戶規(guī)模達到了千萬級甚至上億，連《信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證》都還沒有拿到，比如花椒、斗魚等等，一些不為人知的直播平臺所面臨的情況可想而知。網(wǎng)絡(luò)直播幾乎無門檻的現(xiàn)狀，導(dǎo)致拼顏值、拼尺度成為直播圈的主流，不少網(wǎng)絡(luò)主播開始游走在“灰色邊緣地帶”，暴力、色情、低俗、獵奇等內(nèi)容層出不窮。

讓人不寒而栗的是，從《2015年中國青少年上網(wǎng)行為研究報告》給出的數(shù)據(jù)來看，我國的青少年網(wǎng)民數(shù)量達到2.87億，而直播恰是青少年網(wǎng)絡(luò)行為的重要場景之一。色情、暴力、謠言、欺詐等對青少年的身心健康有著很大的負面作用，根治直播平臺所存在的內(nèi)容低俗問題已是不可不為之舉。

直播平臺的痛點，人工智能可以解決嗎？

對于主播來講，提供低俗內(nèi)容所面臨的后果無非是“禁演”，可站在直播平臺的角度來看，因為低俗內(nèi)容帶來的負面影響和處罰卻很可能導(dǎo)致在競爭激烈的直播市場中掉隊。盡管主播月入十萬的神話并不現(xiàn)實，直播平臺的盈利模式也較為單一，可透過斗魚、映客等數(shù)十億的估值來看，直播已經(jīng)成為名符其實的造富風(fēng)口。

大多數(shù)直播平臺顯然不會在內(nèi)容審核上輕易觸碰政策的紅線，但每天上千萬的直播行為以及數(shù)億的用戶評論，很難依靠純粹的人工審核來完成。事實上，從門戶時代開始，內(nèi)容審核就成了互聯(lián)網(wǎng)產(chǎn)品的一大弊病，如今業(yè)已實現(xiàn)了從人工審核向人工智能的過渡，究其過程或可分為三個時期。

第一個時期可以稱之為關(guān)鍵詞過濾的時代。早期的門戶網(wǎng)站、論壇、博客中為了審核用戶評論，往往采用關(guān)鍵詞、黑白名單和各種過濾器技術(shù)，來做一些內(nèi)容的偵測和攔截。這個時期的技術(shù)手段很基礎(chǔ)，卻也能夠滿足早期互聯(lián)網(wǎng)產(chǎn)品的需求。

第二個時期可以視為“算法”稱霸的時代。進入Web2.0時代之后，互聯(lián)網(wǎng)的產(chǎn)品形式變得更加豐富，網(wǎng)民的數(shù)量也不可同日而語。一些互聯(lián)網(wǎng)公司開始基于計算機技術(shù)進行算法上的更新，比如貝葉斯過濾、膚色識別等，將機器內(nèi)容審核的范圍從文字延伸到了圖片。

第三個時期就是當下的人工智能時代。大數(shù)據(jù)、云計算、人工智能等由概念走向?qū)嵱茫瑑?nèi)容審核的范圍擴展到文字、語音、圖片、視頻、直播等，幾乎覆蓋了移動互聯(lián)網(wǎng)時代的所有產(chǎn)品。一個顯著的特征就是深度學(xué)習(xí)在內(nèi)容審核領(lǐng)域的應(yīng)用，比如前文所說的Gootion、網(wǎng)易易盾等根據(jù)多年在安全領(lǐng)域違規(guī)詞庫的沉淀和神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)能力，實現(xiàn)了對目標文本進行精確匹配和快速識別。

不難發(fā)現(xiàn)，單從技術(shù)角度來講，人工智能和深度學(xué)習(xí)技術(shù)在內(nèi)容審核上應(yīng)用，在很大程度上可以解決當前內(nèi)容審核的需求。可為何很多直播平臺還在利用“場控”等形式進行直播監(jiān)督，甚至一些典型的UGC產(chǎn)品還處于人工審核+算法過濾，這不得不讓人思考人工智能在商業(yè)化上的思路。

人工智能的商業(yè)化，還要邁過哪些坎？

正如來自谷歌的吳軍博士所說“人工智能的商業(yè)化就是看它是否已經(jīng)深入到“黃賭毒”這種人類最基本的訴求中”。一語成讖 ，被神話或者妖魔化的人工智能在商業(yè)化方面并不樂觀，即使是接受程度最高的“語音助手”，還未能找到可觀的盈利模式。在一系列因素的作用下，內(nèi)容審核成了人工智能展示的舞臺，也是其在商業(yè)化領(lǐng)域能否破冰的關(guān)鍵。

互聯(lián)網(wǎng)產(chǎn)品“拒絕”使用人工智能進行內(nèi)容審核的原因有很多，數(shù)據(jù)保密性的顧慮、成本考慮等等不一而足?？删妥詈诵牡脑騺碚f，人工智能技術(shù)尚未擊中用戶的核心痛點。那么針對垂直細分領(lǐng)域的解決方案會成為這些產(chǎn)品破冰的突破口嗎？

就以網(wǎng)絡(luò)直播為例，目前市場上專注于此的產(chǎn)品并不多，有巨頭背景的網(wǎng)易易盾將現(xiàn)階段的矛頭瞄準了社區(qū)類產(chǎn)品，騰訊萬象有圖提供的服務(wù)過于單一，對于直播管家等專注直播的公司來說，這是一個機遇也是一個挑戰(zhàn)。而又該怎么做的呢？大致有三點值得借鑒的地方。

首先，遠低于人工審核的使用成本。

以一家月直播10萬小時的中小直播平臺為例，如果采用傳統(tǒng)的內(nèi)容審核技術(shù)，100人的內(nèi)容管理團隊每月所花費的成本在80萬上下。如果借助人工智能進行內(nèi)容監(jiān)控，人力投入可以削減到10人左右，綜合投入不過10萬到20萬之間。據(jù)悉，映客每月的運營成本在1億元上下的規(guī)模，也因此遠未達到盈虧平衡的狀態(tài)。對中小直播平臺而言更是如此，如何降低運營成本已經(jīng)成為盈利與否的關(guān)鍵。

其次，在產(chǎn)品功能上覆蓋更多的盲點。

從技術(shù)層面來講，利用人工智能進行內(nèi)容監(jiān)測所涉及的技術(shù)有圖像識別、語音識別、語義分析、文字識別、深度學(xué)習(xí)等，通過實時對接直播平臺的內(nèi)容，對其進行包括內(nèi)容涉黃、涉恐等審核。相比于傳統(tǒng)的機器審核，實現(xiàn)了視頻、語音、圖片、文本等多種識別模式，涵蓋了直播平臺的主播直播、彈幕、私信等場景。或許在人工智能領(lǐng)域并不是革命性的創(chuàng)新，卻迎合了直播平臺的剛需。

再次，提供更完善的用戶追蹤和數(shù)據(jù)分析。

正如很多人預(yù)言，盈利模式和用戶群體高度重合的直播平臺們必定面臨一場“百團大戰(zhàn)”，而如何夯實自身在主播資源、內(nèi)容質(zhì)量、用戶粘性、運營成本等方面的優(yōu)勢，將決定一家直播平臺的淘汰與否。人工智能在內(nèi)容審核方面的應(yīng)用意在保障內(nèi)容質(zhì)量并提升用戶體驗，在這個過程中對主播和用戶的追蹤，則為人工智能在直播平臺上進行深度的數(shù)據(jù)挖掘提供了更多的可能性。比如在基礎(chǔ)的內(nèi)容審核之外，提供用戶類型統(tǒng)計、主播數(shù)字畫像、行業(yè)分類統(tǒng)計、違規(guī)態(tài)勢預(yù)測等多維度的數(shù)據(jù)分析服務(wù)。這些恰是很多直播平臺所欠缺的，也是降低運營成本的又一利好。

誠然，“高大上”的人工智能從技術(shù)殿堂落地還有很多的路要走，而專注于垂直細分領(lǐng)域或是人工智能進一步普及的捷徑。

結(jié)語

直播的崛起很大程度上得益于智能終端的普及和通信技術(shù)的發(fā)展，經(jīng)歷了野蠻式的擴張，亂象的網(wǎng)絡(luò)直播終究要面臨一個轉(zhuǎn)折點。從廣電總局的態(tài)度來看，“無照經(jīng)營”、輕內(nèi)容、重營銷的直播模式已經(jīng)是一潭死水，直播內(nèi)容審核將成為一種新常態(tài)，所幸還有人工智能。

人工智能概念股：埃斯頓、科大智能、漢王科技、江南化工、華東數(shù)控、和而泰、中科曙光、永創(chuàng)智能、北京君正、通富微電、永創(chuàng)智能、勁拓股份。