近日，第二屆移動視頻生態(tài)發(fā)展論壇在上海舉行，200余位來自視頻直播的行業(yè)和技術(shù)專家就視頻直播趨勢變化、直播內(nèi)容監(jiān)管與規(guī)范、視頻內(nèi)容IP價值的發(fā)掘和重塑等主題展開探討。
網(wǎng)易云安全(易盾)產(chǎn)品總監(jiān)王博受邀出席論壇，并發(fā)表了關(guān)于“視頻直播行業(yè)內(nèi)容安全現(xiàn)狀與實踐”的演講，他認為當下直播運營者在內(nèi)容監(jiān)管方面往往會遇到風險、成本、技術(shù)、效果等困境，而在內(nèi)容安全解決方案上，做到有機整合、人工智能、內(nèi)容風控這三點尤為重要。此外，網(wǎng)易云安全正式面向企業(yè)客戶開放了其內(nèi)容安全智能系統(tǒng)，這一系統(tǒng)在云安全服務領域處于業(yè)內(nèi)。
網(wǎng)絡直播爆發(fā)的同時，內(nèi)容監(jiān)管問題日益凸顯
2016年被譽為“中國網(wǎng)絡直播元年”，上半年網(wǎng)絡直播用戶規(guī)模就已經(jīng)達到了3.25億，占網(wǎng)民總體的“45.8%”，中國直播市場的總量超過了 250 億元。網(wǎng)絡直播作為一種新的大眾傳媒方式開始全方位走入公眾視野。
一個新行業(yè)野蠻增長之后，暴露的是約束條件的不健全。“進入2017年，直播遇到新挑戰(zhàn)，內(nèi)容監(jiān)管就是其中之一”，王博說，“僅2016年7月，文化部查處關(guān)閉的直播房間數(shù)超過2萬、涉及網(wǎng)絡主播超1.6萬”。
隨著國家在直播內(nèi)容方面的收緊，有關(guān)部門對直播內(nèi)容提出了要24小時監(jiān)管、建立內(nèi)容審核機制，包括錄播先審后發(fā)，以及主播實名認證等要求。王博認為，在如此嚴格的內(nèi)容監(jiān)管要求下，直播運營者或COO往往會遇到以下四個方面的困境——風險、成本、技術(shù)、效果。
風險層面：如果某直播運營團隊在內(nèi)容審查方面經(jīng)驗比較少，往往會出現(xiàn)觸犯法規(guī)高壓線，輕則停站，重則關(guān)站。
成本審核：如果是自建7×24小時的審核團隊，一般來說90后團隊管理難度大、人員流動非常頻繁，這會導致成本居高不下。
技術(shù)成本：無論是內(nèi)容監(jiān)管，還是文本反垃圾，采取自研技術(shù)時間周期長且成本也非常高。
效果不佳：垃圾清理不干凈，極大可能會影響用戶，因此造成用戶流失。
控制違規(guī)內(nèi)容，從源頭解決
在直播內(nèi)容黃、暴、廣告日益嚴峻的情況下，打造純凈網(wǎng)絡空間顯得尤為迫切。在本次論壇上，王博根據(jù)網(wǎng)易20年的反垃圾技術(shù)經(jīng)驗，總結(jié)出了以下三點重要經(jīng)驗——有機整合、人工智能、內(nèi)容風控。
有機整合是指必須有一個完整的、功能齊全的內(nèi)容管控系統(tǒng)。“網(wǎng)易在做內(nèi)容安全方面，對整個業(yè)務流程中每一個環(huán)節(jié)都有把控。舉個例子來說，用戶注冊到登陸再到發(fā)表一些內(nèi)容——包括圖片、文本、音頻、視頻，我們都會做內(nèi)容防護，確保最后的內(nèi)容是純凈、安全的。”王博說。
借助人工智能。單純靠人工解決審核問題，已經(jīng)無法滿足視頻直播高流量的需求，人工智能在此環(huán)節(jié)中起到很大作用，讓機器做機器做的事情，讓人做人做的事情。在此方面，網(wǎng)易云安全(易盾)會通過機器學習進行語意分析及智能關(guān)鍵詞分析，來判斷發(fā)表的內(nèi)容是否涉黃、涉暴、涉及謠言等。
內(nèi)容風控，在反垃圾方面如果是事后做，會比較被動。反垃圾更為高效的手段在于運營者在源頭或者垃圾沒有產(chǎn)生之時，做到提前預知。王博表示，網(wǎng)易云安全(易盾)可以通過對用戶行為的大數(shù)據(jù)分析，形成用戶畫像，能提前預知該用戶是否產(chǎn)生詐騙行為。
據(jù)王博介紹，目前網(wǎng)易云安全(易盾)已經(jīng)為瘋播、全聚星、栗子直播、魚泡泡等多家視頻或直播客戶提供反垃圾服務。針對直播行業(yè)，網(wǎng)易云安全(易盾)推出了專業(yè)的主播身份認證功能、直播掛機檢測和直播黑屏檢測功能等。隨著視頻直播用戶內(nèi)容遞進式爆發(fā)，視頻平臺的內(nèi)容安全能力走向系統(tǒng)化、智能化已經(jīng)成為趨勢。
此外，網(wǎng)易云安全(易盾)還推出有內(nèi)容反垃圾、行為式驗證碼、注冊保護服務、登陸保護等服務，已為眾多UGC、PUGC平臺提供內(nèi)容安全和業(yè)務安全防護服務，為企業(yè)降低人力和技術(shù)成本，其相關(guān)技術(shù)已經(jīng)處于業(yè)內(nèi)。
轉(zhuǎn)型的最終目的 -提質(zhì)降本增效
分享到微信 ×
打開微信，點擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。