日前，多家互聯(lián)網(wǎng)應用的音視頻業(yè)務(wù)被曝出涉黃、涉暴、涉政、違禁等不良內容。平臺成了間接作惡工具，面臨約談、整頓、關(guān)停等違規處理，這給企業(yè)造成了難以估量的損失。而對音視頻平臺來(lái)說(shuō)，針對海量?jì)热葜鹨粚徍私^非易事，目前主要面臨兩大行業(yè)難題：

　　首先，審核效率低下。平臺作為網(wǎng)絡(luò )服務(wù)提供者，視頻內容大部分來(lái)自于用戶(hù)上傳，當用戶(hù)達到一定基數，每天百萬(wàn)甚至千萬(wàn)的視頻內容，客觀(guān)上給審核帶來(lái)了極大困難。

　　其次，有害信息難以發(fā)現。對于嬌喘呻吟、辱罵語(yǔ)音識別、垃圾廣告，以及涉政、暴恐、特殊LOGO等不良內容，不僅量大而且類(lèi)型不一，從中排查這些危險因素，需要較高的技術(shù)手段才能完成。

　　為解決行業(yè)痛點(diǎn)，幫助客戶(hù)從源頭發(fā)現并杜絕這類(lèi)不良信息，互聯(lián)網(wǎng)通信云廠(chǎng)商融云提供的音視頻審核服務(wù)，可高效精準地自動(dòng)識別違規內容，保障平臺業(yè)務(wù)的穩定運營(yíng)。尤其當平臺有對消息及音視頻有雙重審核需求時(shí)，融云可幫助企業(yè)一站式審核圖、文、音、視“全”內容，有效解決多類(lèi)型、海量信息難以甄別的問(wèn)題。同時(shí)，也幫客戶(hù)節省了對接第三方審核公司的商務(wù)溝通成本，以及研發(fā)適配所耗用的成本，為開(kāi)發(fā)者及各互聯(lián)網(wǎng)平臺構筑起綠色通信的護城河。

　　目前，融云提供的音視頻審核功能主要應用在 1v1、1v多通話(huà)場(chǎng)景，會(huì )議場(chǎng)景以及直播場(chǎng)景。融云的客戶(hù)在使用 CallLib SDK 或 RTCLib SDK 實(shí)現音視頻通話(huà)、線(xiàn)上會(huì )議或直播等類(lèi)型應用后，可以把每個(gè)參與人的音頻、視頻數據發(fā)送至審核服務(wù)，進(jìn)行內容審核。

　　當企業(yè)開(kāi)通審核功能后，融云支持音視頻流自動(dòng)審核，審核結果會(huì )通過(guò)融云的回調服務(wù)發(fā)送到開(kāi)發(fā)者的應用服務(wù)器。具體來(lái)說(shuō)，融云媒體服務(wù)器（RTC Server）會(huì )把收到的音視頻流轉碼成審核服務(wù)需要的格式（RTMP）來(lái)送審，不需要開(kāi)發(fā)者轉碼或者截幀再去送審。在啟動(dòng)審核任務(wù)后，融云會(huì )按照一定的周期或在命中攔擊事件時(shí)把審核結果回調給用戶(hù)，幫助用戶(hù)方便地解析出審核結果，開(kāi)發(fā)者可以根據審核結果決策是否需要斷開(kāi)直播間主播推流，比如可以踢出主播或封禁主播。

　　圖1：融云音視頻審核服務(wù)架構

　　在音頻審核功能方面，融云提供涉政語(yǔ)音識別、嬌喘語(yǔ)音識別、國歌識別、色情語(yǔ)音識別、辱罵語(yǔ)音識別、垃圾廣告識別六大審核維度。基于Bi-GRU、Attention模型、NAR模型，構建混合深度神經(jīng)網(wǎng)絡(luò )模型等多個(gè)先進(jìn)手段，精準識別各類(lèi)場(chǎng)景中涉政人物、政治事件、反動(dòng)分裂、恐怖主義等百余種類(lèi)型涉政音頻，精準識別聲音中含有嬌喘、呻吟、耳騷、喊麥等違規音頻，對于音頻中含有色情、低俗、污穢、語(yǔ)愛(ài)等涉黃內容也絕不放過(guò)。

　　在視頻審核功能方面，融云提供涉政視頻識別、色情視頻識別、暴恐視頻識別、廣告視頻識別、垃圾廣告識別、LOGO水印識別。尤其可以實(shí)時(shí)精準識別和攔截各類(lèi)場(chǎng)景的手機號、微信、QQ、微博、網(wǎng)址、二維碼等各種變體垃圾廣告內容，并通過(guò)高精度LOGO水印檢測識別技術(shù)，支持競品LOGO檢測、涉政LOGO檢測，維護客戶(hù)品牌形象。

　　根據開(kāi)發(fā)者的使用調查反饋，融云的音視頻審核服務(wù)最大的特點(diǎn)是精準，除了審核能力精準，還能迅速精準地定位問(wèn)題源頭，縮短了問(wèn)題排查的時(shí)間；同時(shí)，審核模式靈活，支持靈活篩選審核對象，比如對指定房間，甚至指定用戶(hù)的送審，可添加個(gè)性化的審核維度，最重要的是產(chǎn)品功能性能穩定，可用性99.9%，可應對高并發(fā)的使用場(chǎng)景。此外，支持長(cháng)達半個(gè)月的測試時(shí)間，讓客戶(hù)有充分的時(shí)間熟悉、了解相關(guān)功能，讓使用無(wú)后顧之憂(yōu)。

　　具體來(lái)說(shuō)，融云音視頻審核服務(wù)具備四大技術(shù)優(yōu)勢：第一，從服務(wù)架構上看，深度融合CNN、RNN、GAN、TDNN、LSTM等模型，違規識別準確率高；第二，違規態(tài)勢實(shí)時(shí)追蹤，可實(shí)時(shí)監測輿情趨勢，動(dòng)態(tài)追蹤違規態(tài)勢，增量模型小時(shí)級更新，幫助產(chǎn)品

快速迭代升級；第三，全方位識別數百種涉政暴恐圖片、數十種色情圖片、各式各樣的變體廣告圖片等違規內容，極大降低平臺監管風(fēng)險；第四，超強彈性服務(wù)，全球多集群部署，可秒極彈性擴容，因此每日可承載數億級的海量音視頻審核請求。

　　在實(shí)際應用中，融云針對圖、文、音、視的“全”內容，提供雙重審核服務(wù)，將IM即時(shí)通訊審核與音視頻審核功能疊加，構成“聯(lián)防聯(lián)控”的一站式內容審核云服務(wù)產(chǎn)品，結合融云反垃圾與內容安全經(jīng)驗，構筑體系化、專(zhuān)業(yè)化的審核系統，全面保障客戶(hù)通信云業(yè)務(wù)安全運行。

　　圖2：融云IM 內容審核服務(wù)

　　融云的IM內容審核服務(wù)主要包括文本過(guò)濾、圖片過(guò)濾、音視頻文件過(guò)濾三類(lèi)功能。其中，融云的文本過(guò)濾具有多語(yǔ)種識別能力，支持中文（簡(jiǎn)繁體）、維語(yǔ)、藏語(yǔ)、英語(yǔ)、日語(yǔ)等。擁有毫秒級的響應速度，通過(guò)機器學(xué)習、智能算法、語(yǔ)義分析等多維度對數據解析，識別準確率可達 95% 以上。

　　融云的圖片過(guò)濾能力基于融云海量樣本庫，識別準確率達90%以上，并且支持水印，傾斜，扭曲，異體等多種變形文字的提取識別，從而提高垃圾圖片過(guò)濾的準確率。同時(shí)還可承受單日千萬(wàn)級圖片數據的處理，支持數據高峰時(shí)段彈性擴容，檢測結果毫秒級返回。

　　融云的音視頻文件過(guò)濾能力可承載日均千萬(wàn)級數據處理，檢測結果秒速返回；并支持場(chǎng)景化定制，多種模型組合訓練，供手機號畫(huà)像、IP畫(huà)像等多并提維度判定，識別準確率可達98%。

　　綜上，融云能夠精準過(guò)濾文本、圖片、音視頻消息及音視頻流中的不良信息，幫助客戶(hù)有效規避運營(yíng)風(fēng)險，保證內容平臺的健康安全，并且該服務(wù)提供機器審核和人工審核的雙重保障，用戶(hù)可根據自身情況同時(shí)使用，也可任選其一。

　　由于各行各業(yè)通信云應用對綠色通信都存在迫切的需求，融云的音視頻審核專(zhuān)門(mén)針對在音視頻通信中，對內容有安全過(guò)濾和設防需求的客戶(hù)而設。同時(shí)，音視頻審核功能與其圖文審核功能疊加復核，可全面過(guò)濾以及精準識別所有通信形式中的內容，構成了一個(gè)審核閉環(huán)的防護體系，在解決企業(yè)對通信內容安全痛點(diǎn)的同時(shí)，讓業(yè)務(wù)運行省心、省力，省成本。