首頁 > 資訊 > 聚焦 > 正文

互聯(lián)網(wǎng)不是法外之地
，環(huán)信內(nèi)容審核為APP保駕護航

2022-06-06 12:27:45來源：環(huán)信

引言：隨著數(shù)字經(jīng)濟蓬勃發(fā)展

，以及疫情加速的線上娛樂迅猛攀升，各種數(shù)字產(chǎn)品形態(tài)的風(fēng)潮迭起

，興趣社交

、娛樂直播

、電商帶貨

、互動游戲等行業(yè)孕育無數(shù)機會的同時，也暗藏潛伏的危險

，是“風(fēng)口”，也是“風(fēng)險口”

。受利益的誘惑與驅(qū)使

，涉黃、涉政

、暴恐、低俗等違法違禁信息

，以各種形式泛濫于網(wǎng)絡(luò)

，讓各大平臺應(yīng)用防不勝防

，不斷被迫充當(dāng)著間接“作惡工具”

，隨之而來的是約談

、整頓、下架甚至關(guān)停

。環(huán)信作為國內(nèi)領(lǐng)先的即時通訊服務(wù)平臺，如何保障企業(yè)的消息內(nèi)容安全

、合規(guī)

，如何幫助企業(yè)規(guī)避內(nèi)容風(fēng)險，在安全的環(huán)境下專注自身業(yè)務(wù)發(fā)展也是環(huán)信一直以來的使命!

Why 互聯(lián)網(wǎng)不是法外之地

強大的網(wǎng)絡(luò)安全產(chǎn)業(yè)實力是保障我國網(wǎng)絡(luò)空間安全的根本和基石

。近年來

，多次就網(wǎng)絡(luò)安全產(chǎn)業(yè)作出重要指示：“互聯(lián)網(wǎng)不是法外之地”!隨之而來國家開展多次“凈網(wǎng)”集中行動，專項整治網(wǎng)上有害信息和不良內(nèi)容

，工信部和網(wǎng)信辦同時重拳出擊

。據(jù)不完全統(tǒng)計，2021年6月至8月間

，執(zhí)法監(jiān)管部門共查辦涉網(wǎng)絡(luò)行政和刑事案件822起

，處置低俗有害信息40余萬條，取締關(guān)閉網(wǎng)站4800余個

，處置違法違規(guī)賬號800余萬個。

工信部：組織對多種類型應(yīng)用軟件及平臺開展專項檢查

，已集中通報6批侵害用戶權(quán)益行為的APP

，下架處理逾期未整改的APP超250款;進一步啟動開展互聯(lián)網(wǎng)行業(yè)專項整治行動，聚焦擾亂市場秩序

、侵害用戶權(quán)益

、威脅數(shù)據(jù)安全、違反資源和資質(zhì)管理規(guī)定等四方面8類問題

，推動行業(yè)規(guī)范健康有序發(fā)展

。

網(wǎng)信辦：加強網(wǎng)絡(luò)生態(tài)治理，深入開展整治網(wǎng)上歷史虛無主義

、整治未成年人網(wǎng)絡(luò)環(huán)境

、整治網(wǎng)上文娛及熱點排行亂象等“清朗”系列專項行動，進一步出臺十項舉措整治“飯圈”亂象

，累計清理有害信息15萬余條

，處置違規(guī)賬號4000余個

，關(guān)閉問題群組1300余個

。

What 產(chǎn)品

、場景和解決方案

在內(nèi)容監(jiān)管日趨嚴(yán)重

、行政監(jiān)管愈發(fā)嚴(yán)格的大環(huán)境之下

，令各大平臺應(yīng)用憂心忡忡的不再只有“流量”，還有“合規(guī)”和“內(nèi)容安全”

。平臺必須承擔(dān)起主體責(zé)任，“大步快跑”的同時

，加強正向引導(dǎo)嚴(yán)防內(nèi)容風(fēng)險

。過去，在內(nèi)容審核方面

，互聯(lián)網(wǎng)“老大哥”們往往通過增加審核人員規(guī)模來解決問題，動輒上萬人的內(nèi)容審核團隊

，讓其他一眾中小廠商望而卻步

，而隨著互聯(lián)網(wǎng)內(nèi)容愈發(fā)繁雜且海量，信息傳播形態(tài)更加多樣化

，音視頻等新的媒介形式興起，傳統(tǒng)的人工審核已經(jīng)無法再從容應(yīng)對內(nèi)容安全危機

。

正是在這樣的行業(yè)背景之下

，環(huán)信推出內(nèi)容審核服務(wù)，聚焦在“內(nèi)容安全”領(lǐng)域

，結(jié)合人工智能技術(shù)打造全棧式智能內(nèi)容識別產(chǎn)品，致力于幫助社交

、直播、電商

、游戲等行業(yè)的開發(fā)者

，精準(zhǔn)識別即時通訊場景中的文本

、圖片

、語音等各類違規(guī)內(nèi)容，為開發(fā)者提供高效

、準(zhǔn)確、全面的內(nèi)容審核過濾服務(wù)

。讓無論是“大廠”還是“小廠”

，都有機會在集成通信云平臺能力的同時

，享受到內(nèi)容識別技術(shù)所帶來的“安全感”

，從而沒有后顧之憂地在市場上開疆拓土

。

內(nèi)容安全(Content security)是網(wǎng)絡(luò)信息安全的一個重要分支，其目的為識別

、阻斷不良信息傳播，例如濫發(fā)電子消息(Spamming)

、色情內(nèi)容

、犯罪內(nèi)容、恐怖主義內(nèi)容

、政治敏感內(nèi)容等

。涉及技術(shù)包括自然語言處理、計算機視覺等

，涉及內(nèi)容包括文字

、圖片

、音頻

、視頻等。環(huán)信內(nèi)容審核產(chǎn)品1.0以IM即時通訊場景作為切入點

，主打消息場景下各類信息的內(nèi)容審核安全

，打造IM即時通訊場景下內(nèi)容安全的一站式解決方案

。環(huán)信內(nèi)容審核產(chǎn)品無縫對接即時通訊IM 四大類消息類型

，零集成開發(fā)成本，開通服務(wù)即可為消息傳播提供“安保措施”;文本類型和圖片類型更是采取實時審核

，有效降低審核延遲，提供即時的IM聊天體驗

。

環(huán)信內(nèi)容審核服務(wù)詳情：

、支持4大內(nèi)容類型、5大必備基礎(chǔ)審核內(nèi)容場景：

具備文本

、圖片、音頻

、視頻全類型的審核能力

，基于業(yè)界先進的深度學(xué)習(xí)網(wǎng)絡(luò)技術(shù)及線上海量真實樣本，有效識別通訊場景中涉政

、色情

、違禁、暴恐

、廣告導(dǎo)流等違規(guī)內(nèi)容

，并支持結(jié)合客戶自身場景進行精準(zhǔn)防控

。

、有效解決各類型內(nèi)容識別中的審核難點：

文本審核支持變體識別，使違規(guī)無處遁形

，解決業(yè)內(nèi)只能事后配置變體規(guī)則的被動情況

音頻審核支持轉(zhuǎn)譯文本識別和聲紋特征識別，實時監(jiān)測音頻輿情趨勢

，動態(tài)追蹤違規(guī)態(tài)勢

圖片審核支持全方位識別數(shù)百種涉政暴恐圖片

、數(shù)十種色情圖片、各式各樣的變體廣告圖片等違規(guī)內(nèi)容

，極大降低平臺監(jiān)管風(fēng)險。

視頻審核支持對視頻內(nèi)容中畫面

、聲音

、文字進行全方位綜合檢測，提高平臺內(nèi)容治理質(zhì)量和效率

，提升用戶體驗

。

、支持個性化設(shè)置審核策略

，提供功能強大的審核管理后臺：

審核規(guī)則靈活設(shè)置：支持按單聊、群聊

、聊天室維度細(xì)分消息

，滿足業(yè)務(wù)不同消息場景下設(shè)置不同審核規(guī)則的需求;

審核模型靈活調(diào)整：支持定制調(diào)整模型審核標(biāo)準(zhǔn)

，結(jié)合客戶自身場景進行精準(zhǔn)防控

，輕松適配不同行業(yè)客戶的審核標(biāo)準(zhǔn);

自定義消息處置策略：針對消息審核結(jié)果，支持客戶設(shè)置消息下發(fā)或攔截的策略

，保障消息處置結(jié)果滿足業(yè)務(wù)需求

。

、提供多行業(yè)適用的審核解決方案：

社交平臺

精準(zhǔn)識別單聊、群聊中文本消息

、圖片消息

、音頻消息、視頻消息中的涉政

、色情

、辱罵、暴恐

、違禁、廣告導(dǎo)流詐騙等風(fēng)險內(nèi)容

，凈化應(yīng)用內(nèi)聊天環(huán)境

，有效降低用戶流失風(fēng)險

直播聊天室

精準(zhǔn)識別直播聊天室、彈幕中的涉政

、涉黃、暴恐

、廣告導(dǎo)流等風(fēng)險內(nèi)容

，降低違規(guī)內(nèi)容傳播風(fēng)險，保障大型直播活動安全推廣

游戲互動

精準(zhǔn)識別游戲公屏聊天中涉政

、涉黃、暴恐

、廣告導(dǎo)流等風(fēng)險內(nèi)容

，精準(zhǔn)識別微信號、手機號等垃圾廣告內(nèi)容

，降低平臺用戶流失風(fēng)險

How good 環(huán)信的優(yōu)勢與價值

、后臺一鍵開通

，0集成開發(fā)成本

，更低延遲的消息審核體驗：

環(huán)信內(nèi)容審核直接無縫對接IM消息發(fā)送環(huán)節(jié)，同一數(shù)據(jù)中心調(diào)用審核

，實現(xiàn)更低延遲的審核服務(wù)體驗

，高效幫助客戶解決傳統(tǒng)方案中消息審核環(huán)節(jié)的痛點

。

相對于客戶自行回調(diào)消息至應(yīng)用服務(wù)器后再自行審核處理方案

，一是能有效節(jié)省網(wǎng)絡(luò)傳輸環(huán)節(jié)并避免網(wǎng)絡(luò)波動造成延遲大的風(fēng)險，從全鏈路上大大降低加入審核環(huán)節(jié)對消息發(fā)生產(chǎn)生的延遲影響;二是幫助客戶節(jié)省大量的服務(wù)器處理成本

、以及開發(fā)和維護的人力成本

，環(huán)信內(nèi)容審核無需客戶集成、0開發(fā)成本

，開通服務(wù)即可使用;

相對于客戶應(yīng)用客戶端先自行審核再發(fā)送消息方案

，一是客戶端網(wǎng)絡(luò)環(huán)境無法保證從而延遲風(fēng)險更大，環(huán)信審核服務(wù)采取同一數(shù)據(jù)中心調(diào)用方式

，有效避免審核環(huán)節(jié)的網(wǎng)絡(luò)延遲風(fēng)險;二是客戶端調(diào)用存在被攻擊的安全風(fēng)險，一旦被攻擊審核環(huán)節(jié)則形同虛設(shè)

，環(huán)信內(nèi)容審核采用服務(wù)器送審安全有保障;三是客戶端送審開發(fā)邏輯復(fù)雜

，會產(chǎn)生開發(fā)和維護成本，環(huán)信內(nèi)容審核無需客戶集成

、0開發(fā)成本

，開通服務(wù)即可使用

，省時省力省心

。