內(nèi)容巡查的概述

針對業(yè)務(wù)系統(tǒng)包括APP中的文本、圖片、音頻和視頻等信息進(jìn)行安全檢測和過濾，結(jié)合國家監(jiān)管政策要求，提供對內(nèi)容的涉政、違禁、廣告等風(fēng)險(xiǎn)內(nèi)容巡查。

為數(shù)據(jù)內(nèi)容提供全方面敏感性檢測，結(jié)合國家政策法規(guī)，提供文本、圖片、音頻、視頻、網(wǎng)頁等方面，關(guān)于涉政、違禁、廣告等內(nèi)容風(fēng)險(xiǎn)，實(shí)現(xiàn)準(zhǔn)確、全方面覆蓋的內(nèi)容審核過濾。

移動(dòng)端app內(nèi)容巡檢的創(chuàng)新點(diǎn)

1、移動(dòng)端軟件的開發(fā)，實(shí)現(xiàn)了巡查人員現(xiàn)場完成采集，且數(shù)據(jù)可分析；

2、后臺(tái)管理軟件的開發(fā)，實(shí)現(xiàn)了巡查工作的管理，能自動(dòng)匯總分析報(bào)表；

3、數(shù)據(jù)采用離線采集機(jī)制，通過同步功能，無網(wǎng)絡(luò)覆蓋也能采集數(shù)據(jù)；

4、具有異常推送功能；

5、實(shí)現(xiàn)制造業(yè)巡檢管理的云架構(gòu)方式，提高巡檢管理的效率及有效性。

內(nèi)容巡查的效率

巡查人員未認(rèn)真巡查，可設(shè)置三級(jí)督辦，每超時(shí)一級(jí)便往上提報(bào)一級(jí)，適時(shí)升級(jí)，管理介入，提升服務(wù)品質(zhì)和管理效率

接單/處理超時(shí)督辦

接單環(huán)節(jié)和處理環(huán)節(jié)均可設(shè)置超時(shí)督辦超時(shí)時(shí)間范圍可設(shè)；督辦層級(jí)可設(shè)

三級(jí)督辦提醒

工單接單超時(shí)每超過一級(jí)，均會(huì)有新語音消息和信息推送提醒，巡查工單內(nèi)容會(huì)顯示為紅色和超時(shí)標(biāo)記

被忽視的內(nèi)容安全，App領(lǐng)域成了重災(zāi)難區(qū)

近年來，各類互聯(lián)網(wǎng)企業(yè)接連不斷因內(nèi)容違規(guī)問題被罰。企業(yè)有意自查，對內(nèi)容進(jìn)行把控，卻處處是難題。行業(yè)到底怎么了？或者，更多想問的是我們的內(nèi)容安全屏障到底怎么了？

各家互聯(lián)網(wǎng)平臺(tái)都不約而同地開始升級(jí)風(fēng)險(xiǎn)管控力度，預(yù)防網(wǎng)暴能力，新上線“風(fēng)險(xiǎn)提醒”“發(fā)文警示”等功能，整治不當(dāng)私信和不當(dāng)評論，推動(dòng)形成預(yù)防網(wǎng)暴的合力。

在加強(qiáng)風(fēng)險(xiǎn)管控的背后，是網(wǎng)暴已達(dá)到猖狂的程度。就拿近期的案例而言，上海姑娘因打賞外賣員200元被網(wǎng)暴跳樓；19歲女孩直播中被慫恿喝農(nóng)作物藥品，類似事件則多次被推上熱搜，而這只是互聯(lián)網(wǎng)內(nèi)容安全問題的冰山一角。

今年3月份，人民日報(bào)連發(fā)三篇評論斥責(zé)網(wǎng)暴。更早之前，中央網(wǎng)信辦也開展了“清朗·2022年春節(jié)網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)，其中重點(diǎn)整治任務(wù)中，排在首位的就是“網(wǎng)暴、散播謠言等問題”，包括借疫情、社會(huì)熱點(diǎn)事件等挑動(dòng)，進(jìn)行人肉搜索、攻擊等情況。

針對此次專項(xiàng)行動(dòng)，中國信通院與網(wǎng)易、博特智能等企業(yè)在2022年也完成了面向互聯(lián)網(wǎng)信息服務(wù)類企業(yè)的《內(nèi)容審核體系成熟度評估規(guī)范》，該規(guī)范將能幫助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)全方面梳理內(nèi)容安全體系，及時(shí)查漏補(bǔ)缺，協(xié)助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)開展“自查自糾”。

就在近期，中國信通院再次牽頭會(huì)同阿里、網(wǎng)易、中國移動(dòng)、博特智能、YY直播、映客直播等互聯(lián)網(wǎng)信息平臺(tái)、機(jī)器審核服務(wù)商，召開了內(nèi)容審核機(jī)審能力調(diào)研會(huì)，重點(diǎn)對互聯(lián)網(wǎng)信息平臺(tái)在文本、圖片、視頻、音頻領(lǐng)域的機(jī)審能力進(jìn)行了深入調(diào)研，將為國家有關(guān)部門開展后續(xù)規(guī)范工作提供科學(xué)依據(jù)。

這也預(yù)示著內(nèi)容安全領(lǐng)域的相關(guān)行業(yè)標(biāo)準(zhǔn)即將出臺(tái)，平臺(tái)對展示用戶內(nèi)容的審核負(fù)責(zé)任，將被正式規(guī)范約束。