移動(dòng)app內(nèi)容巡查的特點(diǎn)

內(nèi)容漏審風(fēng)險(xiǎn)預(yù)警

對(duì)移動(dòng)應(yīng)用線上抓取的內(nèi)容進(jìn)行抽樣或全量?jī)?nèi)容審核，及時(shí)發(fā)現(xiàn)違規(guī)內(nèi)容遺漏風(fēng)險(xiǎn)

自定義內(nèi)容巡查

通過(guò)自定義巡查路徑，對(duì)包含自定義特征的場(chǎng)景進(jìn)行定時(shí)巡查

定時(shí)對(duì)線上內(nèi)容進(jìn)行抽樣或全量審核，及時(shí)降低漏審造成的影響，為完善內(nèi)容審核規(guī)則提供依據(jù)

線上內(nèi)容自動(dòng)抓取

對(duì)移動(dòng)應(yīng)用內(nèi)容發(fā)布平臺(tái)線上文字、圖片、音頻、視頻等內(nèi)容進(jìn)行定時(shí)抓取，實(shí)現(xiàn)內(nèi)容監(jiān)管

內(nèi)容巡查的功能

網(wǎng)站內(nèi)容自動(dòng)抓取

對(duì)網(wǎng)站線上文字、圖片、音頻、視頻等內(nèi)容進(jìn)行定時(shí)抓取，實(shí)現(xiàn)網(wǎng)站內(nèi)容監(jiān)管

掃描二維碼簽到

無(wú)需NFC標(biāo)簽等設(shè)備，儀需手機(jī)掃描二維碼標(biāo)簽即可實(shí)現(xiàn)巡查簽到，智能手機(jī)均支持

二維碼防作假

特定地點(diǎn)強(qiáng)制拍照、隨機(jī)拍照、無(wú)法選取手機(jī)本地照片等等，可以在一定程度上有效避免二維碼簽到方式作假。

二維碼方式巡查雖成本低，但也容易作假，所以一定得具備防作假手段！

被忽視的內(nèi)容安全，App領(lǐng)域成了重災(zāi)難區(qū)

近年來(lái)，各類(lèi)互聯(lián)網(wǎng)企業(yè)接連不斷因內(nèi)容違規(guī)問(wèn)題被罰。企業(yè)有意自查，對(duì)內(nèi)容進(jìn)行把控，卻處處是難題。行業(yè)到底怎么了？或者，更多想問(wèn)的是我們的內(nèi)容安全屏障到底怎么了？

各家互聯(lián)網(wǎng)平臺(tái)都不約而同地開(kāi)始升級(jí)風(fēng)險(xiǎn)管控力度，預(yù)防網(wǎng)暴能力，新上線“風(fēng)險(xiǎn)提醒”“發(fā)文警示”等功能，整治不當(dāng)私信和不當(dāng)評(píng)論，推動(dòng)形成預(yù)防網(wǎng)暴的合力。

在加強(qiáng)風(fēng)險(xiǎn)管控的背后，是網(wǎng)暴已達(dá)到猖狂的程度。就拿近期的案例而言，上海姑娘因打賞外賣(mài)員200元被網(wǎng)暴跳樓；19歲女孩直播中被慫恿喝農(nóng)作物藥品，類(lèi)似事件則多次被推上熱搜，而這只是互聯(lián)網(wǎng)內(nèi)容安全問(wèn)題的冰山一角。

今年3月份，人民日?qǐng)?bào)連發(fā)三篇評(píng)論斥責(zé)網(wǎng)暴。更早之前，中央網(wǎng)信辦也開(kāi)展了“清朗·2022年春節(jié)網(wǎng)絡(luò)環(huán)境整治”專(zhuān)項(xiàng)行動(dòng)，其中重點(diǎn)整治任務(wù)中，排在首位的就是“網(wǎng)暴、散播謠言等問(wèn)題”，包括借疫情、社會(huì)熱點(diǎn)事件等挑動(dòng)，進(jìn)行人肉搜索、攻擊等情況。

針對(duì)此次專(zhuān)項(xiàng)行動(dòng)，中國(guó)信通院與網(wǎng)易、博特智能等企業(yè)在2022年也完成了面向互聯(lián)網(wǎng)信息服務(wù)類(lèi)企業(yè)的《內(nèi)容審核體系成熟度評(píng)估規(guī)范》，該規(guī)范將能幫助互聯(lián)網(wǎng)信息服務(wù)類(lèi)企業(yè)全方面梳理內(nèi)容安全體系，及時(shí)查漏補(bǔ)缺，協(xié)助互聯(lián)網(wǎng)信息服務(wù)類(lèi)企業(yè)開(kāi)展“自查自糾”。

就在近期，中國(guó)信通院再次牽頭會(huì)同阿里、網(wǎng)易、中國(guó)移動(dòng)、博特智能、YY直播、映客直播等互聯(lián)網(wǎng)信息平臺(tái)、機(jī)器審核服務(wù)商，召開(kāi)了內(nèi)容審核機(jī)審能力調(diào)研會(huì)，重點(diǎn)對(duì)互聯(lián)網(wǎng)信息平臺(tái)在文本、圖片、視頻、音頻領(lǐng)域的機(jī)審能力進(jìn)行了深入調(diào)研，將為國(guó)家有關(guān)部門(mén)開(kāi)展后續(xù)規(guī)范工作提供科學(xué)依據(jù)。

這也預(yù)示著內(nèi)容安全領(lǐng)域的相關(guān)行業(yè)標(biāo)準(zhǔn)即將出臺(tái)，平臺(tái)對(duì)展示用戶(hù)內(nèi)容的審核負(fù)責(zé)任，將被正式規(guī)范約束。

智能內(nèi)容處理市場(chǎng)需要奇才

根據(jù)報(bào)送資料顯示，博特智能的App內(nèi)容巡查系統(tǒng)，采用自動(dòng)化控制技術(shù)與檢測(cè)能力，在面向動(dòng)態(tài)的違規(guī)信息和實(shí)時(shí)更新的UGC內(nèi)容監(jiān)控中，可以實(shí)現(xiàn)24小時(shí)對(duì)頁(yè)面進(jìn)行抓取，進(jìn)行抽樣專(zhuān)項(xiàng)巡查或者全量巡查，批量清理違規(guī)數(shù)據(jù)。在App端，則不需要讓企業(yè)推送數(shù)據(jù)，并能生成巡查報(bào)告，可以及時(shí)向企業(yè)發(fā)出漏審風(fēng)險(xiǎn)預(yù)警，制定下一階段的內(nèi)容風(fēng)險(xiǎn)控制工作計(jì)劃。

2019年成立的博特智能，開(kāi)始在智能內(nèi)容處理市場(chǎng)嶄露頭角。梳理其背景后發(fā)現(xiàn)，博特智能很早之前就與中科院重點(diǎn)實(shí)驗(yàn)室有深度的合作，雙方的研究人員還聯(lián)合研發(fā)內(nèi)容科技的中心技術(shù)和產(chǎn)品。并獲得東湖創(chuàng)投、深創(chuàng)投集團(tuán)等數(shù)千萬(wàn)元的投資加持賽道突圍。

可以說(shuō)，博特智能的“加速跑”，也證明了其在自然語(yǔ)言理解、文本識(shí)別與過(guò)濾、圖像識(shí)別、視頻內(nèi)容分析、中文文本糾錯(cuò)、格式文檔分析、文本摘要、文本感情的色彩判斷等方向已有多年的經(jīng)驗(yàn)和技術(shù)積累。

App內(nèi)容巡查系統(tǒng)，本質(zhì)上是一個(gè)主動(dòng)監(jiān)測(cè)系統(tǒng)，三級(jí)內(nèi)容風(fēng)險(xiǎn)控制閘門(mén)在對(duì)文本、圖片、視頻、音頻、直播的巡查過(guò)程中，會(huì)比“人機(jī)協(xié)同”更具有后發(fā)優(yōu)勢(shì)，在機(jī)器、人工都漏掉時(shí)，內(nèi)容巡查系統(tǒng)依然能實(shí)時(shí)發(fā)現(xiàn)風(fēng)險(xiǎn)并前置處理。