內(nèi)容巡查的功能

網(wǎng)站內(nèi)容自動(dòng)抓取

對(duì)網(wǎng)站線上文字、圖片、音頻、視頻等內(nèi)容進(jìn)行定時(shí)抓取，實(shí)現(xiàn)網(wǎng)站內(nèi)容監(jiān)管

掃描二維碼簽到

無(wú)需NFC標(biāo)簽等設(shè)備，儀需手機(jī)掃描二維碼標(biāo)簽即可實(shí)現(xiàn)巡查簽到，智能手機(jī)均支持

二維碼防作假

特定地點(diǎn)強(qiáng)制拍照、隨機(jī)拍照、無(wú)法選取手機(jī)本地照片等等，可以在一定程度上有效避免二維碼簽到方式作假。

二維碼方式巡查雖成本低，但也容易作假，所以一定得具備防作假手段！

被忽視的內(nèi)容安全，App領(lǐng)域成了重災(zāi)難區(qū)

近年來(lái)，各類互聯(lián)網(wǎng)企業(yè)接連不斷因內(nèi)容違規(guī)問(wèn)題被罰。企業(yè)有意自查，對(duì)內(nèi)容進(jìn)行把控，卻處處是難題。行業(yè)到底怎么了？或者，更多想問(wèn)的是我們的內(nèi)容安全屏障到底怎么了？

各家互聯(lián)網(wǎng)平臺(tái)都不約而同地開始升級(jí)風(fēng)險(xiǎn)管控力度，預(yù)防網(wǎng)暴能力，新上線“風(fēng)險(xiǎn)提醒”“發(fā)文警示”等功能，整治不當(dāng)私信和不當(dāng)評(píng)論，推動(dòng)形成預(yù)防網(wǎng)暴的合力。

在加強(qiáng)風(fēng)險(xiǎn)管控的背后，是網(wǎng)暴已達(dá)到猖狂的程度。就拿近期的案例而言，上海姑娘因打賞外賣員200元被網(wǎng)暴跳樓；19歲女孩直播中被慫恿喝農(nóng)作物藥品，類似事件則多次被推上熱搜，而這只是互聯(lián)網(wǎng)內(nèi)容安全問(wèn)題的冰山一角。

今年3月份，人民日?qǐng)?bào)連發(fā)三篇評(píng)論斥責(zé)網(wǎng)暴。更早之前，中央網(wǎng)信辦也開展了“清朗·2022年春節(jié)網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)，其中重點(diǎn)整治任務(wù)中，排在首位的就是“網(wǎng)暴、散播謠言等問(wèn)題”，包括借疫情、社會(huì)熱點(diǎn)事件等挑動(dòng)，進(jìn)行人肉搜索、攻擊等情況。

針對(duì)此次專項(xiàng)行動(dòng)，中國(guó)信通院與網(wǎng)易、博特智能等企業(yè)在2022年也完成了面向互聯(lián)網(wǎng)信息服務(wù)類企業(yè)的《內(nèi)容審核體系成熟度評(píng)估規(guī)范》，該規(guī)范將能幫助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)全方面梳理內(nèi)容安全體系，及時(shí)查漏補(bǔ)缺，協(xié)助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)開展“自查自糾”。

就在近期，中國(guó)信通院再次牽頭會(huì)同阿里、網(wǎng)易、中國(guó)移動(dòng)、博特智能、YY直播、映客直播等互聯(lián)網(wǎng)信息平臺(tái)、機(jī)器審核服務(wù)商，召開了內(nèi)容審核機(jī)審能力調(diào)研會(huì)，重點(diǎn)對(duì)互聯(lián)網(wǎng)信息平臺(tái)在文本、圖片、視頻、音頻領(lǐng)域的機(jī)審能力進(jìn)行了深入調(diào)研，將為國(guó)家有關(guān)部門開展后續(xù)規(guī)范工作提供科學(xué)依據(jù)。

這也預(yù)示著內(nèi)容安全領(lǐng)域的相關(guān)行業(yè)標(biāo)準(zhǔn)即將出臺(tái)，平臺(tái)對(duì)展示用戶內(nèi)容的審核負(fù)責(zé)任，將被正式規(guī)范約束。

不斷擴(kuò)招的后顧之慮

綜合各路媒體報(bào)道來(lái)看，字節(jié)跳動(dòng)內(nèi)容審核員已擴(kuò)招超2萬(wàn)人，快手、B站、騰訊等各平臺(tái)也分別有數(shù)千人。整體不到十萬(wàn)數(shù)量級(jí)的內(nèi)容審核員，在面對(duì)數(shù)億人民產(chǎn)生的倍量?jī)?nèi)容時(shí)，互聯(lián)網(wǎng)秩序的維護(hù)者們也顯得有些力不從心。

內(nèi)容審核員就如“互聯(lián)網(wǎng)保安”，24小時(shí)在文本、圖片、音頻、視頻的不間斷“巡邏”，攔截那些黃色、低俗、涉政、廣告等違規(guī)內(nèi)容，如果攔截不及時(shí)，隨時(shí)就可能上演“全民知曉”的內(nèi)容安全事故。而長(zhǎng)期熬夜、身體紊亂、長(zhǎng)期面對(duì)黃色、低俗等內(nèi)容，對(duì)審核員的精神，心理，造成非常大的損傷。

國(guó)內(nèi)外已有不少?gòu)臉I(yè)者受到類似困擾，輕則“惡心到吃不下飯”，“晚上做噩夢(mèng)”，嚴(yán)重的心理創(chuàng)傷，甚至可以讓人變得麻木和暴躁，越來(lái)越具有攻擊性，甚至有審核員猝死。

可以說(shuō)，當(dāng)前依靠人工審核來(lái)控制內(nèi)容合規(guī)安全，已達(dá)到較高負(fù)荷的狀態(tài)。

那不斷擴(kuò)大審核團(tuán)隊(duì)規(guī)模，就可以“后顧無(wú)憂”嗎？顯然這已不再是較優(yōu)解。眼下還是平臺(tái)可以增加人力成本，擴(kuò)招人工、“少賺一點(diǎn)”的階段，但作為企業(yè)，都會(huì)在成本和收益之間想達(dá)到一個(gè)平衡。

如果單純把內(nèi)容風(fēng)險(xiǎn)控制當(dāng)成一件純技術(shù)性的事情，或者說(shuō)只認(rèn)為是企業(yè)的成本負(fù)擔(dān)，不能創(chuàng)造收益。那企業(yè)只需要準(zhǔn)備大量訓(xùn)練數(shù)據(jù)，一些判斷模型就可以直接拿來(lái)用，甚至還可以拿出去做成生意。但真正經(jīng)歷過(guò)內(nèi)容安全痛苦的企業(yè)就會(huì)知道，內(nèi)容風(fēng)險(xiǎn)控制掌握著企業(yè)發(fā)展的命門。

海量的內(nèi)容，在人工之外如何做好內(nèi)容的合規(guī)和安全？現(xiàn)已成了所有內(nèi)容相關(guān)企業(yè)繞不開的話題，而內(nèi)容風(fēng)險(xiǎn)控制細(xì)分領(lǐng)域頭部玩家們，也瞄準(zhǔn)了貼近人類思維的AI內(nèi)容審核機(jī)制的算法研究。

智能內(nèi)容處理市場(chǎng)需要奇才

對(duì)于涉及內(nèi)容風(fēng)險(xiǎn)控制相關(guān)的企業(yè)而言，內(nèi)容巡查算是一個(gè)全新的解決方案。在積極嘗試的同時(shí)，更看重的是通過(guò)提前自查自糾，避免監(jiān)管機(jī)構(gòu)的事后懲戒，防患于未然，堵住內(nèi)容風(fēng)險(xiǎn)控制漏洞的同時(shí)，也堵住了企業(yè)的發(fā)展風(fēng)險(xiǎn)外溢，兩全其美。

從技術(shù)發(fā)展層面而言，AI技術(shù)是可以做到像人一樣初步判斷出一條評(píng)論是否“陰陽(yáng)怪氣”，使用AI比人工進(jìn)行內(nèi)容風(fēng)險(xiǎn)管控，效率更高，成本更低。

當(dāng)然，我們也看到AI對(duì)自然語(yǔ)言的理解與處理還無(wú)法貼近人類的思維，特別是在多樣性語(yǔ)義環(huán)境變化中，以及邊界定義模糊的條件下，比如維權(quán)類內(nèi)容，機(jī)器還無(wú)法高精度識(shí)別。但這只是數(shù)據(jù)量的問(wèn)題，AI通過(guò)大規(guī)模數(shù)據(jù)的不斷訓(xùn)練，克服瓶頸也只是時(shí)間問(wèn)題。

不久的將來(lái)，被大眾寄予厚望的AI替代人工操作簡(jiǎn)單、重復(fù)度高的工作是大勢(shì)所趨。

但我們希望的是，在內(nèi)容、社交、電商、游戲等涉及內(nèi)容風(fēng)險(xiǎn)控制的互聯(lián)網(wǎng)企業(yè)能重視平臺(tái)內(nèi)部的自查自糾，積極引入更適合的內(nèi)容風(fēng)險(xiǎn)控制體系，還互聯(lián)網(wǎng)一個(gè)清朗空間。