內(nèi)容巡查的功能

網(wǎng)站內(nèi)容自動抓取

對網(wǎng)站線上文字、圖片、音頻、視頻等內(nèi)容進行定時抓取，實現(xiàn)網(wǎng)站內(nèi)容監(jiān)管

掃描二維碼簽到

無需NFC標簽等設(shè)備，儀需手機掃描二維碼標簽即可實現(xiàn)巡查簽到，智能手機均支持

二維碼防作假

特定地點強制拍照、隨機拍照、無法選取手機本地照片等等，可以在一定程度上有效避免二維碼簽到方式作假。

二維碼方式巡查雖成本低，但也容易作假，所以一定得具備防作假手段！

被忽視的內(nèi)容安全，App領(lǐng)域成了重災(zāi)難區(qū)

近年來，各類互聯(lián)網(wǎng)企業(yè)接連不斷因內(nèi)容違規(guī)問題被罰。企業(yè)有意自查，對內(nèi)容進行把控，卻處處是難題。行業(yè)到底怎么了？或者，更多想問的是我們的內(nèi)容安全屏障到底怎么了？

各家互聯(lián)網(wǎng)平臺都不約而同地開始升級風(fēng)險管控力度，預(yù)防網(wǎng)暴能力，新上線“風(fēng)險提醒”“發(fā)文警示”等功能，整治不當私信和不當評論，推動形成預(yù)防網(wǎng)暴的合力。

在加強風(fēng)險管控的背后，是網(wǎng)暴已達到猖狂的程度。就拿近期的案例而言，上海姑娘因打賞外賣員200元被網(wǎng)暴跳樓；19歲女孩直播中被慫恿喝農(nóng)作物藥品，類似事件則多次被推上熱搜，而這只是互聯(lián)網(wǎng)內(nèi)容安全問題的冰山一角。

今年3月份，人民日報連發(fā)三篇評論斥責(zé)網(wǎng)暴。更早之前，中央網(wǎng)信辦也開展了“清朗·2022年春節(jié)網(wǎng)絡(luò)環(huán)境整治”專項行動，其中重點整治任務(wù)中，排在首位的就是“網(wǎng)暴、散播謠言等問題”，包括借疫情、社會熱點事件等挑動，進行人肉搜索、攻擊等情況。

針對此次專項行動，中國信通院與網(wǎng)易、博特智能等企業(yè)在2022年也完成了面向互聯(lián)網(wǎng)信息服務(wù)類企業(yè)的《內(nèi)容審核體系成熟度評估規(guī)范》，該規(guī)范將能幫助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)全方面梳理內(nèi)容安全體系，及時查漏補缺，協(xié)助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)開展“自查自糾”。

就在近期，中國信通院再次牽頭會同阿里、網(wǎng)易、中國移動、博特智能、YY直播、映客直播等互聯(lián)網(wǎng)信息平臺、機器審核服務(wù)商，召開了內(nèi)容審核機審能力調(diào)研會，重點對互聯(lián)網(wǎng)信息平臺在文本、圖片、視頻、音頻領(lǐng)域的機審能力進行了深入調(diào)研，將為國家有關(guān)部門開展后續(xù)規(guī)范工作提供科學(xué)依據(jù)。

這也預(yù)示著內(nèi)容安全領(lǐng)域的相關(guān)行業(yè)標準即將出臺，平臺對展示用戶內(nèi)容的審核負責(zé)任，將被正式規(guī)范約束。

不斷擴招的后顧之慮

綜合各路媒體報道來看，字節(jié)跳動內(nèi)容審核員已擴招超2萬人，快手、B站、騰訊等各平臺也分別有數(shù)千人。整體不到十萬數(shù)量級的內(nèi)容審核員，在面對數(shù)億人民產(chǎn)生的倍量內(nèi)容時，互聯(lián)網(wǎng)秩序的維護者們也顯得有些力不從心。

內(nèi)容審核員就如“互聯(lián)網(wǎng)保安”，24小時在文本、圖片、音頻、視頻的不間斷“巡邏”，攔截那些黃色、低俗、涉政、廣告等違規(guī)內(nèi)容，如果攔截不及時，隨時就可能上演“全民知曉”的內(nèi)容安全事故。而長期熬夜、身體紊亂、長期面對黃色、低俗等內(nèi)容，對審核員的精神，心理，造成非常大的損傷。

國內(nèi)外已有不少從業(yè)者受到類似困擾，輕則“惡心到吃不下飯”，“晚上做噩夢”，嚴重的心理創(chuàng)傷，甚至可以讓人變得麻木和暴躁，越來越具有攻擊性，甚至有審核員猝死。

可以說，當前依靠人工審核來控制內(nèi)容合規(guī)安全，已達到較高負荷的狀態(tài)。

那不斷擴大審核團隊規(guī)模，就可以“后顧無憂”嗎？顯然這已不再是較優(yōu)解。眼下還是平臺可以增加人力成本，擴招人工、“少賺一點”的階段，但作為企業(yè)，都會在成本和收益之間想達到一個平衡。

如果單純把內(nèi)容風(fēng)險控制當成一件純技術(shù)性的事情，或者說只認為是企業(yè)的成本負擔(dān)，不能創(chuàng)造收益。那企業(yè)只需要準備大量訓(xùn)練數(shù)據(jù)，一些判斷模型就可以直接拿來用，甚至還可以拿出去做成生意。但真正經(jīng)歷過內(nèi)容安全痛苦的企業(yè)就會知道，內(nèi)容風(fēng)險控制掌握著企業(yè)發(fā)展的命門。

海量的內(nèi)容，在人工之外如何做好內(nèi)容的合規(guī)和安全？現(xiàn)已成了所有內(nèi)容相關(guān)企業(yè)繞不開的話題，而內(nèi)容風(fēng)險控制細分領(lǐng)域頭部玩家們，也瞄準了貼近人類思維的AI內(nèi)容審核機制的算法研究。

智能內(nèi)容處理市場需要奇才

對于涉及內(nèi)容風(fēng)險控制相關(guān)的企業(yè)而言，內(nèi)容巡查算是一個全新的解決方案。在積極嘗試的同時，更看重的是通過提前自查自糾，避免監(jiān)管機構(gòu)的事后懲戒，防患于未然，堵住內(nèi)容風(fēng)險控制漏洞的同時，也堵住了企業(yè)的發(fā)展風(fēng)險外溢，兩全其美。

從技術(shù)發(fā)展層面而言，AI技術(shù)是可以做到像人一樣初步判斷出一條評論是否“陰陽怪氣”，使用AI比人工進行內(nèi)容風(fēng)險管控，效率更高，成本更低。

當然，我們也看到AI對自然語言的理解與處理還無法貼近人類的思維，特別是在多樣性語義環(huán)境變化中，以及邊界定義模糊的條件下，比如維權(quán)類內(nèi)容，機器還無法高精度識別。但這只是數(shù)據(jù)量的問題，AI通過大規(guī)模數(shù)據(jù)的不斷訓(xùn)練，克服瓶頸也只是時間問題。

不久的將來，被大眾寄予厚望的AI替代人工操作簡單、重復(fù)度高的工作是大勢所趨。

但我們希望的是，在內(nèi)容、社交、電商、游戲等涉及內(nèi)容風(fēng)險控制的互聯(lián)網(wǎng)企業(yè)能重視平臺內(nèi)部的自查自糾，積極引入更適合的內(nèi)容風(fēng)險控制體系，還互聯(lián)網(wǎng)一個清朗空間。