在互聯(lián)網(wǎng)江湖馳騁的15年間，58同城主動承擔(dān)起維護(hù)內(nèi)容社區(qū)的職責(zé)，在自研內(nèi)容安全能力的同時，也遴選了第三方平臺作為能力的補(bǔ)充。58同城在解讀安全運(yùn)營之時說。

　　內(nèi)容風(fēng)控是為了更好地確保社區(qū)用戶的安全，以帶來更好的用戶體驗。內(nèi)容風(fēng)控的設(shè)想從社區(qū)誕生之初便存在了。此后，跟隨著社區(qū)生長，內(nèi)容挑戰(zhàn)層出不窮，形式多樣，內(nèi)容風(fēng)控能力建設(shè)不敢有半分松懈。

　　經(jīng)過多年發(fā)展，58同城已經(jīng)擁有自研且完善的內(nèi)容安全能力?！盀榱俗龊蔑L(fēng)險兜底，我們與網(wǎng)易易盾合作，易盾對于內(nèi)容安全問題識別效果較好，且服務(wù)響應(yīng)速度快，最終引入了易盾的多項內(nèi)容識別服務(wù)?！?/p>

　　年底回顧，多方的努力沒有白費(fèi)。違規(guī)內(nèi)容在人機(jī)協(xié)作的大型風(fēng)控體系下一一現(xiàn)形，共同為用戶打造了良好有序的網(wǎng)絡(luò)環(huán)境。這一變化也讓審核人員直呼放下了身上的重?fù)?dān)。AI識別工具猶如敏銳的“雷達(dá)”，指哪兒打哪兒精確命中，人工審核不僅更高效了，而且質(zhì)量得到改善，總體的成本更是降低不少。

　　遭遇內(nèi)容風(fēng)險變形怎么辦？

　　“58同城，一個神奇的網(wǎng)站！”

　　伴隨著清脆的話語聲，58同城自然而然地浮現(xiàn)在人們的腦海。58同城作為領(lǐng)先的生活服務(wù)平臺，連接了人與信息、人與人，每天上千萬條訊息在這里匯集，蘊(yùn)藏著探索工作、生活的新可能。

　　2021年，跨越了PC與移動時代的58同城全面向產(chǎn)業(yè)化布局發(fā)展。58同城業(yè)務(wù)覆蓋招聘、房產(chǎn)、汽車、本地生活服務(wù)等領(lǐng)域，旗下?lián)碛邪簿涌汀?8到家、趕集網(wǎng)等核心品牌，全產(chǎn)業(yè)化催生了更多的數(shù)字內(nèi)容，也錘煉著58同城的風(fēng)控實力。

　　內(nèi)容風(fēng)控不僅僅是對內(nèi)容方面的風(fēng)險進(jìn)行控制。58同城十分重視建設(shè)內(nèi)容風(fēng)控安全體系，具體而言，針對互聯(lián)網(wǎng)的海量內(nèi)容衍生出的外部、內(nèi)部風(fēng)險做宏觀到微觀的審核和引導(dǎo)。從內(nèi)容表現(xiàn)形式來看，主要有圖像、文本、視頻、音頻等，對內(nèi)容的審核主要以一級兜底安全為核心，主要針對涉政、涉黃、違禁、暴恐、廣告、詐騙等多種違規(guī)問題進(jìn)行處理，要求零容忍。

　　冷靜思考過去，風(fēng)險內(nèi)容層出不窮，企圖用博眼球的內(nèi)容形式不惜觸碰網(wǎng)絡(luò)合規(guī)安全底線，躍躍欲試尋找漏洞以躲過安全檢測機(jī)制。

　　58同城表示，違規(guī)內(nèi)容對平臺口碑造成的結(jié)果是“多米諾骨牌”式的倒塌：用戶體驗降低引發(fā)用戶流失，最終會影響平臺的發(fā)展。內(nèi)容安全關(guān)乎企業(yè)的生命線，風(fēng)控的有效性可以幫助企業(yè)化解“監(jiān)管”風(fēng)險和“社會輿論”風(fēng)險，守住內(nèi)容風(fēng)控的“大門至關(guān)重要”。

　　集合算法，把握個體經(jīng)驗與細(xì)節(jié)

　　從線上到線下，再從線下到線上，催使著內(nèi)容安全能力不斷升級，58同城秉持著“自研不能放”的原則，也引入了更為優(yōu)質(zhì)的第三方算法能力。

　　58同城通過采取“機(jī)審+人審”的內(nèi)容審核機(jī)制，把好信息安全關(guān)口。具體應(yīng)用過程中，考慮到業(yè)務(wù)使用范圍場景復(fù)雜度與誤傷，先由機(jī)器審核打頭陣進(jìn)行初審，對于初篩過的內(nèi)容由人工按照機(jī)審處理規(guī)則（如 、暴力）等維度對內(nèi)容形式（如圖片、評價）進(jìn)行二次審核。

　　在這個過程中，基于人工智能的審核系統(tǒng)可提供相應(yīng)的用戶、商戶等輔助信息數(shù)據(jù)，協(xié)助運(yùn)營部門對內(nèi)容進(jìn)行快速決斷。以目的為標(biāo)尺，58同城制定了內(nèi)容風(fēng)控的三大方向：政策層面的內(nèi)容合規(guī)，要符合監(jiān)管的要求；社區(qū)氛圍的良性導(dǎo)向，如避免謾罵、爭吵等；社區(qū)用戶安全的保證，如避免引流、灰產(chǎn)等。

　　只有跨過了三大坎兒，才能更好地進(jìn)行社區(qū)運(yùn)營。伴隨著國家互聯(lián)網(wǎng)內(nèi)容立法不斷完善，“互聯(lián)網(wǎng)+”內(nèi)容平臺的范圍不斷擴(kuò)展，“內(nèi)容風(fēng)控”考核從無到有再到逐步規(guī)范，匯集成一系列法律法規(guī)。

　　最新實行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》顯示，監(jiān)管對于各項違規(guī)內(nèi)容都做了詳細(xì)規(guī)定，大致概括可分為涉政、違禁、暴恐、 等四類?！斑@部分是政策紅線，一旦觸及，輕則約談，重則下架、封禁。內(nèi)容安全的標(biāo)準(zhǔn)應(yīng)該和行業(yè)、國家標(biāo)準(zhǔn)對齊?！?8同城分享到。

　　58同城不斷提升自身內(nèi)容安全能力的建設(shè)，在風(fēng)控體系下，自研與第三方SaaS如何組合平衡，是擺在面前的一個矛盾。58同城是這樣解答的：

　　首先，58同城信息安全團(tuán)隊基于平臺現(xiàn)有的風(fēng)控系統(tǒng)及時捕獲各種內(nèi)容監(jiān)管信息，增強(qiáng)各種已知監(jiān)管內(nèi)容檢測能力的覆蓋度和準(zhǔn)召率，提升快速止損的應(yīng)對能力。其次，面對時刻存在的未知風(fēng)險，團(tuán)隊進(jìn)行基于單個case快速追殺能力的儲備。最后，在多種類型和變形問題上，團(tuán)隊集合了以網(wǎng)易易盾為代表的第三方優(yōu)質(zhì)能力進(jìn)行補(bǔ)充，讓風(fēng)險的底兜更牢固。層層推進(jìn)，嚴(yán)守信息安全底線，切實保障用戶權(quán)益。

　　在解決方案的應(yīng)用層面，58同城指出，“不同場景設(shè)計有不同的解決方案，分析現(xiàn)有能力并提供策略，策略要從單個內(nèi)容出發(fā)，延伸到發(fā)布該內(nèi)容的用戶基礎(chǔ)信息、關(guān)系鏈、過往內(nèi)容、實名可信度等諸多維度進(jìn)行調(diào)參和計算，并進(jìn)行線上定期巡檢。”

　　聯(lián)合風(fēng)控，效果好過單打獨(dú)斗

　　對平臺來說，用戶分享交流的內(nèi)容（UGC內(nèi)容）越多，平臺就更為豐富。如何將內(nèi)容中的“雜質(zhì)”迅速沉淀下來，是綜合性內(nèi)容社區(qū)共同的難題。不良訊息一旦借由平臺之力觸達(dá)普通用戶，會對內(nèi)容社區(qū)形象帶來不利影響。

　　58同城在“風(fēng)控”這件大事上安不忘危。如今，面對各類內(nèi)容風(fēng)險，58同城顯得十分從容，因其在身經(jīng)百戰(zhàn)后摸索出了一套獨(dú)特方法論：通過“全面體檢，對癥下藥，循環(huán)復(fù)查”的方式，全方位、全場景提供內(nèi)容安全檢測與風(fēng)控等服務(wù)，58同城也表示：

　　內(nèi)容風(fēng)控是一個大的體系，除了基礎(chǔ)審核，還包括前期內(nèi)容產(chǎn)生風(fēng)控規(guī)范、輿情引導(dǎo)、內(nèi)容的二次巡檢、產(chǎn)品界面的風(fēng)控提示等很多的工作配合，企業(yè)風(fēng)控能力必須步履不停，才能防患于未然。

免責(zé)聲明：以上內(nèi)容為本網(wǎng)站轉(zhuǎn)自其它媒體，相關(guān)信息僅為傳遞更多信息之目的，不代表本網(wǎng)觀點，亦不代表本網(wǎng)站贊同其觀點或證實其內(nèi)容的真實性。如稿件版權(quán)單位或個人不想在本網(wǎng)發(fā)布，可與本網(wǎng)聯(lián)系，本網(wǎng)視情況可立即將其撤除。