“能力越大，責(zé)任也就越大?！边@句話同樣適用于匯聚著億萬雙眼睛的互聯(lián)網(wǎng)主體平臺(tái)。

　　隨著互聯(lián)網(wǎng)信息載體和內(nèi)容主體的不斷豐富，網(wǎng)絡(luò)不可避免地出現(xiàn)了魚龍混雜的局面。無視版權(quán)、低俗涉黃、詐騙信息、涉恐涉暴……種種問題交織在一起，嚴(yán)重破壞了網(wǎng)絡(luò)生態(tài)。為了改善網(wǎng)絡(luò)環(huán)境，知乎致力于構(gòu)建認(rèn)真、專業(yè)、友善的社區(qū)氛圍，并在此過程中，始終堅(jiān)持長(zhǎng)期主義，在不斷升級(jí)的內(nèi)容風(fēng)控對(duì)抗中持續(xù)自我提升。

　　知乎一直以來都非常重視社區(qū)生態(tài)治理，面對(duì)海量數(shù)據(jù)，治理方找準(zhǔn)方法很重要?！拔覀冃枰浞掷煤盟惴Ｐ偷膬?yōu)勢(shì)，并與第三方服務(wù)商合作。網(wǎng)易易盾是國(guó)內(nèi)領(lǐng)先的內(nèi)容安全服務(wù)商，我們非常認(rèn)可其安全服務(wù)的專業(yè)性和可靠性?！敝醣硎?。

　　知識(shí)社區(qū)堅(jiān)持獲得感的長(zhǎng)期主義

　　諸如如何打造一個(gè)不凌亂的家？、如何開家長(zhǎng)長(zhǎng)久久的咖啡館？、電腦內(nèi)部是如何溝通工作的？、我是否卷入了一場(chǎng)騙局？、藝術(shù)品的收藏價(jià)值來自于何處？等的問題在知乎中隨處可見，透露著未知與求知的博弈。

　　與每個(gè)疑問面對(duì)面的瞬間，人們總是迫切地尋找答案，搜尋一本答疑解惑的書，詢問一名相關(guān)領(lǐng)域的專家，或者是轉(zhuǎn)向知識(shí)社區(qū)“知乎”。即使是沒有學(xué)過的專業(yè)知識(shí)，沒有經(jīng)歷過的人生，沒有觸達(dá)的未知，我們大概也會(huì)在翻閱數(shù)個(gè)帖子后，知曉一二。

　　從幾個(gè)人，到幾萬個(gè)人，再到數(shù)千萬人，對(duì)知識(shí)有渴求的內(nèi)容創(chuàng)作者很快順著網(wǎng)線會(huì)合，以一磚一瓦的“智慧”聚集構(gòu)成了全知全能的“知乎”。在招股書上，知乎給自己下了這么一個(gè)定義：“中文互聯(lián)網(wǎng)高質(zhì)量的問答社區(qū)，創(chuàng)作者聚集的原創(chuàng)內(nèi)容平臺(tái)”。自 2010 年成立以來，知乎以“讓人們更好的分享知識(shí)、經(jīng)驗(yàn)和見解，找到自己的解答”為使命，在諸多領(lǐng)域建立起了以社區(qū)驅(qū)動(dòng)的內(nèi)容變現(xiàn)商業(yè)模式。目前，知乎已經(jīng)覆蓋問答社區(qū)、會(huì)員業(yè)務(wù)、商業(yè)內(nèi)容解決方案、熱榜、機(jī)構(gòu)號(hào)、視頻、直播等一系列產(chǎn)品和服務(wù)，并建立了包括音頻、視頻在內(nèi)的多元媒介形式。

　　截至 2021 年第三季度，知乎共累計(jì) 4.59 億條多元形式的內(nèi)容，其中問答條數(shù)達(dá)到 3.98 億，知乎平均月活躍用戶首次突破一億大關(guān)，知乎擁有累計(jì)超過 5300 萬的內(nèi)容創(chuàng)作者，月活創(chuàng)作者數(shù)量達(dá)到 364萬。

　　可以說，知乎有著屬于自己執(zhí)著且獨(dú)特的內(nèi)容風(fēng)控情懷，即獲得感。一直以來，知乎將能夠開闊眼界，帶來幫助或引發(fā)共鳴的內(nèi)容高度概括為獲得感。截至目前，獲得感已經(jīng)成為知乎衡量?jī)?nèi)容價(jià)值的標(biāo)尺，用來強(qiáng)化社區(qū)治理，調(diào)整內(nèi)容結(jié)構(gòu)。好內(nèi)容因此得到了更多關(guān)注、流量和收益，社區(qū)生態(tài)也因此更加健康繁榮。

　　打造知識(shí)海洋深處的凈化器

　　以往，提到內(nèi)容風(fēng)控，大家都會(huì)想到博人眼球的黃色擦邊球、性感裸露圖片……

　　在知乎看來，內(nèi)容風(fēng)控是指對(duì)合規(guī)內(nèi)容的保護(hù)與對(duì)不合規(guī)內(nèi)容的治理。這里面提到的「規(guī)」既包括法律、政策要求，也包括平臺(tái)對(duì)內(nèi)容風(fēng)控的自驅(qū)要求。如此看來，內(nèi)容風(fēng)控需要做到的其實(shí)就是識(shí)別、判斷不同載體（文本、圖片、聲音、視頻等）中信息的合規(guī)性。

　　基于這樣的目標(biāo)，知乎設(shè)定了四個(gè)關(guān)鍵需求：法律法規(guī)的建設(shè)、內(nèi)容風(fēng)控技術(shù)的攻關(guān)、標(biāo)準(zhǔn)化的風(fēng)控體系與高水平的人才，衍生出四大內(nèi)容安全能力方向，簡(jiǎn)單舉例：

　　一是，法律法規(guī)、政策要求、平臺(tái)自身規(guī)則往往是精煉的，在實(shí)際的內(nèi)容安全業(yè)務(wù)中，需要在充分理解規(guī)則的基礎(chǔ)上，轉(zhuǎn)化為可以直接指導(dǎo)業(yè)務(wù)的標(biāo)準(zhǔn)，再同步到內(nèi)容安全業(yè)務(wù)各個(gè)環(huán)節(jié)有效落地。

　　二是，面對(duì)每天海量的數(shù)據(jù)，對(duì)內(nèi)容的智能理解能力成為了內(nèi)容安全業(yè)務(wù)的強(qiáng)需求，知乎目前通過自研+采買服務(wù)的形式不斷補(bǔ)強(qiáng)風(fēng)險(xiǎn)內(nèi)容的識(shí)別能力。

　　三是，采用人機(jī)結(jié)合的內(nèi)容風(fēng)險(xiǎn)控制體系，能夠良好地輔助審核人員對(duì)內(nèi)容進(jìn)行把關(guān)，提升工作效率。知乎自研的策略引擎哪吒與審核系統(tǒng)天璣，將內(nèi)容安全業(yè)務(wù)各環(huán)節(jié)高效串聯(lián)并運(yùn)轉(zhuǎn)。

　　四是，設(shè)立了專門的內(nèi)容安全培訓(xùn)團(tuán)隊(duì)，并搭建了完整的培訓(xùn)流程，旨在長(zhǎng)期培養(yǎng)出思想站位高、視野寬廣、經(jīng)驗(yàn)豐富的內(nèi)容安全業(yè)務(wù)人員，幫助平臺(tái)把關(guān)的同時(shí)，為清朗網(wǎng)絡(luò)空間培養(yǎng)守護(hù)者。

　　AI賦能，不合規(guī)內(nèi)容識(shí)別更高效

　　AI（Artificial Intelligence，人工智能技術(shù)）技術(shù)應(yīng)用到內(nèi)容風(fēng)控中并非新鮮事，AI參與識(shí)別不合規(guī)內(nèi)容越來越普遍。受疫情影響，許多工作都放在線上進(jìn)行，知識(shí)的分享和獲取也不例外。通過AI進(jìn)行內(nèi)容檢測(cè)是一個(gè)節(jié)省人力、物力的全新方式，在幾年前就受到了知乎的采用。

　　雖然AI算法模型不能完全代替人類審核員，但卻是重要的違規(guī)“定位”工具。知乎采取AI機(jī)審和人審相結(jié)合的方式，離開了AI或是審核員，內(nèi)容安全業(yè)務(wù)的質(zhì)量和效果將大大下降。

　　在引入易盾的AI算法模型之后，知乎表示，易盾深厚的技術(shù)沉淀以及個(gè)性化定制的服務(wù)，在風(fēng)險(xiǎn)內(nèi)容組織性與對(duì)抗性日趨增強(qiáng)的今天，能夠補(bǔ)強(qiáng)知乎對(duì)于不合規(guī)內(nèi)容的識(shí)別、判斷能力。

　　近年來，知乎持續(xù)加大內(nèi)容治理方面的投入，從內(nèi)容安全紅線底線、不友善、內(nèi)容質(zhì)量、未成年保護(hù)等多方面入手，將第三方模型和自研模型相結(jié)合，大大提升了相關(guān)違規(guī)內(nèi)容的召回率和準(zhǔn)確率。

　　知乎表示，內(nèi)容風(fēng)控作為生態(tài)建設(shè)的基本盤，在其內(nèi)部已經(jīng)建立起來一套新產(chǎn)品、新功能上線的內(nèi)容風(fēng)控評(píng)估流程，任何功能更新、上線前都需要經(jīng)過內(nèi)容風(fēng)控評(píng)估。對(duì)于公司未來發(fā)展的方向和重點(diǎn)，知乎也提前做了行業(yè)調(diào)研和能力儲(chǔ)備，確?；颈P一直是穩(wěn)的，是可以跟得上行業(yè)發(fā)展的。

免責(zé)聲明：以上內(nèi)容為本網(wǎng)站轉(zhuǎn)自其它媒體，相關(guān)信息僅為傳遞更多信息之目的，不代表本網(wǎng)觀點(diǎn)，亦不代表本網(wǎng)站贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性。如稿件版權(quán)單位或個(gè)人不想在本網(wǎng)發(fā)布，可與本網(wǎng)聯(lián)系，本網(wǎng)視情況可立即將其撤除。