國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，自2020年3月1日起施行。以黃、賭、毒、暴及反動(dòng)言論為代表的網(wǎng)絡(luò)內(nèi)容亂象成為嚴(yán)厲打擊的對(duì)象，而其中不少規(guī)定對(duì)互聯(lián)網(wǎng)平臺(tái)企業(yè)影響深遠(yuǎn)。
1月14日，由網(wǎng)易易盾發(fā)起的“數(shù)字內(nèi)容風(fēng)控”閉門研討會(huì)第三站于廣州圓滿落幕。閉門研討會(huì)邀請(qǐng)金融、游戲、社交、文娛等客戶成員針對(duì)內(nèi)容風(fēng)控方法與經(jīng)驗(yàn)作進(jìn)一步交流。會(huì)上，關(guān)于UGC內(nèi)容如何規(guī)避運(yùn)營(yíng)風(fēng)險(xiǎn)成為大家最關(guān)心的問(wèn)題，也是互聯(lián)網(wǎng)產(chǎn)品與運(yùn)營(yíng)人員的核心關(guān)注點(diǎn)。
閉門會(huì)旨在促進(jìn)行業(yè)交流，更好地了解客戶群體不斷變化的需求，從監(jiān)管政策分析、風(fēng)控產(chǎn)品進(jìn)階與未來(lái)風(fēng)控趨勢(shì)、反作弊打擊等角度出發(fā)，易盾向客戶輸送了深度風(fēng)控知識(shí)，回顧與企業(yè)之間的“數(shù)字內(nèi)容風(fēng)控”實(shí)踐合作經(jīng)驗(yàn)。
在隨后舉行的頒獎(jiǎng)典禮上，易盾頒發(fā)了年度社會(huì)責(zé)任獎(jiǎng)、年度精誠(chéng)合作獎(jiǎng)、年度人文精神獎(jiǎng) 、年度最具人氣獎(jiǎng)、年度最具人氣獎(jiǎng)、年度商業(yè)價(jià)值獎(jiǎng)等多個(gè)獎(jiǎng)項(xiàng)，以表達(dá)五年以來(lái)對(duì)客戶的感謝。部分獲獎(jiǎng)客戶代表上臺(tái)發(fā)言，分享了他們與易盾的故事。
圍繞熱點(diǎn)議題，促進(jìn)行業(yè)交流
今天下午，會(huì)議的主題與數(shù)字內(nèi)容行業(yè)相關(guān)。一個(gè)討論的焦點(diǎn)是，各行各業(yè)正在納入共享內(nèi)容，讓其變得更具人氣 —— 文本、圖像、視頻、音頻，生產(chǎn)的頻率越來(lái)越高，制作速度也越來(lái)越快，以前所未有的速度與范圍傳播。數(shù)字經(jīng)濟(jì)的快速崛起對(duì)經(jīng)濟(jì)社會(huì)產(chǎn)生了顯著影響。
平臺(tái)在開(kāi)始內(nèi)容推薦分發(fā)前，首先要以保證內(nèi)容導(dǎo)向和內(nèi)容安全的前提。不良違規(guī)內(nèi)容從平臺(tái)誕生之初就開(kāi)始，猶如病毒與細(xì)胞的斗爭(zhēng)一般悄然升級(jí)。在進(jìn)行內(nèi)容風(fēng)控之前，業(yè)務(wù)方需要從法律法規(guī)、產(chǎn)品特性出發(fā)，弄清楚：什么樣的內(nèi)容是不良的？什么樣的內(nèi)容是低質(zhì)的？什么樣的內(nèi)容是違法的？什么樣的機(jī)制是高效的？隨時(shí)根據(jù)最新法規(guī)、對(duì)抗動(dòng)態(tài)來(lái)調(diào)整策略方法，必須兼顧信息流動(dòng)、安全、效率、準(zhǔn)確性與其他競(jìng)爭(zhēng)價(jià)值。
網(wǎng)易易盾總經(jīng)理朱浩齊：看待“數(shù)字內(nèi)容風(fēng)控政策”收緊趨勢(shì)要有新視角
網(wǎng)易易盾CEO朱浩齊在會(huì)上分析了數(shù)字內(nèi)容合規(guī)趨嚴(yán)的原因。在全新的局面下，不僅是內(nèi)容合規(guī)受挑戰(zhàn)，而是整個(gè)數(shù)字產(chǎn)業(yè)都有規(guī)范化。不過(guò)，當(dāng)前數(shù)字產(chǎn)業(yè)仍舊是機(jī)遇大于挑戰(zhàn)。
他指出，網(wǎng)易易盾在做好現(xiàn)有重點(diǎn)業(yè)務(wù)的同時(shí)，一直都在觀察市場(chǎng)的新機(jī)會(huì)與新需求，努力在內(nèi)容安全、業(yè)務(wù)安全、移動(dòng)安全方向獲得突破，堅(jiān)持大方向、注重小場(chǎng)景、解決具體問(wèn)題，為數(shù)字化轉(zhuǎn)型升級(jí)成功打下網(wǎng)絡(luò)安全合規(guī)基礎(chǔ)。以下為演講節(jié)選：
任何技術(shù)都是一把雙刃劍，核能創(chuàng)造了能源，也帶來(lái)原子彈。互聯(lián)網(wǎng)能帶來(lái)時(shí)空折疊，效率提升，也會(huì)引發(fā)詐騙、個(gè)人隱私泄露、兒童色情、涉黃涉暴信息傳播、信息繭房、大數(shù)據(jù)殺熟等負(fù)面效應(yīng)。
疫情斷斷續(xù)續(xù)持續(xù)了2年，大家整體的感受是“難”，從實(shí)體制造業(yè)、到線下服務(wù)業(yè)，互聯(lián)網(wǎng)數(shù)字化產(chǎn)業(yè)也不例外。“我想在座各位同我一樣，感受到貫穿整個(gè)互聯(lián)網(wǎng)行業(yè)的‘穿透式’監(jiān)管與合規(guī)，也感受到整體不景氣帶來(lái)的沖擊。”他表示，就數(shù)字內(nèi)容合規(guī)而言，僅2021年就出臺(tái)了數(shù)十部規(guī)范性法律法規(guī)，更有甚者，如K12線上教育，在一夕之間巨變。
其實(shí)，我們要換個(gè)視角看待如此種種的煩惱。著名金融學(xué)者香帥的財(cái)富報(bào)告或許能夠給我們一些啟發(fā)。報(bào)告認(rèn)為，中國(guó)現(xiàn)在已經(jīng)進(jìn)入了一個(gè)“熟經(jīng)濟(jì)”的時(shí)代。“熟經(jīng)濟(jì)”期，經(jīng)濟(jì)不再像年輕的時(shí)候一樣可以猛長(zhǎng)身體，隨便折騰了。我們“上有老下有小”，我們講究的是承擔(dān)責(zé)任，純講效率的時(shí)代過(guò)去了。未來(lái)一段時(shí)間，公平正義與共同富裕會(huì)是國(guó)家經(jīng)濟(jì)政策的主旋律之一。因此，無(wú)論是個(gè)人還是企業(yè)，都應(yīng)該適應(yīng)改革，才能活得更好。
國(guó)務(wù)院日前印發(fā)了《“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》也給了我們信心，給數(shù)字經(jīng)濟(jì)發(fā)展奠定了基調(diào)。《規(guī)劃》預(yù)計(jì)數(shù)字經(jīng)濟(jì)增加值占GDP比重從7.8%漲到10%，肯定了信息技術(shù)服務(wù)行業(yè)規(guī)模要從2020年的8.16萬(wàn)億元增長(zhǎng)到2025年的14萬(wàn)億元，增長(zhǎng)超70%。
就像前段時(shí)間，國(guó)家推出游戲未成年人保護(hù)新規(guī)，限制未成年人的游戲參與度。網(wǎng)絡(luò)上立馬出現(xiàn)了很多對(duì)政策的"誤讀"，隨后網(wǎng)易、騰訊的股價(jià)都大跌。后續(xù)，政協(xié)委員及時(shí)出來(lái)辟謠對(duì)政策相關(guān)內(nèi)容做了解讀，國(guó)家還是鼓勵(lì)游戲產(chǎn)業(yè)健康發(fā)展的，保護(hù)未成年人并非就要打擊壓制某些行業(yè)的發(fā)展。這并不是此消彼長(zhǎng)的矛盾關(guān)系，國(guó)家對(duì)新興行業(yè)的態(tài)度一向明確，支持創(chuàng)新，但也會(huì)第一時(shí)間出臺(tái)相應(yīng)的監(jiān)管政策，打擊"偽創(chuàng)新"，以防止對(duì)真正的創(chuàng)新造成影響。
既然十四五規(guī)劃都已經(jīng)制定好了，那么合法合規(guī)、積極健康的互聯(lián)網(wǎng)應(yīng)用必然少不了得到蓬勃發(fā)展的機(jī)會(huì)。不論如何，至少我們會(huì)堅(jiān)定不移地在這個(gè)方向上繼續(xù)努力，不斷加大投入，爭(zhēng)取給大家提供一個(gè)可信賴的數(shù)字風(fēng)控服務(wù),助力客戶業(yè)務(wù)更快更好發(fā)展。
網(wǎng)易智慧企業(yè)VP王為：做好2B技術(shù)服務(wù)的窗口
網(wǎng)易可以說(shuō)是第一批互聯(lián)網(wǎng)公司，這么多年下來(lái)他就一個(gè)風(fēng)格：做產(chǎn)品做的不是很多，但是每個(gè)做的都很好。
我們這個(gè)團(tuán)隊(duì)承載了網(wǎng)易集團(tuán)所有2B的商業(yè)化工作，給企業(yè)客戶提供服務(wù)。網(wǎng)易的其他產(chǎn)品，像大家所熟知的網(wǎng)易游戲，網(wǎng)易新聞到網(wǎng)易云音樂(lè)，都是C端的產(chǎn)品。只有我們是2B端，是網(wǎng)易為大家提供2B服務(wù)的一個(gè)窗口，這就是我們團(tuán)隊(duì)的使命。
網(wǎng)易還有一個(gè)特點(diǎn)是所有的技術(shù)能力先給自己的產(chǎn)品使用，進(jìn)行打磨，質(zhì)量達(dá)標(biāo)了再走向市場(chǎng)。在五年前，易盾的數(shù)字風(fēng)控服務(wù)能力表現(xiàn)不錯(cuò)，才沉淀下來(lái)成為獨(dú)立化的產(chǎn)品，就是這樣一個(gè)過(guò)程。
這段時(shí)間國(guó)家對(duì)互聯(lián)網(wǎng)這種監(jiān)管趨嚴(yán)，我相信在未來(lái)一段時(shí)間也不會(huì)松下來(lái)。只要我們的業(yè)務(wù)跟互聯(lián)網(wǎng)相關(guān)，都得跟隨國(guó)家的指導(dǎo)政策，去了解國(guó)家的方向，知道國(guó)家的要求，且按照國(guó)家的要求去執(zhí)行，否則可能會(huì)影響我們的業(yè)務(wù)的發(fā)展。
最近，我在閱讀中遇到一句話，我很認(rèn)可。“在當(dāng)今的社會(huì)下尋求發(fā)展，真的不是肌肉最強(qiáng)大，也不是最聰明的，而一定是最適合的。”什么叫最適合的？
在我看來(lái)，就是完全符合當(dāng)下社會(huì)、國(guó)家的發(fā)展需求，這就叫適合。回到我們的使命，我們也希望用技術(shù)能力，讓我們的用戶更適合當(dāng)今社會(huì)的要求，國(guó)家的要求，給業(yè)務(wù)保駕護(hù)航。其實(shí)，我們不是網(wǎng)絡(luò)安全，我們是業(yè)務(wù)安全，希望各位的業(yè)務(wù)在互聯(lián)網(wǎng)里面是合規(guī)的，是符合國(guó)家的監(jiān)管要求的，這個(gè)事情現(xiàn)在來(lái)看非常重要。
一開(kāi)始網(wǎng)易內(nèi)部是技術(shù)輸送的重點(diǎn)，而如今這部分占比沒(méi)有那么大。當(dāng)前，隨著市場(chǎng)的信任，為網(wǎng)易內(nèi)部客戶的占比已經(jīng)不到20%了，剩下超80%的比例都是外部客戶，真正從“自給自足”走向“商業(yè)化”。
在政策監(jiān)管之下，我也知道很多合作伙伴在嘗試出海業(yè)務(wù)，今年也是我們聚焦出海業(yè)務(wù)的重要一年，為什么不是以前？
一方面，因?yàn)槲覀儗?duì)技術(shù)能力的成熟度有信心，另一個(gè)方面，在客戶群中出現(xiàn)不少出海的身影。為了與客戶齊頭并進(jìn)，我們也做足了準(zhǔn)備，比如說(shuō)服務(wù)器節(jié)點(diǎn)、海外審查法規(guī)跟進(jìn)、跨境數(shù)據(jù)合規(guī)等，讓不少客戶安心出海。這是今年的決心，也需要跟各位在出海業(yè)務(wù)各個(gè)場(chǎng)景持續(xù)磨合。
這可能是B端服務(wù)企業(yè)的一個(gè)特點(diǎn)。一直以來(lái)，我們非常愿意去聽(tīng)各位在業(yè)務(wù)上的思路，非常愿意跟大家去合作配合。另外，我們此前和以后有什么做的不好的地方，也請(qǐng)大家隨時(shí)反饋，我們會(huì)不斷改進(jìn)。
網(wǎng)易易盾輿情專家王政宜 ：堅(jiān)持正能量、管得住、用得好的風(fēng)控策略
互聯(lián)網(wǎng)已經(jīng)成為意識(shí)形態(tài)斗爭(zhēng)的主陣地、主戰(zhàn)場(chǎng)、最前沿，網(wǎng)絡(luò)意識(shí)形態(tài)安全直接關(guān)系國(guó)家政治安全。當(dāng)今世界正經(jīng)歷百年未有之大變局，國(guó)際形勢(shì)復(fù)雜多變，國(guó)際格局面臨深刻調(diào)整，經(jīng)濟(jì)社會(huì)發(fā)展不確定性因素增多，新一輪科技革命和產(chǎn)業(yè)變革方興未艾，網(wǎng)絡(luò)新技術(shù)新應(yīng)用快速迭代，配合政府部門切實(shí)維護(hù)好網(wǎng)絡(luò)安全和意識(shí)形態(tài)安全更是互聯(lián)網(wǎng)企業(yè)作為網(wǎng)絡(luò)主體需要具備的責(zé)任和義務(wù)。
堅(jiān)持正能量是總要求。只有正面宣傳強(qiáng)勁有力，網(wǎng)上才能正能量充沛，才能讓黨的聲音引領(lǐng)網(wǎng)絡(luò)空間，也才能有效擠壓負(fù)面信息的渠道和空間。要積極響應(yīng)監(jiān)管部門號(hào)召，弘揚(yáng)社會(huì)主義核心價(jià)值觀，宣傳優(yōu)秀道德文化和時(shí)代精神，充分展現(xiàn)中華民族昂揚(yáng)向上精神風(fēng)貌。
堅(jiān)持管得住是硬道理。建立網(wǎng)絡(luò)綜合治理體系，是黨的十九大明確提出的一項(xiàng)重要任務(wù)，是管網(wǎng)治網(wǎng)的根本之策。要提高管網(wǎng)治網(wǎng)的系統(tǒng)性和有效性，形成一套完備科學(xué)并行之有效的安全治理架構(gòu)，不給任何有害信息傳播可趁之機(jī)。要建立健全平臺(tái)網(wǎng)上風(fēng)險(xiǎn)防范機(jī)制，及時(shí)批判網(wǎng)上錯(cuò)誤思潮，堅(jiān)決清理網(wǎng)上謠言、暴恐音視頻等有害信息，全面提升技術(shù)治網(wǎng)能力和水平。要落實(shí)好互聯(lián)網(wǎng)企業(yè)主體責(zé)任，嚴(yán)格遵守相關(guān)法律法規(guī)，營(yíng)造風(fēng)清氣正網(wǎng)絡(luò)空間。
堅(jiān)持用得好是真本事。要旗幟鮮明堅(jiān)持正確的政治方向、輿論導(dǎo)向、價(jià)值取向，新技術(shù)新應(yīng)用要用得好，也要能防范住新風(fēng)險(xiǎn)，要讓平臺(tái)成為新技術(shù)新形態(tài)的開(kāi)拓者、網(wǎng)絡(luò)文明空間的建設(shè)者、網(wǎng)絡(luò)有害信息內(nèi)容的粉碎者。
網(wǎng)易易盾業(yè)務(wù)安全專家陸程華：網(wǎng)絡(luò)反欺詐治理從0到1
反作弊工作者的常態(tài)可以歸納為，潛伏在各類電報(bào)群、黑灰產(chǎn)群、羊毛群，熱衷于將欺詐與作弊者挑翻馬下，時(shí)刻關(guān)注新危害的動(dòng)態(tài)。陸程華擁有9年反作弊經(jīng)驗(yàn)，他在分析中介紹：
網(wǎng)絡(luò)欺詐治理面臨新形勢(shì)和新挑戰(zhàn)，一是已經(jīng)形成專業(yè)化的產(chǎn)業(yè)鏈，分工明確，由成熟的黑灰產(chǎn)業(yè)鏈組成利益結(jié)合體，包含不限于卡商、號(hào)商、作弊工具開(kāi)發(fā)，騙術(shù)劇本非常成熟；二是技術(shù)攻防激烈，詐騙技術(shù)、設(shè)備升級(jí)速度加快，尤其是人工智能、機(jī)器學(xué)習(xí)等新技術(shù)應(yīng)用于欺詐場(chǎng)景，利用AI技術(shù)偽造合成聲音、視頻實(shí)施詐騙行為；三是隨機(jī)性強(qiáng)，廣撒網(wǎng)、隨機(jī)式、跨平臺(tái)的詐騙，難以監(jiān)控、取證，詐騙套路持續(xù)翻新，防不勝防。
網(wǎng)易易盾通過(guò)對(duì)欺詐鏈路分析，結(jié)合目標(biāo)畫像、號(hào)卡設(shè)備資源分布、話術(shù)劇本等研究，輸出多維一體化解決方案。深入多業(yè)務(wù)場(chǎng)景全流程智能分析 ，多維度的行為關(guān)聯(lián)構(gòu)建動(dòng)態(tài)業(yè)務(wù)模型，以欺詐引流基礎(chǔ)方案為根基、以用戶行為為支點(diǎn)，根據(jù)不同場(chǎng)景，靈活定制智能模型，1對(duì)1解決平臺(tái)遇到的詐騙問(wèn)題。
依業(yè)務(wù)反饋數(shù)據(jù)，接入網(wǎng)易易盾反詐騙解決方案后，風(fēng)險(xiǎn)賬號(hào)處理數(shù)提升6倍，隱晦變體內(nèi)容識(shí)別準(zhǔn)確率達(dá)99%以上，投訴來(lái)電量、舉報(bào)消息量下降86%，有效扼制平臺(tái)詐騙團(tuán)伙的活躍程度，不僅有效恢復(fù)平臺(tái)用戶生態(tài)環(huán)境，同時(shí)貫徹執(zhí)行了國(guó)家網(wǎng)信辦清朗行動(dòng)的相關(guān)指示。
網(wǎng)易易盾產(chǎn)品總監(jiān)饒曉艷 守護(hù)信息質(zhì)量，我們的做法
網(wǎng)易易盾產(chǎn)品總監(jiān)饒曉艷從過(guò)去多年從業(yè)經(jīng)驗(yàn)中，提煉出多種內(nèi)容合規(guī)常見(jiàn)的市場(chǎng)需求，分享了內(nèi)容風(fēng)控產(chǎn)品的創(chuàng)新之路。在不同政策、場(chǎng)景、行業(yè)下，審核機(jī)制有哪些差異？如何提升審核精準(zhǔn)度和效率？
整體上來(lái)講，做風(fēng)控其實(shí)是一直在做持續(xù)對(duì)抗這一件事情。隨著外部政策的變化，應(yīng)對(duì)新挑戰(zhàn)的要求，去年我們?cè)谝恍﹫?chǎng)景上做了相應(yīng)的應(yīng)對(duì)升級(jí)，對(duì)一些產(chǎn)品和解決方案進(jìn)行了優(yōu)化，下面舉2個(gè)例子。
第一個(gè)場(chǎng)景是出海。在座客戶也有出海的產(chǎn)品或計(jì)劃。我們碰到兩類典型的需求是，怎么樣提前考慮內(nèi)容風(fēng)險(xiǎn)與數(shù)據(jù)怎么樣做到合規(guī)。內(nèi)容出海要符合部分國(guó)家與地區(qū)法規(guī)要求，比如以谷歌為代表的各大應(yīng)用市場(chǎng)平臺(tái)有明確的規(guī)定，對(duì)于未成年也好，對(duì)于涉黃、涉暴、涉政也好。另一個(gè)是數(shù)據(jù)合規(guī)，大家一定熟悉歐盟地區(qū)的《通用數(shù)據(jù)保護(hù)條例》（GDPR)，最具有代表性。近年來(lái)，各個(gè)國(guó)家相繼開(kāi)始重視數(shù)據(jù)與隱私問(wèn)題，出臺(tái)了相應(yīng)的數(shù)據(jù)安全保護(hù)條例，或是個(gè)人數(shù)據(jù)安全保護(hù)法。為此，我們成立了一個(gè)專門的策略團(tuán)隊(duì)，去研究每個(gè)地區(qū)、每個(gè)國(guó)家所具備的法律法規(guī)，這些要求往往是出海企業(yè)的盲區(qū)。
第二個(gè)場(chǎng)景是歷史數(shù)據(jù)清洗。每一位風(fēng)控同學(xué)都會(huì)碰到這個(gè)任務(wù)，業(yè)務(wù)要對(duì)歷史的數(shù)據(jù)做全面、清晰的再次審核。這個(gè)時(shí)候一般時(shí)間周期非常短，往往一周或一個(gè)月就得回顧全站的內(nèi)容數(shù)據(jù)。這個(gè)就考驗(yàn)大家的應(yīng)急能力。以易盾的工作節(jié)奏為例，第一要調(diào)度相當(dāng)多的GPU的機(jī)器資源來(lái)支援，第二要緊急調(diào)度人工審核。我們做到過(guò)三天之內(nèi)增加了百位審核人員，助力客戶去做歷史數(shù)據(jù)清洗之后的人工審核，確保內(nèi)容風(fēng)險(xiǎn)不再次發(fā)生，第三要跟進(jìn)最新策略，確保每個(gè)月能夠回掃一遍，保證歷史存量數(shù)據(jù)和新增數(shù)據(jù)符合最新的監(jiān)管標(biāo)準(zhǔn)，這樣就能進(jìn)一步降低歷史數(shù)據(jù)中的風(fēng)險(xiǎn)。
上述多行業(yè)的通用小場(chǎng)景都是來(lái)自客戶的真實(shí)需求。2022年，易盾會(huì)持續(xù)做好整個(gè)產(chǎn)品技術(shù)上的打磨，在娛樂(lè)、社交、游戲等各行業(yè)的各類典型場(chǎng)景上繼續(xù)深挖，爭(zhēng)取能夠貼身去解決相應(yīng)問(wèn)題。除了行業(yè)創(chuàng)新之外，我們?nèi)詴?huì)不斷提升整體智能風(fēng)控的水平，也會(huì)盡可能做到安全和用戶體驗(yàn)的平衡，盡最大努力成為客戶的一個(gè)后盾。
2016年9月20號(hào)，網(wǎng)易易盾正式對(duì)外發(fā)布，開(kāi)啟商業(yè)化道路，過(guò)去的五年，是一段1825天，43800小時(shí)的時(shí)光。從0到1是靈感的迸發(fā)，是創(chuàng)新與創(chuàng)意的呈現(xiàn)；從1到5是繼往開(kāi)來(lái)，是推陳出新的傳承發(fā)展；從5到無(wú)窮是源遠(yuǎn)流長(zhǎng)，是遠(yuǎn)見(jiàn)穩(wěn)進(jìn)的延續(xù)。5年磨鋒礪劍，我們攜手創(chuàng)新者乘風(fēng)破浪，5年砥礪前行，我們陪伴遠(yuǎn)見(jiàn)者茁壯成長(zhǎng)。感謝每一位客戶的陪伴和支持。
