11 月 30 日— 12 月 1 日，2022 騰訊數(shù)字生態(tài)大會在深圳召開，騰訊安全攜八款自研成果及背后的創(chuàng)新技術(shù)亮相，與生態(tài)伙伴共筑數(shù)字化安全新能力，探索以 " 安全共生 " 護航企業(yè) " 行穩(wěn)致遠 "。
在12月1日下午舉行的騰訊安全先行者·新品發(fā)布會場上，騰訊安全天御內(nèi)容風控總監(jiān)蔡飛以《攜手云原生，騰訊天御內(nèi)容安全運營中心全新亮相》為主題分享了內(nèi)容安全領(lǐng)域的風險與挑戰(zhàn)，以及騰訊天御內(nèi)容安全運營中心的最新應對方案。
內(nèi)容安全面臨的風險和挑戰(zhàn)
隨著移動終端與信息技術(shù)的快速發(fā)展，互聯(lián)網(wǎng)內(nèi)容愈發(fā)多元。從文字到圖片到語音再到視頻、直播，數(shù)字技術(shù)的時代洪流正沖刷出一幅豐富多彩的數(shù)字生活畫卷。同時，更加龐大和復雜的內(nèi)容安全隱患也伴隨而來。
對于數(shù)字內(nèi)容平臺和企業(yè)來說，開展網(wǎng)絡生態(tài)治理刻不容緩，24小時不停歇的互聯(lián)網(wǎng)內(nèi)容安全攻防戰(zhàn)每日都在上演。內(nèi)容安全面臨的問題與挑戰(zhàn)主要分為三個方向：
1. 違規(guī)內(nèi)容識別
數(shù)字內(nèi)容類應用往往以用戶UGC內(nèi)容為主，用戶資料，圖文消息和音視頻數(shù)據(jù)大部分是由用戶自己上傳，很容易出現(xiàn)色情，低俗，辱罵等不良內(nèi)容。
2. 內(nèi)容治理成本
企業(yè)和個人開發(fā)者不太可能具備足夠的安全團隊，建立功能完備的內(nèi)容審核系統(tǒng)，組建專門的運營團隊。
3. 全球性業(yè)務合規(guī)
面向海外的業(yè)務場景，需要滿足不同國家地區(qū)的法規(guī)要求。
騰訊安全天御內(nèi)容風控解決方案，三大特性守護內(nèi)容安全
騰訊安全天御內(nèi)容風控解決方案，以人工智能為核心，通過風控策略的靈活調(diào)度，打造覆蓋圖片、文本、音頻、視頻全內(nèi)容形態(tài)的 AI 智能內(nèi)容風控服務，為網(wǎng)絡空間清朗保駕護航。
01 更簡單：一鍵開通，自動審核
在上云的業(yè)務架構(gòu)里，如電商、游戲或者教育業(yè)務通常會使用COS搭建數(shù)據(jù)存儲系統(tǒng)、使用VOD實現(xiàn)音頻視頻播放功能、基于TRCT云直播打造豐富多彩的音視頻互動功能。
以往企業(yè)要對這些云組件類的數(shù)據(jù)進行審核，需要通過各產(chǎn)品的SDK或者API獲取數(shù)據(jù)，完成數(shù)據(jù)的送審和處置，這對導致研發(fā)對接成本非常高。
在騰訊安全天御內(nèi)容風控解決方案的新版本中，加強了內(nèi)容安全與其他云基礎(chǔ)產(chǎn)品的聯(lián)動性，在控制臺一鍵開通、自動實現(xiàn)數(shù)據(jù)審核。
在內(nèi)容安全的產(chǎn)品板塊里，騰訊安全對內(nèi)容識別能力進行了技術(shù)架構(gòu)升級，通過原子能力模型產(chǎn)生更多內(nèi)容維度的特征，并且通過決策引擎實現(xiàn)對內(nèi)容、行為和賬號等多維度特征進行綜合判斷，進一步提升識別效果和運營的靈活性。
升級了安全運營服務，打造了對安全態(tài)勢的實施感知能力，對突發(fā)的安全事件可以及時上線策略進行布控，并且定期組織紅藍對抗，優(yōu)化識別效果，確保云上的業(yè)務數(shù)據(jù)持續(xù)健康。
提供一套統(tǒng)一的運營功能集成到各個云產(chǎn)品，讓云產(chǎn)品的客戶可以更容易地管理審核策略和優(yōu)化審核效果。
新版本的核心目標是將復雜的內(nèi)容審核功能和運營流程精簡為一鍵開通、自助運營和數(shù)據(jù)看板三個關(guān)鍵功能給了客戶，以滿足快速接入、靈活調(diào)優(yōu)和對數(shù)據(jù)的可視分析的需求，極大地降低在內(nèi)容審核方面的研發(fā)和運營成本，讓上云企業(yè)能夠在產(chǎn)品研發(fā)和安全運營方面都能夠?qū)崿F(xiàn)降本增效的目的。
案例一：COS 全自動審核模式
在COS 全自動審核模式下，業(yè)務團隊只需針對COS的存儲配置開通送審功能，并且進一步配置對違規(guī)資源的處置規(guī)則，比如上傳的圖片如果包含低俗廣告，違規(guī)內(nèi)容時，就會自動封禁。
對于數(shù)據(jù)的送審，違規(guī)數(shù)據(jù)的處置功能邏輯完全可以交給COS和天御內(nèi)部系統(tǒng)實現(xiàn)，真正實現(xiàn)零研發(fā)接入。并且伴云審核還有一個很獨特的優(yōu)點，由于COS和天域系統(tǒng)可以通過騰訊內(nèi)部網(wǎng)絡通信，因此客戶不需要承擔因?qū)徍讼螺d產(chǎn)生的費用。
以圖片審核為例，這種審核模式可以為客戶節(jié)省大約20%的整體審核費用。
在COS存儲場景下，當出現(xiàn)新的審核需求時，可以在控制臺啟動存量掃描能力，實現(xiàn)對歷史數(shù)據(jù)的全量清洗。
案例二：TRTC 全自動審核，靈活方便，費用更低
在天御內(nèi)容審核中臺中，內(nèi)置實現(xiàn)TRTC 的專屬審核模塊，全面對接TRTC的事件消息服務。通過實時監(jiān)聽房間創(chuàng)建，用戶進退房等事件消息，實現(xiàn)對數(shù)據(jù)的自動送審功能。
面對網(wǎng)絡中斷等異常情況，可實現(xiàn)自動恢復，并且對重復數(shù)據(jù)進行自動去重。
在拉流審核模式方面，支持對單錄音視頻流進行審核，也支持將多路音視頻數(shù)據(jù)混合成一路進行審核。這種模式的切換可以實現(xiàn)自助配置，靈活調(diào)整，有效的平衡審核成本和業(yè)務風險。
02 更全面：超500種違規(guī)類型識別
新版本中第二個大特性，是審核能力的全面升級：
超過500多種的違規(guī)類型識別，整體提升了40%以上。
在識別粒度方面也進行更加精細的拆分，通過更細的標簽、靈活調(diào)整，以適應不同行業(yè)的審核需求。
案例一：守護未成年人網(wǎng)絡內(nèi)容安全
在未成年人保護相關(guān)能力方面，提供了兒童邪典、未成年人低俗、未成年人不適宜表情包等十幾個標簽。
支持對未成年人年齡屬性的輸出，讓業(yè)務可以根據(jù)屬性進一步區(qū)分未成年人群體，從而制定不同的處置規(guī)則。
案例二：守護內(nèi)容平臺版權(quán)風險
近年來，各行各業(yè)的版權(quán)保護意識越來越強。例如，在有聲小說業(yè)務場景中，用戶有可能上傳一些缺乏授權(quán)的素材，導致平臺方侵犯作者的權(quán)益，從而引發(fā)版權(quán)訴訟。
因此，在騰訊安全天御內(nèi)容風控解決方案新的內(nèi)容審核產(chǎn)品中，新增了版權(quán)篩查的功能，幫助平臺進一步降低版權(quán)的風險。
案例三：守護音視頻應用本地化場景
對于國內(nèi)主打本地化場景的音視頻應用，基于中文普通話構(gòu)建的安全識別能力，其效果會受地方方言影響大打折扣，因此騰訊安全天御內(nèi)容風控解決方案在新版本里增加了超過20多種的國內(nèi)方言識別。
針對海外地區(qū)的業(yè)務場景，也新增了英語，日語，韓語和阿拉伯語等主流語言的識別，并且在海外部署了專門的業(yè)務節(jié)點，進一步解決全球性的業(yè)務安全合規(guī)問題。
值得注意的是，經(jīng)過多次的模型迭代，騰訊安全天御內(nèi)容風控解決方案在隱晦違規(guī)元素的識別上也取得了較大的突破，例如變體字、行近字等干擾性強的違規(guī)內(nèi)容。對一些情感性、傾向性檢測的場景，即使是在嘈雜音背景下，也能對風險內(nèi)容進行及時的應對和處理。
03 更準確：國內(nèi)權(quán)威認證，全五星最高能力標準
騰訊安全天御內(nèi)容風控系統(tǒng)新版本今年六月份通過了中國信托院組織的專業(yè)評測，在文本、圖像、音頻、視頻四大類型的 16 項場景評測中均為滿分，斬獲“全五星”最高評級。
目前，騰訊安全天御風控已為 1500 多家平臺提供內(nèi)容安全服務，共計審核圖片總量已突破 3000 億條，累計攔截不良內(nèi)容超 5 億條，更多次參與護航重大展會、峰會的內(nèi)容安全。
