伴隨著新一代人工智能技術(shù)躍升為產(chǎn)業(yè)升級戰(zhàn)略性技術(shù)，AI與作為產(chǎn)業(yè)發(fā)展底座的安全之間的連接與融合，成為各行業(yè)關(guān)注的焦點。
9月28日-29日，AIIA 2020人工智能開發(fā)者大會在北京召開，行業(yè)頂尖專家和前沿創(chuàng)新資源薈萃一堂，致力為人工智能的持續(xù)發(fā)展吸納更多支撐動力。在9月29日舉辦的內(nèi)容安全分論壇上，騰訊安全天御內(nèi)容識別服務系統(tǒng)V5.0憑借其在內(nèi)容識別服務方面的功能優(yōu)勢與模式創(chuàng)新，成功獲得由中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟和中國信息通信研究院共同頒發(fā)的第二批內(nèi)容識別服務系統(tǒng)評測認證。
（騰訊安全天御內(nèi)容識別系統(tǒng)V5.0獲內(nèi)容識別服務系統(tǒng)測試證書）
本次評測工作由中國通信標準化協(xié)會網(wǎng)絡數(shù)據(jù)與技術(shù)協(xié)同治理工作組與中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟網(wǎng)信技術(shù)委員會聯(lián)合發(fā)起，經(jīng)過報名篩選、本地與遠程測試以及專家評審會等環(huán)節(jié)，最終驗證出了6家通過功能性符合測試的廠商和6家通過單項性能專項測試的廠商，旨在為內(nèi)容安全相關(guān)方選擇產(chǎn)品與服務提供權(quán)威參考。
會上，騰訊安全天御高級工程師蔡飛以在守護未成人內(nèi)容安全領(lǐng)域的實踐，詳細解讀騰訊安全天御內(nèi)容識別服務系統(tǒng)的功能架構(gòu)與實踐成果，以期為AI在內(nèi)容安全領(lǐng)域的創(chuàng)新實踐提供場景化實踐參考。
AI躍升內(nèi)容安全升級重要驅(qū)動力，騰訊安全天御打造全方位智能風控
圖文、視頻、直播等互動內(nèi)容以井噴之勢滲透到大眾日常的同時，也在一定程度上加深了各種涉黃、垃圾廣告、詐騙等不良信息的流竄。傳統(tǒng)基于人工或靜態(tài)識別技術(shù)的內(nèi)容過濾方式顯然已無法應對“進化”黑產(chǎn)更為隱秘的威脅攻擊。而近年來，新一代人工智能技術(shù)的應用拓展，打開了內(nèi)容安全識別技術(shù)升級的新局面。“AI”躍升為各內(nèi)容平臺精進安全策略的重要驅(qū)動力和關(guān)鍵詞。
緊扣內(nèi)容平臺內(nèi)容違規(guī)識別和合規(guī)審核等普遍痛點，騰訊安全天御結(jié)合20余年的安全攻防能力和在風控領(lǐng)域的實戰(zhàn)經(jīng)驗，以AI算法為核心，以海量互聯(lián)網(wǎng)數(shù)據(jù)為基礎(chǔ)，集成打造一套適用于社交、社區(qū)、教育、直播、游戲等多場景的內(nèi)容識別智能解決方案。
借助“AI+規(guī)則”的雙決策引擎，騰訊安全天御內(nèi)容識別系統(tǒng)不僅能實現(xiàn)對音視圖文等內(nèi)容的多維度、全方位風險識別決策，還能借助自動化訓練平臺優(yōu)化風險模型識別效果。以“機器+人工”的審核機制，為內(nèi)容平臺識別違規(guī)風險提供了準確率高達99%以上的全方位高效智能“攻略”，助力平臺內(nèi)容安全防護升級。
（騰訊安全天御內(nèi)容安全風控解決方案）
通過與騰訊云和微信小程序的連接，騰訊安全天御內(nèi)容風控系統(tǒng)已為超5萬家開發(fā)者提供了內(nèi)容安全服務，實現(xiàn)了90%的行業(yè)滲透率和超20倍的審核效率提升，業(yè)務健康程度達到99.89%。守住數(shù)萬客戶內(nèi)容安全防線的同時，為不同規(guī)模企業(yè)減少了20%-80%成本損耗。就在近日，騰訊安全還與綜合性內(nèi)容平臺-知乎共同發(fā)起了「社區(qū)凈化」計劃，通過違規(guī)信息治理、技術(shù)共享等手段，致力于讓打擊網(wǎng)絡黑產(chǎn)的協(xié)作常態(tài)化。
踐行科技向善，用AI守護未成年人網(wǎng)絡安全
在互聯(lián)網(wǎng)使用群體年輕化加快的大趨勢下，針對近五成未成年網(wǎng)民曾遭遇過網(wǎng)絡不良信息的現(xiàn)狀和未成年網(wǎng)絡內(nèi)容監(jiān)管政策的新要求，騰訊安全天御通過騰訊優(yōu)圖AI內(nèi)容審核能力的引入，將原有內(nèi)容風控能力延展至未成人網(wǎng)絡內(nèi)容安全防護場景中，并打造推出了首個專門面向未成年人的內(nèi)容安全審核解決方案，助力凈化未成年人網(wǎng)絡環(huán)境。
在此解決方案中，騰訊安全天御基于通用的涉黃、涉暴識別能力和目標檢測的創(chuàng)新算法，新增了許多諸如布局兒童邪典ACG審核、不良廣告與違規(guī)內(nèi)容多角度、細粒檢測等在內(nèi)的能力設(shè)計。借助這一解決方案，各大企業(yè)內(nèi)容平臺一方面能通過對以未成年人為目標的色情低俗、隱私、暴力欺凌等內(nèi)容的精準攔截，搭建夯實的未成人安全保護罩；另一方面，還能切斷不良ACG、不良行為和不良信息的向未成年人傳播的途徑，充當未成人網(wǎng)絡空間的過濾器。
以AI技術(shù)為支撐，騰訊安全天御已聯(lián)合騰訊優(yōu)圖，秉持科技向善的企業(yè)愿景，圍繞此套解決方案，為1500+家平臺提供內(nèi)容安全服務，大大地提升了其內(nèi)容審核效率與覆蓋范疇。共計審核圖片總量已突破1000億+，累計攔截不良內(nèi)容51263萬。今年國家網(wǎng)絡安全周期間，在騰訊安全優(yōu)圖、騰訊優(yōu)圖的能力支持下，騰訊還發(fā)起了“守護青苗行動”， 基于前沿視覺AI技術(shù)、安全大數(shù)據(jù)和黑灰產(chǎn)情報中臺，助力企業(yè)建立完善長效的涉青少年網(wǎng)絡內(nèi)容治理機制，凈化網(wǎng)絡空間色情低俗、暴力欺凌等危害青少年身心健康的不良信息，守護未成年人上網(wǎng)安全。
未來，伴隨著更多網(wǎng)絡內(nèi)容形式與安全場景的涌現(xiàn)，騰訊安全天御將持續(xù)打造出更多場景定制化內(nèi)容安全解決方案，為行業(yè)風控能力的精進和降本增效提供更優(yōu)途徑，助力打造健康清朗的網(wǎng)絡環(huán)境。
