調(diào)查顯示，中國(guó)6至15歲孩童的數(shù)量高達(dá)1.8億，他們已經(jīng)成為高度數(shù)字化的一代：開(kāi)始使用電腦的平均年齡為7.8歲，開(kāi)始使用智能手機(jī)的平均年齡為7.3歲，大部分在9歲以前都已接觸各種智能設(shè)備、電子游戲和社交媒體。網(wǎng)絡(luò)為未成年人創(chuàng)造了一個(gè)全新的世界，但未成年人進(jìn)行網(wǎng)絡(luò)游戲、網(wǎng)課、網(wǎng)絡(luò)購(gòu)物等時(shí)間越來(lái)越長(zhǎng)、頻率越來(lái)越高，加之未成年人防騙意識(shí)薄弱，受到各類不良信息誘導(dǎo)、遭受網(wǎng)絡(luò)違法犯罪侵害的風(fēng)險(xiǎn)日益加劇。
一直以來(lái)，國(guó)家都高度重視未成年人網(wǎng)絡(luò)保護(hù)工作，對(duì)涉未成年人問(wèn)題露頭就打。自2020年起連續(xù)三年部署開(kāi)展“清朗”未成年人暑期網(wǎng)絡(luò)環(huán)境專項(xiàng)整治行動(dòng)，深入清理了一批有害信息，處置了一批違法違規(guī)網(wǎng)站賬號(hào)，嚴(yán)厲打擊了各種亂象問(wèn)題。
“清朗·2023年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)已經(jīng)開(kāi)啟，今年行動(dòng)將依舊聚焦網(wǎng)上涉未成年人突出問(wèn)題，嚴(yán)厲整治各類有害內(nèi)容和違法犯罪，守住專屬平臺(tái)安全底線，對(duì)于學(xué)習(xí)類App、兒童智能設(shè)備等，壓實(shí)平臺(tái)主體責(zé)任，強(qiáng)化應(yīng)用上線、內(nèi)容發(fā)布等前端管理，加強(qiáng)功能安全風(fēng)險(xiǎn)評(píng)估，禁止出現(xiàn)各類違法不良內(nèi)容，不得誘導(dǎo)充值消費(fèi)等。
目前未成年人網(wǎng)絡(luò)危害主要有以下幾個(gè)特征：
1.危害低齡化
目前未成年人的互聯(lián)網(wǎng)接觸率非常高，高學(xué)齡前達(dá)32.9%，中小學(xué)生達(dá)100%。2020年，媒體公開(kāi)報(bào)道未成年人性侵案件中，受害人年齡為中小學(xué)學(xué)齡段的案例占比83.95%;
2.種類多樣化
暴力內(nèi)容誘導(dǎo)未成年校園霸凌乃至犯罪;國(guó)外亞文化衍生的違規(guī)類型開(kāi)始在國(guó)內(nèi)生根發(fā)芽;
3.方式隱匿化
黑灰產(chǎn)分子逐漸轉(zhuǎn)入地下或境外;兒童軟色情表情包及圖片;涉政、虛無(wú)主義、暴恐等元素;
4.行為對(duì)抗化
黑灰產(chǎn)通過(guò)欺詐工具持續(xù)對(duì)抗;有害內(nèi)容不斷進(jìn)行變異;黑灰產(chǎn)觸角延伸到了PGC領(lǐng)域。
關(guān)于未成年人網(wǎng)絡(luò)保護(hù)，國(guó)家從三個(gè)方面給出了指示。
第一，要加強(qiáng)未成年人網(wǎng)絡(luò)安全教育，國(guó)家在“網(wǎng)絡(luò)保護(hù)”專章中明確規(guī)定了政府有關(guān)部門(mén)在預(yù)防和干預(yù)沉迷網(wǎng)絡(luò)方面的職責(zé)，以及父母或者其他監(jiān)護(hù)人、學(xué)校、網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者各方面預(yù)防沉迷網(wǎng)絡(luò)的義務(wù)，依法懲處利用網(wǎng)絡(luò)從事危害未成年人身心健康的活動(dòng)，形成家庭、學(xué)校、社會(huì)多方位保護(hù)合力，營(yíng)造良好安全的未成年人網(wǎng)絡(luò)環(huán)境。
第二，各類平臺(tái)主體需要構(gòu)建合理的未成年人網(wǎng)絡(luò)保護(hù)體系。國(guó)家網(wǎng)信辦針對(duì)應(yīng)用程序提供者明確提出，應(yīng)當(dāng)堅(jiān)持最有利于未成年人的原則，關(guān)注未成年人健康成長(zhǎng)，履行未成年人網(wǎng)絡(luò)保護(hù)各項(xiàng)義務(wù)，嚴(yán)格落實(shí)未成年用戶賬號(hào)實(shí)名注冊(cè)和登錄要求，不得以任何形式向未成年用戶提供誘導(dǎo)其沉迷的相關(guān)產(chǎn)品和服務(wù)。
應(yīng)用程序?yàn)橛脩籼峁┬畔l(fā)布、即時(shí)通訊等服務(wù)的，應(yīng)當(dāng)對(duì)申請(qǐng)注冊(cè)的用戶進(jìn)行基于移動(dòng)電話號(hào)碼、身份證件號(hào)碼或者統(tǒng)一社會(huì)信用代碼等方式的真實(shí)身份信息認(rèn)證。用戶不提供真實(shí)身份信息，或者冒用組織機(jī)構(gòu)、他人身份信息進(jìn)行虛假注冊(cè)的，不得為其提供相關(guān)服務(wù)。
第三，積極探索未成年人網(wǎng)絡(luò)司法保護(hù)新路徑。以懲防網(wǎng)絡(luò)犯罪為重點(diǎn)，依法精準(zhǔn)打擊“隔空猥褻”等網(wǎng)絡(luò)違法犯罪，加大對(duì)以未成年人為目標(biāo)的網(wǎng)絡(luò)詐騙犯罪的打擊懲治力度;依法懲戒和精準(zhǔn)幫教相結(jié)合，最大限度教育挽救涉網(wǎng)絡(luò)犯罪的未成年人。此外，還應(yīng)通過(guò)公益訴訟、檢察建議、支持起訴、情況通報(bào)等多種形式，推動(dòng)網(wǎng)絡(luò)平臺(tái)、社會(huì)、政府共同守護(hù)未成年人健康網(wǎng)絡(luò)環(huán)境。
作為國(guó)內(nèi)最早搭建未成年人保護(hù)體系的企業(yè)之一，網(wǎng)易主要從技術(shù)攔截、社會(huì)共治、網(wǎng)絡(luò)素養(yǎng)等三大維度出發(fā)持續(xù)探索守護(hù)未成年人健康成長(zhǎng)。同樣，未成年網(wǎng)絡(luò)保護(hù)也是網(wǎng)易易盾網(wǎng)絡(luò)生態(tài)治理的重點(diǎn)領(lǐng)域，易盾通過(guò)多年豐富的行業(yè)經(jīng)驗(yàn)沉淀，搭建及不斷完善了一套未成年人專項(xiàng)網(wǎng)絡(luò)保護(hù)體系，主要包括未成年人識(shí)別、涉未成年人內(nèi)容檢測(cè)、內(nèi)容藍(lán)軍巡檢治理三個(gè)維度，并覆蓋了注冊(cè)環(huán)節(jié)、驗(yàn)證環(huán)節(jié)、消費(fèi)環(huán)節(jié)、行為分析環(huán)節(jié)等，從自動(dòng)化AI到人工審核，實(shí)現(xiàn)了有效、精準(zhǔn)、多維度的未成年網(wǎng)絡(luò)保護(hù)。
目前未成年人網(wǎng)絡(luò)危害主要有以下幾個(gè)特征：
1.危害低齡化
目前未成年人的互聯(lián)網(wǎng)接觸率非常高，高學(xué)齡前達(dá)32.9%，中小學(xué)生達(dá)100%。2020年，媒體公開(kāi)報(bào)道未成年人性侵案件中，受害人年齡為中小學(xué)學(xué)齡段的案例占比83.95%;
2.種類多樣化
暴力內(nèi)容誘導(dǎo)未成年校園霸凌乃至犯罪;國(guó)外亞文化衍生的違規(guī)類型開(kāi)始在國(guó)內(nèi)生根發(fā)芽;
3.方式隱匿化
黑灰產(chǎn)分子逐漸轉(zhuǎn)入地下或境外;兒童軟色情表情包及圖片;涉政、虛無(wú)主義、暴恐等元素;
4.行為對(duì)抗化
黑灰產(chǎn)通過(guò)欺詐工具持續(xù)對(duì)抗;有害內(nèi)容不斷進(jìn)行變異;黑灰產(chǎn)觸角延伸到了PGC領(lǐng)域。
關(guān)于未成年人網(wǎng)絡(luò)保護(hù)，國(guó)家從三個(gè)方面給出了指示。
第一，要加強(qiáng)未成年人網(wǎng)絡(luò)安全教育，國(guó)家在“網(wǎng)絡(luò)保護(hù)”專章中明確規(guī)定了政府有關(guān)部門(mén)在預(yù)防和干預(yù)沉迷網(wǎng)絡(luò)方面的職責(zé)，以及父母或者其他監(jiān)護(hù)人、學(xué)校、網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者各方面預(yù)防沉迷網(wǎng)絡(luò)的義務(wù)，依法懲處利用網(wǎng)絡(luò)從事危害未成年人身心健康的活動(dòng)，形成家庭、學(xué)校、社會(huì)多方位保護(hù)合力，營(yíng)造良好安全的未成年人網(wǎng)絡(luò)環(huán)境。
第二，各類平臺(tái)主體需要構(gòu)建合理的未成年人網(wǎng)絡(luò)保護(hù)體系。國(guó)家網(wǎng)信辦針對(duì)應(yīng)用程序提供者明確提出，應(yīng)當(dāng)堅(jiān)持最有利于未成年人的原則，關(guān)注未成年人健康成長(zhǎng)，履行未成年人網(wǎng)絡(luò)保護(hù)各項(xiàng)義務(wù)，嚴(yán)格落實(shí)未成年用戶賬號(hào)實(shí)名注冊(cè)和登錄要求，不得以任何形式向未成年用戶提供誘導(dǎo)其沉迷的相關(guān)產(chǎn)品和服務(wù)。
應(yīng)用程序?yàn)橛脩籼峁┬畔l(fā)布、即時(shí)通訊等服務(wù)的，應(yīng)當(dāng)對(duì)申請(qǐng)注冊(cè)的用戶進(jìn)行基于移動(dòng)電話號(hào)碼、身份證件號(hào)碼或者統(tǒng)一社會(huì)信用代碼等方式的真實(shí)身份信息認(rèn)證。用戶不提供真實(shí)身份信息，或者冒用組織機(jī)構(gòu)、他人身份信息進(jìn)行虛假注冊(cè)的，不得為其提供相關(guān)服務(wù)。
第三，積極探索未成年人網(wǎng)絡(luò)司法保護(hù)新路徑。以懲防網(wǎng)絡(luò)犯罪為重點(diǎn)，依法精準(zhǔn)打擊“隔空猥褻”等網(wǎng)絡(luò)違法犯罪，加大對(duì)以未成年人為目標(biāo)的網(wǎng)絡(luò)詐騙犯罪的打擊懲治力度;依法懲戒和精準(zhǔn)幫教相結(jié)合，最大限度教育挽救涉網(wǎng)絡(luò)犯罪的未成年人。此外，還應(yīng)通過(guò)公益訴訟、檢察建議、支持起訴、情況通報(bào)等多種形式，推動(dòng)網(wǎng)絡(luò)平臺(tái)、社會(huì)、政府共同守護(hù)未成年人健康網(wǎng)絡(luò)環(huán)境。
作為國(guó)內(nèi)最早搭建未成年人保護(hù)體系的企業(yè)之一，網(wǎng)易主要從技術(shù)攔截、社會(huì)共治、網(wǎng)絡(luò)素養(yǎng)等三大維度出發(fā)持續(xù)探索守護(hù)未成年人健康成長(zhǎng)。同樣，未成年網(wǎng)絡(luò)保護(hù)也是網(wǎng)易易盾網(wǎng)絡(luò)生態(tài)治理的重點(diǎn)領(lǐng)域，易盾通過(guò)多年豐富的行業(yè)經(jīng)驗(yàn)沉淀，搭建及不斷完善了一套未成年人專項(xiàng)網(wǎng)絡(luò)保護(hù)體系，主要包括未成年人識(shí)別、涉未成年人內(nèi)容檢測(cè)、內(nèi)容藍(lán)軍巡檢治理三個(gè)維度，并覆蓋了注冊(cè)環(huán)節(jié)、驗(yàn)證環(huán)節(jié)、消費(fèi)環(huán)節(jié)、行為分析環(huán)節(jié)等，從自動(dòng)化AI到人工審核，實(shí)現(xiàn)了有效、精準(zhǔn)、多維度的未成年網(wǎng)絡(luò)保護(hù)。
01 未成年人識(shí)別
平臺(tái)青少年模式、防沉迷系統(tǒng)已基本普及，但在平臺(tái)認(rèn)證環(huán)節(jié)中依然存在較多漏洞，未成年人可以輕松繞過(guò)。同時(shí)也存在未成年人租賃買(mǎi)號(hào)、冒充家長(zhǎng)成人、充值消費(fèi)等，對(duì)平臺(tái)的良性運(yùn)營(yíng)也提出了挑戰(zhàn)。因此，鑒別賬號(hào)背后人的真實(shí)年齡是平臺(tái)防范的第一步，也是非常重要的一步。平臺(tái)可根據(jù)賬號(hào)真人年齡進(jìn)行防沉迷等功能限制，同時(shí)也可標(biāo)記未成年人用戶標(biāo)簽，保護(hù)未成年人的隱私信息，有效防止不法分子通過(guò)未成年人信息獲取侵害機(jī)會(huì)。為此，易盾可提供全周期行為的未成年身份識(shí)別。
(1)身份認(rèn)證識(shí)別
易盾可提供多種未成年身份識(shí)別方式，如實(shí)名認(rèn)證，通過(guò)校驗(yàn)姓名與身份證的真實(shí)性，或結(jié)合手機(jī)號(hào)碼的綁定來(lái)判定。同時(shí)也可通過(guò)活體檢測(cè)、人臉比對(duì)、設(shè)備指紋、等技術(shù)全面快速核驗(yàn)真實(shí)身份信息，并將未成年人用戶進(jìn)行標(biāo)識(shí)。
(2)行為智能識(shí)別
除了身份認(rèn)證識(shí)別，易盾還可在用戶的內(nèi)容與行為中，通過(guò)圖像、聲音、文字等維度判定出“疑似未成年”的嫌疑度，如通過(guò)AI人臉識(shí)別算法進(jìn)行年齡識(shí)別，或通過(guò)未成年人聲紋、娃娃音、ASR語(yǔ)音轉(zhuǎn)文本等語(yǔ)音算法進(jìn)行判定。在文字內(nèi)容方面，易盾可通過(guò)NLP語(yǔ)義分析、言論算法嫌疑度、未成年人黑話進(jìn)行疑似判定。同時(shí)，易盾還通過(guò)海量數(shù)據(jù)分析挖掘，搭建了未成年人的行為模型，如通過(guò)在線時(shí)長(zhǎng)算法、身份證綁定賬戶數(shù)、手機(jī)號(hào)綁定賬戶等方式，進(jìn)行行為分析。對(duì)高嫌疑賬號(hào)執(zhí)行人臉核身，人臉校驗(yàn)當(dāng)前賬號(hào)是否未成年，同時(shí)對(duì)未成年人過(guò)濾不良內(nèi)容。
(3)風(fēng)險(xiǎn)用戶識(shí)別
網(wǎng)絡(luò)平臺(tái)中存在著很多黑色利益鏈條，未成年人由于心智未發(fā)育成熟，很容易成為黑灰產(chǎn)的“獵物”。易盾在用戶識(shí)別領(lǐng)域一直非常關(guān)注風(fēng)險(xiǎn)用戶的識(shí)別，通過(guò)海量用戶數(shù)據(jù)的多維挖掘，構(gòu)建黑產(chǎn)信息庫(kù)和風(fēng)險(xiǎn)識(shí)別模型，并可根據(jù)唯一的設(shè)備指紋，形成One- ID，通過(guò)用戶ID與用戶行為分析，精準(zhǔn)識(shí)別“風(fēng)險(xiǎn)賬號(hào)”。同時(shí)，針對(duì)團(tuán)體黑灰產(chǎn)行為，網(wǎng)易易盾將其設(shè)備信息、網(wǎng)絡(luò)環(huán)境、行為時(shí)序、內(nèi)容等多維信息整合后進(jìn)行深度數(shù)據(jù)挖掘，可挖掘出黑產(chǎn)用戶之間潛在的隱式關(guān)系，從而以點(diǎn)帶面找出團(tuán)伙，有效保護(hù)平臺(tái)未成年用戶遠(yuǎn)離網(wǎng)絡(luò)風(fēng)險(xiǎn)。
02 涉未成年人內(nèi)容檢測(cè)
網(wǎng)絡(luò)世界充斥著大量對(duì)未成年人的有害和負(fù)面內(nèi)容，如低俗色情、血腥暴力、炫富拜金，甚至有一些不法分子利用互聯(lián)網(wǎng)教唆和引誘未成年人實(shí)施暴力、詐騙甚至自殺，有的對(duì)未成年人實(shí)施性引誘、網(wǎng)絡(luò)猥褻等違法行為，性質(zhì)非常惡劣。因此，清理平臺(tái)涉未成年人的有害信息是每年“清朗”行動(dòng)非常關(guān)注的一面，并且將進(jìn)行嚴(yán)厲打擊。
易盾主要通過(guò)機(jī)審+人審的組合策略，在所有涵蓋文本、圖片、音視頻的多個(gè)業(yè)務(wù)場(chǎng)景，實(shí)現(xiàn)對(duì)侵害未成年人的不良內(nèi)容風(fēng)險(xiǎn)全覆蓋，有效阻隔不良信息對(duì)未成年人造成的傷害。
在AI智能檢測(cè)能力中，易盾對(duì)色情引誘、性暗示、低俗視頻等問(wèn)題有著很強(qiáng)的檢測(cè)力，且對(duì)兒童形象軟色情包做深度識(shí)別;同時(shí)，針對(duì)不同行業(yè)和類型的平臺(tái)，易盾可提供專門(mén)的未成年策略集配置，有效防止各種不同有害信息內(nèi)容的傳播;
03 內(nèi)容藍(lán)軍巡檢治理
除了為平臺(tái)提供身份識(shí)別、內(nèi)容檢測(cè)服務(wù)，易盾針對(duì)內(nèi)容風(fēng)險(xiǎn)治理還可提供內(nèi)容藍(lán)軍巡檢服務(wù)。在平臺(tái)的日常運(yùn)營(yíng)中，藍(lán)軍可根據(jù)平臺(tái)的類型與未成年人用戶視角制定專業(yè)的巡檢方案。
易盾藍(lán)軍將會(huì)以攻擊者姿態(tài)，針對(duì)未成年人用戶群體向不同的場(chǎng)景投放藍(lán)軍樣本，并監(jiān)控藍(lán)軍樣本的處置方式、處置時(shí)長(zhǎng)，逐漸升級(jí)攻擊難度，并輸出產(chǎn)品內(nèi)容風(fēng)控藍(lán)軍報(bào)告，幫助平臺(tái)知曉產(chǎn)品抗攻擊能力。
未成年人安全風(fēng)險(xiǎn)在各類型平臺(tái)中都普遍存在，對(duì)游戲、娛樂(lè)直播、教育等行業(yè)來(lái)說(shuō)尤為突出，且問(wèn)題多樣，所以易盾針對(duì)這三個(gè)行業(yè)可提供深度定制方案。
游戲行業(yè)
游戲沉迷是未成年人比較突出的一個(gè)問(wèn)題。易盾依托網(wǎng)易的技術(shù)能力與豐富的游戲行業(yè)經(jīng)驗(yàn)，搭建未成年人游戲平臺(tái)保護(hù)體系。易盾在用戶注冊(cè)、游戲服務(wù)與游戲處置過(guò)程中均進(jìn)行了深度的識(shí)別檢測(cè)和風(fēng)險(xiǎn)控制。在游戲全業(yè)務(wù)流程中，易盾可通過(guò)AI及人臉識(shí)別技術(shù)，判定的疑似未成年人的用戶身份，并由人臉識(shí)別驗(yàn)證系統(tǒng)進(jìn)行二次驗(yàn)證，落實(shí)未成年人游戲防沉迷要求，同時(shí)也可有效解決未成年人租售游戲賬號(hào)等問(wèn)題。
娛樂(lè)直播行業(yè)
隨著短視頻、直播的社會(huì)影響力逐漸增大，未成年人用家長(zhǎng)手機(jī)給主播打賞的現(xiàn)象屢見(jiàn)不鮮。同時(shí)也出現(xiàn)了“未成年人充值打賞惡意退款”案例，對(duì)直播平臺(tái)的安全運(yùn)營(yíng)造成了影響。所以未成年人的身份識(shí)別和落實(shí)“青少年模式”很關(guān)鍵，需對(duì)未成年人進(jìn)行合理監(jiān)管及限制，易盾可通過(guò)用戶識(shí)別和內(nèi)容檢測(cè)等技術(shù)手段為平臺(tái)標(biāo)識(shí)未成年人用戶，降低運(yùn)營(yíng)風(fēng)險(xiǎn)。
教育行業(yè)
教育行業(yè)主要典型的問(wèn)題是不良內(nèi)容的傳播，比如謾罵、色情、違禁接龍、不良價(jià)值觀導(dǎo)向等問(wèn)題。所以不良信息的攔截是非常關(guān)鍵的一步。易盾可通過(guò)多方式綜合性審核未成年人可接收到的數(shù)據(jù)內(nèi)容，對(duì)不良信息進(jìn)行有效攔截，創(chuàng)造良好的網(wǎng)絡(luò)環(huán)境，保障兒童身心健康發(fā)展。
易盾還提供內(nèi)容藍(lán)軍巡檢服務(wù)，專人專項(xiàng)定期對(duì)應(yīng)用商店的應(yīng)用進(jìn)行內(nèi)容安全巡檢，清除不良信息。同時(shí)，提供高級(jí)安全服務(wù)，如人工審核、安全培訓(xùn)、輿情顧問(wèn)、風(fēng)控咨詢等，為教育平臺(tái)打造完整、體系化的應(yīng)對(duì)方案。
未成年人網(wǎng)絡(luò)保護(hù)是全社會(huì)越來(lái)越關(guān)注的一個(gè)熱點(diǎn)問(wèn)題，在每年的“清朗”專項(xiàng)行動(dòng)當(dāng)中，都有社會(huì)群眾反映平臺(tái)強(qiáng)烈的突出問(wèn)題并要求開(kāi)展專項(xiàng)整治。國(guó)家對(duì)未成年的網(wǎng)絡(luò)保護(hù)高度重視，對(duì)突出問(wèn)題形成露頭就打、高壓嚴(yán)打的態(tài)勢(shì)。未成年人網(wǎng)絡(luò)保護(hù)是一項(xiàng)系統(tǒng)的工作，需要平臺(tái)、企業(yè)、家長(zhǎng)、社會(huì)共同來(lái)保駕護(hù)航。作為國(guó)內(nèi)新一代數(shù)字內(nèi)容風(fēng)控服務(wù)商,網(wǎng)易易盾讓未成年人在網(wǎng)絡(luò)空間呼吸新鮮空氣。
