數(shù)字信息爆炸的時(shí)代，直播、短視頻憑借趣味性、強(qiáng)互動(dòng)、碎片化、陪伴性等特點(diǎn)，成為最受人們歡迎的娛樂(lè)方式之一，許多未成年人也沉浸在由一場(chǎng)場(chǎng)直播和一個(gè)個(gè)短視頻構(gòu)建出的虛擬世界中無(wú)法自拔。
直播、短視頻平臺(tái)為未成年人開(kāi)啟了一扇通往新世界的大門(mén)，同時(shí)也帶來(lái)了一系列涉未成年人的新問(wèn)題：“未成年人脫衣直播”、“11歲小學(xué)生打賞主播200萬(wàn)，刷爆50萬(wàn)信用卡才被發(fā)現(xiàn)”、“短視頻平臺(tái)驚現(xiàn)兒童邪典視頻”……自2017年起，類(lèi)似事件便不時(shí)曝光。
直播短視頻亂象對(duì)未成年人造成的危害不容忽視。國(guó)家網(wǎng)信辦近期啟動(dòng)了“清朗·暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專(zhuān)項(xiàng)行動(dòng)，嚴(yán)禁16歲以下未成年人出鏡直播，嚴(yán)肅查處炒作“網(wǎng)紅兒童”行為，禁止誘導(dǎo)未成年人打賞行為，防止炫富拜金、奢靡享樂(lè)、賣(mài)慘“審丑”等現(xiàn)象對(duì)未成年人形成不良導(dǎo)向。
圖片來(lái)源：國(guó)家網(wǎng)信辦
在新一輪監(jiān)管行動(dòng)背景下，數(shù)美科技基于成熟的標(biāo)簽體系和多年風(fēng)險(xiǎn)內(nèi)容識(shí)別經(jīng)驗(yàn)，對(duì)直播短視頻行業(yè)的涉未成年人痛點(diǎn)及監(jiān)管政策深入分析，為直播短視頻平臺(tái)提供了一套行之有效的未成年人保護(hù)解決方案。
音頻/圖片/文本多維并行識(shí)別未成年人
一、未滿16周歲嚴(yán)禁出鏡，如何判斷賬號(hào)使用者的真實(shí)年齡？
邊打游戲邊解說(shuō)，言語(yǔ)中摻雜臟話；穿著另類(lèi)、動(dòng)作夸張，唱著網(wǎng)絡(luò)“喊麥”歌曲；談情感創(chuàng)傷，在鏡頭前抽煙喝酒；唱歌跳舞，卻不時(shí)做出性感挑逗動(dòng)作……直播平臺(tái)上，一些未成年人主播吸引了大批粉絲，成了小有名氣的“網(wǎng)紅”。
今年6月起施行的新修訂《中華人民共和國(guó)未成年人保護(hù)法》明確規(guī)定，網(wǎng)絡(luò)直播服務(wù)提供者不得為未滿十六周歲的未成年人提供網(wǎng)絡(luò)直播發(fā)布者賬號(hào)注冊(cè)服務(wù)。中央網(wǎng)信辦“清朗·暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專(zhuān)項(xiàng)行動(dòng)，也對(duì)16歲以下未成年人出鏡直播現(xiàn)象明令禁止。
隨著監(jiān)管政策的不斷施壓，未成年人違規(guī)直播問(wèn)題有所收斂。直播平臺(tái)要求開(kāi)播用戶實(shí)名認(rèn)證，在一定程度上已經(jīng)將大部分的未成年主播攔在門(mén)外，卻無(wú)法徹底解決未成年人在成年人直播間出鏡的問(wèn)題。去年曝出的“3歲女童被爸媽喂到70斤當(dāng)吃播賺錢(qián)”，就是典型的成年人炒作“網(wǎng)紅兒童”的行為，平臺(tái)僅僅依靠賬號(hào)實(shí)名認(rèn)證，根本無(wú)法防住這類(lèi)直播內(nèi)容的出現(xiàn)。
3歲女童被爸媽喂到70斤當(dāng)吃播賺錢(qián)
數(shù)美科技直播短視頻行業(yè)未成年人保護(hù)解決方案從用戶的全周期行為（開(kāi)播畫(huà)面、直播語(yǔ)音、連麥等環(huán)節(jié)）產(chǎn)生的多維內(nèi)容入手，進(jìn)行未成年人身份識(shí)別。
開(kāi)播畫(huà)面：主播的外貌特征是判斷其年齡的最直觀依據(jù)。數(shù)美科技采用基于深度學(xué)習(xí)的圖片識(shí)別技術(shù)，構(gòu)建強(qiáng)大的圖片識(shí)別引擎，精準(zhǔn)識(shí)別圖片中未成年人特征，極大提升未成年人主播識(shí)別準(zhǔn)確度。
數(shù)美科技能夠?qū)Σ煌挲g段的人像畫(huà)面做到智能識(shí)別，精準(zhǔn)區(qū)分0-3歲的嬰兒、3-8歲的兒童、8-18歲的青少年以及18歲以上的成年人形象，有效控制未成年人開(kāi)播和直播涉未成年人問(wèn)題的出現(xiàn)。除此之外，解決方案能夠識(shí)別畫(huà)面主體是否為未成年人，在此基礎(chǔ)上區(qū)分未成年人單獨(dú)出鏡和與成年人混合出鏡的情況。
直播語(yǔ)音、連麥：未成年人的音色與成年人有很大不同。數(shù)美科技通過(guò)解析直播間產(chǎn)生的音頻內(nèi)容，對(duì)主播的音色進(jìn)行聲學(xué)特征識(shí)別，未成年人的嗓音往往更加稚嫩，聲調(diào)更高，在直播間說(shuō)話、唱歌，都能夠被準(zhǔn)確識(shí)別；同時(shí)將主播的直播、連麥內(nèi)容轉(zhuǎn)換成文本，對(duì)其進(jìn)行語(yǔ)義分析。舉個(gè)例子，如果主播在直播或者連麥過(guò)程中提到“明天是我14歲生日”、“學(xué)校宿舍不讓直播”、“上周沒(méi)直播，我媽把我手機(jī)收了”，數(shù)美科技將這些語(yǔ)音轉(zhuǎn)化成文本后就能對(duì)其進(jìn)行語(yǔ)義分析，判斷當(dāng)前開(kāi)播者有多大可能性是未成年人。
對(duì)開(kāi)播畫(huà)面和直播產(chǎn)生的音頻內(nèi)容進(jìn)行全方位分析后，數(shù)美科技能夠據(jù)此輸出“未成年人”、“疑似未成年人”標(biāo)簽，當(dāng)被標(biāo)注“未成年人”、“疑似未成年人”的用戶申請(qǐng)開(kāi)播時(shí)，平臺(tái)可對(duì)其開(kāi)啟人臉驗(yàn)證，驗(yàn)證不通過(guò)即可拒絕開(kāi)播；驗(yàn)證通過(guò)后，平臺(tái)可對(duì)直播間采取巡查措施，一旦涉及未成年人出鏡問(wèn)題，可以對(duì)其進(jìn)行強(qiáng)制下播處理。
二、未成年人沉迷直播短視頻，青少年模式形同虛設(shè)？
據(jù)共青團(tuán)中央維護(hù)青少年權(quán)益部、中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）發(fā)布的《2020年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告》，目前有82.9%的未成年網(wǎng)民擁有屬于自己的上網(wǎng)設(shè)備，短視頻作為新興互聯(lián)網(wǎng)娛樂(lè)服務(wù)，已經(jīng)成為未成年人網(wǎng)民第三大網(wǎng)絡(luò)娛樂(lè)活動(dòng)；10.6%的未成年網(wǎng)民在工作日收看短視頻超過(guò)2小時(shí)，在節(jié)假日刷短視頻超過(guò)兩小時(shí)的未成年網(wǎng)民將近五分之一。日常生活中我們也經(jīng)常能夠看到，有些未成年人一刷起手機(jī)短視頻就欲罷不能。
圖片來(lái)源：《2020年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告》
對(duì)于各類(lèi)直播短視頻平臺(tái)來(lái)說(shuō)，青少年模式是防止未成年人沉迷的主要手段。自2019年3月起，國(guó)內(nèi)主要短視頻和直播平臺(tái)開(kāi)始試點(diǎn)上線“青少年模式”，通過(guò)內(nèi)容、使用時(shí)段、時(shí)長(zhǎng)等方面的特殊設(shè)計(jì)，引導(dǎo)青少年健康上網(wǎng)。目前，多數(shù)平臺(tái)會(huì)在用戶首次進(jìn)入APP時(shí)進(jìn)行彈窗提示。
然而，市面上有些青少年模式卻形同虛設(shè)，未成年人可以自主選擇是否進(jìn)入青少年模式，甚至有些平臺(tái)的青少年模式通過(guò)卸載后再安裝這種小把戲就能被輕松繞過(guò)。
數(shù)美科技直播短視頻行業(yè)未成年人保護(hù)解決方案通過(guò)全方位分析賬號(hào)的評(píng)論、語(yǔ)音消息、動(dòng)態(tài)等全周期、全旅程的行為和內(nèi)容，對(duì)賬號(hào)進(jìn)行未成年人標(biāo)注。當(dāng)被標(biāo)注“未成年人”、“疑似未成年人”的用戶觀看時(shí)長(zhǎng)超過(guò)平臺(tái)規(guī)定或者晚上十點(diǎn)后仍在使用時(shí)，平臺(tái)可激活人臉驗(yàn)證流程，只有通過(guò)人臉驗(yàn)證的確定為成年人的用戶才能夠繼續(xù)觀看直播或視頻，拒絕人臉驗(yàn)證或人臉驗(yàn)證不通過(guò)的用戶，平臺(tái)可采取強(qiáng)制下線措施。數(shù)美科技從賬號(hào)層面提供未成年人識(shí)別服務(wù)，助力直播短視頻平臺(tái)強(qiáng)化未成年人禁用時(shí)長(zhǎng)和時(shí)段管理，讓青少年模式最大限度發(fā)揮效能。
三、“熊孩子”豪擲千金打賞主播，平臺(tái)怎樣識(shí)別未成年人充值打賞操作？
國(guó)家互聯(lián)網(wǎng)信息辦公室、全國(guó)“掃黃打非”工作小組辦公室等七部委聯(lián)合發(fā)布《關(guān)于加強(qiáng)網(wǎng)絡(luò)直播規(guī)范管理工作的指導(dǎo)意見(jiàn)》指出，網(wǎng)絡(luò)直播平臺(tái)不得向未成年人提供充值打賞服務(wù)；建立未成年人專(zhuān)屬客服團(tuán)隊(duì)，優(yōu)先受理、及時(shí)處置涉未成年人的相關(guān)投訴和糾紛，對(duì)未成年人冒用成年人賬號(hào)打賞的，核查屬實(shí)后須按規(guī)定辦理退款。
未成年人豪擲千金打賞網(wǎng)絡(luò)主播，不但給其家庭帶來(lái)了經(jīng)濟(jì)損失，后續(xù)的退款流程也為平臺(tái)帶來(lái)不必要的困難。網(wǎng)絡(luò)直播短視頻平臺(tái)，應(yīng)肩負(fù)起對(duì)未成年人充值打賞行為的監(jiān)管責(zé)任。
目前，一部分平臺(tái)已經(jīng)要求打賞用戶進(jìn)行實(shí)名認(rèn)證，未實(shí)名制注冊(cè)的用戶不能“打賞”，此舉可以將大部分未成年用戶隔離在打賞的“門(mén)外”。但是對(duì)于未成年人冒用成年人賬號(hào)打賞的情況，平臺(tái)往往處于被動(dòng)地位，只能在事后處置未成年人相關(guān)的投訴和糾紛，并且面臨著取證困難、程序繁瑣等問(wèn)題。
數(shù)美科技直播短視頻行業(yè)未成年人保護(hù)解決方案從賬號(hào)的行為和UGC內(nèi)容入手，在成年人賬號(hào)充值打賞之前，通過(guò)分析其評(píng)論、語(yǔ)音、個(gè)人資料等信息，初步判斷賬號(hào)的實(shí)際使用者是否疑似未成年人。在賬號(hào)打賞過(guò)程中，對(duì)疑似未成年人賬號(hào)增設(shè)人臉識(shí)別、身份核驗(yàn)關(guān)卡，提升未成年人打賞難度。平臺(tái)可參考數(shù)美科技提供的賬號(hào)標(biāo)簽和人臉驗(yàn)證結(jié)果，對(duì)可能存在異常消費(fèi)的賬號(hào)采取臨時(shí)凍結(jié)消費(fèi)、強(qiáng)制下線等功能，防止未成年人冒用或者借用成年人賬號(hào)充值與打賞。
四、不良內(nèi)容侵蝕未成年人，青少年模式太“無(wú)趣”？
對(duì)網(wǎng)絡(luò)不良內(nèi)容的監(jiān)管一直是國(guó)家網(wǎng)信工作的重中之重。《人民日?qǐng)?bào)》近日發(fā)布微博，堅(jiān)決抵制網(wǎng)絡(luò)三俗內(nèi)容，要求對(duì)于侵害未成年人合法權(quán)益的問(wèn)題保持“零容忍”態(tài)度，各網(wǎng)站平臺(tái)要積極履行主體責(zé)任。
當(dāng)前，許多直播短視頻APP中仍然存在色情、煙酒、暴力等不適宜向未成年人展示的信息，部分主播在直播中打“軟色情”擦邊球，崇尚炫富拜金的價(jià)值觀，賣(mài)慘、審丑之風(fēng)盛行。由于未成年人心智尚不健全，對(duì)不良內(nèi)容缺乏鑒別力，這類(lèi)不良直播、不良視頻給未成年人的價(jià)值觀造成嚴(yán)重危害。
直播短視頻平臺(tái)可以看作是融合了文本、圖片、音頻、視頻等多種形式的多元內(nèi)容平臺(tái)，其審核體系比其他平臺(tái)更復(fù)雜，審核難度更大，尤其是直播產(chǎn)生的視頻流內(nèi)容，給內(nèi)容審核提出了更高的挑戰(zhàn)。數(shù)美科技依托旗下全棧式智能內(nèi)容識(shí)別產(chǎn)品——天凈，打造了專(zhuān)門(mén)針對(duì)直播短視頻場(chǎng)景的內(nèi)容識(shí)別功能，從文本、圖片、音頻、視頻中全方位精準(zhǔn)識(shí)別直播短視頻平臺(tái)中的未成年人鏡頭以及色情、血腥、違禁、暴恐、炫富拜金等風(fēng)險(xiǎn)內(nèi)容，將危險(xiǎn)內(nèi)容過(guò)濾到未成年人網(wǎng)絡(luò)世界之外。
除此之外，數(shù)美科技直播短視頻行業(yè)未成年人保護(hù)解決方案能夠幫助平臺(tái)實(shí)現(xiàn)更精細(xì)化的內(nèi)容管理。在實(shí)踐過(guò)程中，很少有未成年人會(huì)主動(dòng)打開(kāi)青少年模式的一個(gè)重要原因，就是青少年模式內(nèi)容池不夠豐富。短視頻的優(yōu)勢(shì)就在于個(gè)性化推送用戶喜歡的內(nèi)容，然而當(dāng)前一些短視頻平臺(tái)的青少年模式為了規(guī)避內(nèi)容風(fēng)險(xiǎn)，只是“一刀切”地給未成年用戶提供科普、人文等學(xué)習(xí)類(lèi)內(nèi)容，不僅單調(diào)，而且也無(wú)法滿足未成年人正常的精神需求。數(shù)美科技依靠多年積淀起來(lái)的強(qiáng)大精細(xì)的內(nèi)容標(biāo)簽體系，對(duì)平臺(tái)內(nèi)容池中的視頻進(jìn)行打標(biāo)簽分類(lèi)管理，平臺(tái)可依據(jù)數(shù)美科技提供的內(nèi)容標(biāo)簽，為不同年齡段的用戶智能推薦適合觀看的視頻內(nèi)容，實(shí)現(xiàn)規(guī)避不良內(nèi)容風(fēng)險(xiǎn)的同時(shí)，也豐富了青少年保護(hù)模式下的內(nèi)容池。
直播短視頻平臺(tái)的未成年人保護(hù)之路困難重重，數(shù)美科技愿與平臺(tái)攜手，發(fā)揮AI技術(shù)在未成年人網(wǎng)絡(luò)保護(hù)方面的社會(huì)價(jià)值，讓直播、短視頻平臺(tái)真正成為未成年人看世界的一扇清朗之窗。
