TikTok因在其應用上舉辦危險的病毒性“挑戰(zhàn)”而名聲不佳，并且在最糟糕的情況下，這些挑戰(zhàn)還會導致嚴重的傷害或死亡事件發(fā)生--比如今年促使意大利監(jiān)管機構(gòu)對該社交網(wǎng)絡采取行動以清除未成年用戶的昏迷挑戰(zhàn)(blackout challenge)。
最近，該應用因鼓勵學生打老師和破壞學校財產(chǎn)的挑戰(zhàn)而成為頭條新聞。隨著進一步監(jiān)管的潛在威脅逼近，TikTok今日分享了其對病毒性挑戰(zhàn)和惡作劇的內(nèi)部研究結(jié)果--以及它是如何采取行動的。
到目前為止，TikTok經(jīng)常試圖淡化其對病毒性挑戰(zhàn)的參與。
比如今年10月，TikTok否認“掌摑老師”的挑戰(zhàn)是TikTok的一個趨勢。在一名兒童因嘗試昏迷挑戰(zhàn)而死亡后，TikTok發(fā)表聲明稱，該公司沒有發(fā)現(xiàn)任何涉及其平臺上窒息的挑戰(zhàn)的證據(jù)。在最近一次專門討論社交平臺上未成年人安全問題的參議院聽證會上，它再次重復了這一說法。但美參議員Blackburn告訴TikTok的代表，她的工作人員發(fā)現(xiàn)了暈倒的視頻以及其他令人不安的內(nèi)容。
今日，TikTok發(fā)布了其自己對有害挑戰(zhàn)和騙局的內(nèi)部研究結(jié)果。
這家公司表示，它在幾個月前啟動了一個全球項目來研究這個話題，其中包括對來自阿根廷、澳大利亞、巴西、德國、意大利、印度尼西亞、墨西哥、英國、美國和越南的1萬多名青少年、家長和教師的調(diào)查。另外 ，它還委托了一家獨立的保障機構(gòu)Praesidio Safeguarding撰寫一份報告以詳細說明調(diào)查結(jié)果及其建議。此外，一個由12名領先的青少年安全專家組成的小組被要求審查該報告并提供他們自己的意見。最后，TikTok跟專門研究青少年健康發(fā)展的臨床兒童精神病學家Richard Graham博士和專門研究青少年風險預防的行為科學家Gretchen Brion-Meisels博士合作以提供進一步指導。
由于這份報告說明了社交媒體如何成為有害內(nèi)容的溫床，所以其所發(fā)現(xiàn)的數(shù)據(jù)值得研究。由于年輕人處于心理發(fā)展的階段，他們對風險的胃口要大得多。
正如Graham博士所指出的那樣，青春期是一個非同尋常的時期，為孩子過渡到成人生活做準備。他表，這是一個大規(guī)模大腦發(fā)育 的時期。“現(xiàn)在有很多人關注的是了解為什么青少年會做他們所做的事情--因為這些判斷中心正在被重新修正，為將來更復雜的決策和思考做準備。”
Graham博士表示，年輕人的大腦在抽象思維方面、對更復雜的心理和情緒狀態(tài)的識別以及對關系的更復雜考慮都正在發(fā)展。而在這一切進行的過程中，他們對周圍世界的學習欲望也在增加--這有時可能包括參與更危險的活動和測試自己或贏得同齡人的認可的欲望。有時這些“危險”活動相對無害，如看恐怖電影或坐過山車。但其他時候，青少年和其他年輕人可能會選擇參與一些他們認為會真正在某種程度上拉伸他們的活動，這就吸引他們?nèi)ッ鎸Ω嗟娘L險挑戰(zhàn)。
此外，一般來說，病毒性挑戰(zhàn)可以吸引青少年對朋友和同齡人認可的渴望，因為這會帶來喜歡和觀點。但青少年評估挑戰(zhàn)是否安全的方式有缺陷--他們往往只是看更多的視頻或向朋友征求意見。同時，家長和老師往往對談論挑戰(zhàn)和騙局猶豫不決，因為他們擔心會促使人們對它們產(chǎn)生更多的興趣。
研究發(fā)現(xiàn)，大多數(shù)青少年并沒有參與最危險的挑戰(zhàn)。全球只有21%的青少年在參加挑戰(zhàn)，只有2%的人參加了那些被認為是危險的挑戰(zhàn)。更少的0.3%參加了他們認為是“真正危險”的挑戰(zhàn)。大多數(shù)人認為參與挑戰(zhàn)是中性的（54%）或積極的（34%），而不是消極的（11%）。而64%的人說參與挑戰(zhàn)對他們的友誼和關系有著積極的影響。
該項研究還考察了惡作劇挑戰(zhàn)--如Blue Whale和Momo--它們宣傳了有一個壞的行為者在指揮孩子們從事有害的活動，并升級為自我傷害或自殺。61%的青少年表示，當他們遇到騙局時他們會搜索更多的信息以試圖驗證它們是否是真的，但在騙局周圍往往還存在很多困惑。青少年懷疑轉(zhuǎn)發(fā)騙局的人是為了獲得喜歡和瀏覽量（62%的人相信這一點）或因為他們認為騙局是真的（60%的人相信這一點）。有46%的青少年接觸到騙局后會尋求支持或建議，這表明青少年會從幫助他們理解騙局材料的資源中受益。
盡管研究表明，為了解決與用戶安全有關的問題，社交媒體平臺還有很多事情要做，但TikTok在這方面的反應相當小。
這家公司近日宣布，它將在其安全中心增加一個專門討論挑戰(zhàn)和騙局的新部分，另外還將根據(jù)研究人員的建議修改其在人們搜索跟自殺或自我傷害有關的騙局時出現(xiàn)的警告標簽中的一些語言。
考慮到這些變化相對較小的性質(zhì)--基本上是一個幫助文檔和一些修訂的文本--在今天的公告之前，TikTok在周一曾向媒體直播了一個小時的研究報告并將38頁的研究報告全文電郵給記者。TikTok這樣做似乎是為了將自己跟Facebook區(qū)分開來，后者一直對外不公布令人震驚的內(nèi)部研究，直到舉報人Frances Haugen拿出數(shù)千份文件，人們才知道Facebook明知自己的問題卻沒有采取行動。
TikTok希望自己被視為有意義地參與研究過程，但最終，它所做的改變并不能解決問題。歸根結(jié)底，有害內(nèi)容是一個管理上的挑戰(zhàn)，是一個源于社交媒體本身性質(zhì)的問題。消除有害內(nèi)容將需要一個從頭開始設計的系統(tǒng)，以不激勵令人震驚或離譜的內(nèi)容來換取喜歡和瀏覽，然而大多數(shù)社交媒體都不是這樣建立起來的。
TikTok還表示，它將尋找跟標簽相關的違規(guī)內(nèi)容的突然增加，包括潛在的危險行為。
比如像#FoodChallenge這樣的標簽（通常用于分享美食食譜和烹飪靈感）開始出現(xiàn)峰值，而其更多的內(nèi)容違反了TikTok的政策，那么審核團隊將會被提醒去尋找這種峰值的原因，進而方便他們能夠采取行動。
