來源：愛范兒
一些見不得光的惡意將一個 16 歲的少年逼上了絕路。
Carson Bride 在自殺前搜索的最后一個詞條是「如何顯示 Yolo 用戶名」。
Yolo 是一個匿名社交應用，因為它的設置，使用者永遠無法知道背后發送消息的人是誰。可以說這是一個完全不受拘束的神秘空間。而當它背后充斥著惡意的時候，鋪天蓋地的信息也會讓你有一種不被世界所容的錯覺。
▲ Yolo 是一個匿名應用
Carson 在連續數月收到來自 Yolo 的匿名負面信息后選擇結束自己的生命。他的母親并沒有通過媒體向各個平臺施壓，要求他們公示對兒子進行長期辱罵、逼迫之人的名單，而是起訴了兒子使用的社交平臺 Snap、Yolo、LMK。在她看來，這些公司沒有遵守自己的服務條款和政策，違反了消費者保護法，且助長了欺凌行為。
這就是故事的結局，一個母親因為兒子的自殺起訴了網暴者借之宣泄惡意的平臺，而非平臺背后的人。
這次，平臺不再隱身
陽光照在海面，我也歸于大海。從這里結束自己的一生，也帶走了這個世界上最美的風景。
尋親男孩劉學州最后在微博訴說了自己被生父母出賣、養父母身亡、遭受校園欺凌猥褻以及被網暴的一生；確診新冠病毒的周女士個人信息在網絡被瘋傳，不少人通過公眾平臺嘲諷她「千里送毒」；江歌的母親在維權過程中遭到了部分網民的辱罵，她 5 年起訴了 10 名網民。
▲ 網絡暴力已經不是個別問題 . 圖片來自：comminit
以往發生網暴事件，總有人出現呼吁真善美，讓每個人規范自己的行為不要成為「壓倒駱駝的最后一根稻草」。個體的行為在網暴事件中被反復的提及，平臺固然會受到批評，但被指責的更多是通過平臺隱藏自己的人。
只是越來越多人在拿起法律武器反擊時不僅針對背后的施暴者，也開始要求平臺能發揮更大的作用。Carson 的母親并不是孤例，隱藏在平臺背后的人固然可恨，但沒有及時保護用戶、制止暴行的平臺同樣不能獨善其身。
一位法學從業者表示，面對網絡暴力，平臺和自然人都需要承擔應有的責任。《刑法》就規定，網絡暴力行為涉嫌誹謗罪和侮辱罪，可處以 3 年以下有期徒刑、拘役、管制或者剝奪政治權利。只是落在一個個具體的案例中，網暴行為導致的「情節嚴重」的情況都較難確定。
▲ 圖片來自：rsearch blog
平臺也有《網絡信息內容生態治理規定》做出了限制，不得制作發布侮辱或誹謗他人，侵害他人名譽、隱私和其他合法權益的內容；應當采取措施防范、抵制制作展現血腥、驚悚、殘忍等致人身心不適的內容。
如果只是談到網絡暴力的提前預防和保護，那從平臺和用戶的角度來說，針對平臺去做產品的優化升級也要比限制用戶來得更容易。畢竟用戶千千萬，而平臺就只有那幾個。所以不管是政策的要求還是平臺自己的迭代，我們都能看到越來越多平臺在主動做出改變。
各顯身手，制網暴
中國互聯網平臺對網暴越發關注是從今年開始的。
2022 年 1 月開展的清朗行動中列出了重點整治的五個方面，其中首先被提及的就是「網絡暴力、散播謠言等問題」。在這個行動后，越來越多平臺上線了有著不同命名的防網暴功能或模式。
▲ 網暴來自屏幕背后看不見的手 . 圖片來自：Mingyongcheng
反應最快的是微博，1 月 24 日，微博在回應劉學州事件時就表示平臺擬上線一鍵開啟「防暴模式」，用戶可以在隱私設置里對評論博文和私信的人加以限制；還可以開啟「評論防火墻」，由系統自動屏蔽人身攻擊和惡意騷擾的內容。
微博在 3 月 11 日就正式上線了這一模式，相較于其他平臺，微博這一模式最大的不同在于「將綜合考慮評論、私信等各個場景的不同行為特征，提前發現潛在被攻擊用戶，做好前置環節的預警提示，引導高風險用戶主動開啟一鍵防護功能，進一步減少和預防用戶遭受言論攻擊的情況。」
▲ 微博一月底曾預告「防暴模式」
平臺：微博
功能名稱：一鍵防護
上線日期：3 月 11 日
防護日期：7 天
主要功能：7 天內不接收未關注人的私信，未關注人將無法評論你的微博，未關注人轉發你微博的記錄將不會展示在轉發列表中
打開方式：「我」-「隱私設置」-「一鍵防護」；引導高風險用戶主動開啟
▲ 一鍵防護開啟界面
和微博為用戶構建防護墻不同，抖音還會主動出擊，向那些內容發布者示警。用戶在評論區發布的違規 / 低質評論會被模型匹配校驗，收到評論彈窗「該評論可能對他人造成負面影響」，引導用戶重新編輯。若用戶選擇繼續發布，則評論也會不公開可見，進入審核環節內合規才能放出。
▲ 抖音將自己稱為首個上線「評論發文警示」的平臺
平臺：抖音
功能名稱：發文警示
上線日期：2 月 23 日
防護日期：持續
主要功能：系統模型判定已發送的評論存在問題，則會推送彈窗提醒，建議發送者重新編輯，去除不當言論；若發送者堅持發送，則該條評論不會在評論區出現
打開方式：平臺模型自動校驗
▲ 抖音的「評論發文警示」功能
緊接著的是豆瓣，它對于用戶在平臺過往內容的保護更為詳盡。不僅用戶無法回復內容、收藏內容，你未關注的人也無法查看你的個人主頁，無法查看往期內容，能夠有效隔絕潛在的「挖墳」行為。
平臺：豆瓣
功能名稱：應急防護模式
上線日期：3 月 25 日
防護日期：3 天、7 天、14 天
主要功能：隔離窺視（僅關注者可查看個人主頁內容）；預防騷擾（陌生人未經同意無法私信，非友善評論自動隱藏）；控制傳播（僅關注人可回復內容，可禁止該內容的轉發收藏）
打開方式：「設置」-「隱私設置」-「應急防護模式」
▲ 應急防護模式可選擇防護持續時間
這是目前已經上線了防治網暴整合方案的平臺。其中很多功能可能是原本應用就已有的功能，例如不同平臺均可設置禁止關注 X 天內用戶評論、限制轉發等等。
知乎就有強制關閉評論、強制開啟評論預審等功能，系統 + 人工雙重安全評估的模式在一定程度上可以過濾一些攻擊性內容；B 站也有私信智能攔截、私信垃圾箱、防騷擾模式幫用戶隔絕不良信息；小紅書、快手等平臺也能對互動、關系進行更多的限制和選擇。
但平臺能夠提供一個完整的解決方案依舊是不同的。
▲ B 站這樣的非社交平臺也有私信智能攔截的功能
讓用戶打開應急的方案
豆瓣對愛范兒表示，他們在設計「應急防護模式」的功能時，是對用戶遭受網暴、隱私威脅一般路徑的觀察來進行規劃的。
常見的網絡暴力包括言語攻擊、人身侮辱、人肉搜索、傳播謠言等，那豆瓣就選擇通過保護受害者的個人歷史和隱私（隔絕窺視）、減少直接的言論攻擊（預防騷擾）、降低二次傳播的幾率（控制傳播）這幾方面去重點防護，切斷慣常網暴者對受害者信息收集和信息轟炸的鏈路。
▲ 豆瓣
打開這個模式，意味著他人無法查看你過去在社交網絡留下的只言片語，也沒辦法根據你過去的互聯網歷史編造、再創作出侮辱性的內容。同時，那些最為惡毒的言語攻擊也無法展現在你面前，私信、評論、轉發的道路被堵住了，沒人可以隔著屏幕給你的心扎上一刀。
人人都在說互聯網的互聯互通，但每一個平臺的防網暴模式反而構建了一間難得的安全屋。用戶在短時間內看到的內容都是經過處理審核的，惡語無法傷人，只能在屏幕后宣泄自己的惡意，而這些惡意也會受到懲罰。
已經有了越來越多的受害者通過訴訟維護了自己的合法權益，讓網暴者賠償、道歉。但訴訟的高成本和一句脫口而出的惡意似乎并不相抵，并非所有的受害者都愿意花時間精力去做這件事。平臺在這個階段也能發揮作用，不管是禁言處罰用戶，還是給用戶進行警告，平臺干預的成本是更低的。
▲ 被造謠出軌的受害者就選擇通過訴訟維護自身權益
微博在上線「一鍵防護」模式外，就透露了平臺正在開發建設行為監測模型的消息。有了模型的加持，平臺可以通過分析用戶不友善評論、舉報數量頻次等數據，準確識別網暴苗頭，從機制上、源頭上來解決問題。
在清理違規信息的同時，我們也會依據不同行為性質，采取階梯式處置：針對參與網絡暴力的賬號，采取批量禁言、限制功能等處置，對首發、多發、煽動發布網暴信息的賬號，采取永久禁言等措施，對涉嫌違法犯罪的，移交有關部門依法追究法律責任。
▲ 微博
只是功能跟上了，宣傳也得跟上。一位曾經因為一條內容問題而收到網友私信辱罵的人表示，她認為這個功能管用，但也質疑用戶會不會主動打開它。
「其實專門私信罵我的就三個，但我都受不了，忍不住去看有沒有支持的言論，看到其他人也在說我有問題就很 emo，那幾天都很不爽。」提及自身經歷，這位曾經接受過負面信息沖擊的用戶也提出了自己的質疑：「所以我覺得還有一個很重要的問題是，他們（用戶）能不能知道這個功能，愿不愿意不看其他人的評論，打開這個功能？」
在防網暴模式上線沒多久的今天，功能普及率和用戶主動打開的意愿都屬于未知。在這種時候，像微博、抖音這樣可以主動出擊的平臺也能發揮自己的作用，前者引導用戶打開這一功能，后者主動為用戶在評論區構建一堵安全墻，讓惡語無法攻破。微博就對愛范兒表示：
我們也正在開發完善系統自動提醒機制，對高風險用戶做出主動提醒，引導用戶開啟，進一步減少和預防用戶遭受言論攻擊的情況。
▲ 圖片來自：Omidyar Network
從為用戶提供隱私設置的選擇，到為防治網暴建立一套系統的升級方案，再通過宣傳引導用戶使用這一功能、了解這一功能，平臺的變化經過了很多年。但這依舊可能是開始，而非結束，每一個平臺在運營過程中也在收集用戶的反饋，等待下一次的升級和迭代。
豆瓣也對愛范兒表示：
這幾個方向其實是對目前防護模式策略的一個概括，但并不是對于網絡暴力治理措施的窮盡。
