近日,知識社交平臺知乎發布社區管理產品「評論折疊」,通過智能機器人和社區用戶自治兩種方式共同把關留言評論的內容質量,維護認真、專業、友善的社區氛圍。其中,被知乎稱為「瓦力」的算法機器人會對有「辱罵性質」詞匯以及「前排」、「666」等無營養的評論進行自動識別和即時折疊;而作者、知友則可分別通過「一鍵折疊」和「踩」功能管理低質量評論。
知乎文章評論區「折疊」/「踩」功能示意
今年1月,「評論折疊」開始逐步內測上線。截至3月8日,共有近30萬條評論被折疊,其中「瓦力」折疊了近22萬條,準確度達到 99.7%。而 16000 多位回答作者使用了「一鍵折疊」功能。超過40萬知友使用了「踩」功能,累計「踩」了 近270萬次,將 3 萬余條評論踩進了折疊區。
近十幾年互聯網的蓬勃發展,使得人們能方便地表達自己的聲音,但與真實社會不同的是,互聯網世界尚未建立文明共識,很多互聯網用戶并未意識到,人們在網絡空間中無所顧忌,惡意的、重復的、帶有敵意的語言會形成網絡暴力,帶來傷害。
作為一個倡導友善分享自己知識、經驗和見解的知識平臺,知乎一直旗幟鮮明地反對網絡暴力。過去幾年,知乎分別從社區規范、算法識別和產品機制上維護社區氛圍。而今,知乎基于用戶反饋和不斷反思,通過「評論折疊」開啟了將「鄰里守望」、「社區共識」產品化的嘗試,讓每一個用戶都成為評論內容的治理者,幫助用戶更高效發現有價值的內容。而在中文互聯網社區中,知乎首家針對評論內容推出折疊功能,也由此邁入了一個更深層次的平臺自治時代。
知乎用戶marije是「評論折疊」的第一批體驗者,她坦言:“我喜歡看完文章在評論區和大家一起討論,十分討厭評論區看不到高質量的觀點,被沒營養或粗俗的評論刷屏。所以我會去頂優秀評論,踩掉那些比較水的評論。”
「評論折疊」旨在清理諸如「陰陽怪氣」、「發泄負面情緒」等嚴重影響知友討論體驗的評論,其實現方式是:當評論發出后,「瓦力」作為先頭部隊,進行自動識別和清理,接下來,回答評論區中有「折疊」和「踩」兩個功能,每個人都可以對不禮貌的評論點擊「踩」。當被踩評論的分值達到一定閾值后,評論會被自動折疊。同時,回答者擁有「一鍵折疊/取消折疊」的權利,進一步加大了對回答評論區的可控力度。此外,用戶也有點擊舉報和申訴的權利,而知乎管理員會定期人工處理折疊區中的辱罵評論和帳號。
值得一提的是,不同用戶的「踩」會在不同程度上決定該評論是否進入折疊區的命運。由于「評論折疊」延續了知乎原有的用戶話題權重算法,專業的高權重用戶的投票對是否折疊的影響更大,這將提高「折疊」處理的效率和準確度。此前,在知乎的試驗中,依據用戶權重以及用戶以往舉報準確度,系統自動對其舉報的違規內容進行處理,這類舉報處理的準確率達到了 99.6%,超越了目前任何人工判斷的準確率。
「評論折疊」還能在一定程度上幫助用戶情緒緩沖,降低非理性情況下矛盾沖突的激化。此前,知乎主要依靠刪除和舉報兩項功能來管理評論區,有時可能出現用戶在情緒中發表的激烈評論被回答者刪除/舉報后,會更加氣憤或難以接受,繼而引發更多沖突的情況。
除了「評論折疊」,知乎還在通過悟空反作弊系統,365天全年無休的實時識別垃圾廣告內容、刷贊刷反對等行為。僅過去半年,悟空就累計處理近130萬條惡意營銷內容,封禁20余萬個違規賬號。未來,知乎還將持續優化「評論折疊」,優化「瓦力」的識別性能,提高「瓦力」的響應速度和準確率,并開發更多產品來推動社區實現良性自治。